Menü
Märkische Allgemeine | Ihre Zeitung aus Brandenburg
Anmelden
Politik Künstliche Intelligenz: Der maschinelle Makel
Nachrichten Politik Künstliche Intelligenz: Der maschinelle Makel
Partner im Redaktionsnetzwerk Deutschland
13:27 19.03.2018
Nicht die Unterjochung der Menschheit durch eine künstliche Superintelligenz sollte uns Sorgen machen, an der Schnittstelle zwischen Staat und Bürger lauert die Gefahr.  Quelle: Ikon Images
Anzeige
Berlin

 Im Raumschiff “Discovery“ hat HAL 9000 die Macht übernommen. Der Supercomputer tötet den Astronauten Frank Poole und drei im Tiefschlaf befindliche Astronauten, nachdem er mitbekommen hat, dass die beiden aktiven Besatzungsmitglieder ihn abschalten wollen. Der überlebende Raumfahrer, David Bowman, tritt schließlich an zum Showdown zwischen Mensch und intelligenter Maschine.

Mit menschlicher Kreativität überlistet Dave die künstliche Intelligenz und zerstört ein Rechnermodul nach dem anderen. Am Ende summt HAL 9000 nur noch dümmlich “Hänschen klein“ vor sich hin, seine erste programmierte Erinnerung. Die Szene stammt aus Arthur C. Clarkes Roman “2001: Odyssee im Weltraum“. Sie bedient den alten Golem- und Frankenstein-Mythos vom Menschen, der sich ein künstliches Wesen als Diener erschafft. Dieses wird stärker als sein Schöpfer und wendet sich gegen ihn.

Künstliche Intelligenz (KI) – also aus Daten lernende IT-Systeme – machen gerade große technische Fortschritte. Sie steuern Autos, erkennen Krebszellen, entscheiden über Kredite und Krankenversicherungsansprüche. KI spielt besser Jeopardy, Go und Poker als die amtierenden Weltmeister. Risikokapital-Investoren stehen bei Start-up-Gründern Schlange, die mit künstlicher Intelligenz menschliche Entscheidungen automatisieren wollen.

Apokalytische Prophezeiungen lenken vom eigentlichen Problem ab

Derweil feiert auch HAL 9000 ein Comeback, allerdings nicht als Science-Fiction-Apparatur, sondern als apokalyptischer Diskurs. Der Oxford-Philosoph Nick Bostrom spekuliert, dass eine außer Kontrolle geratene “Superintelligenz“ die Menschheit unterjochen könnte, Tesla-Gründer Elon Musk hält Künstliche Intelligenz für “gefährlicher als Atomwaffen”. Der Astrophysiker Stephen Hawking stimmte in beider Untergangslied mit ein.

Die überwiegende Mehrheit der seriösen KI-Forscher hält die düsteren Prophezeiungen für Selbstmarketing auf dem globalen Aufmerksamkeitsmarkt. Der Weltuntergang fällt auch diesmal aus. Es ist zurzeit kein technischer Entwicklungspfad erkennbar, der außer Rand und Band geratende KI-Systeme möglich machte. Die sogenannte “KI-Kontroll-Frage“ ist eine Forschungsfrage, die im Sinne der Technikfolgenabschätzung immer intensiv mitgedacht werden muss. Aber sie stellt sich zurzeit nicht. Sie ist (zum Glück) Science-Fiction.

Die überlaute Debatte um Superintelligenz von meist fachfremden medialen Superstars hat aber einen unerwünschten Nebeneffekt: Sie lenkt von den tatsächlichen Gefahren durch künstliche Intelligenz im Hier und Heute ab. Mit KI-Systemen lassen sich Menschen manipulieren – kommerziell und politisch.

In wessen Interesse agiert der virtuelle Assistent?

Alexa, Google Home und Facebook-Chatbots sind erst der Anfang. In wenigen Jahren werden wir viele Entscheidungen im Alltag an Assistenten delegieren, die aus Daten lernen. Sie werden für uns einkaufen, uns Partner vorschlagen und medizinische Diagnosen stellen. Die zentrale Frage beim Delegieren von Entscheidungen an KI lautet: In wessen Interesse agiert der virtuelle Assistent?

Stand heute werden die meisten von ihnen nicht von Unternehmen entwickelt und angeboten, die dem Nutzer neutral gegenüberstehen. In der Regel wollen sie im Auftrag ihrer Anbieter beraten und verkaufen. Das ist grundsätzlich legitim. Jeder Einzelne wird lernen müssen, wo er für sich die Grenze maschineller Bevormundung zieht. Die Verantwortung für technologische Selbstentmündigung tragen wir zunächst selbst.

Staat und Markt werden allerdings sicherstellen müssen, dass Kunden eine große Auswahl an Bots haben, die dem Prinzip der Neutralität folgen, und dass KI-Entscheidungssysteme weder Einzelne noch Gruppen diskriminieren. Das setzt voraus, dass der Staat ein Rechtsstaat ist und KI nicht benutzt, um Bürger zu betrügen oder zu gängeln.

Technische Möglichkeiten für den perfekten Überwachungsstaat

An der Schnittstelle von Staat und Bürger lauert vielleicht die größere Gefahr: der staatliche Missbrauch von KI für Massenmanipulation, Überwachung und Unterdrückung. Die heute verfügbaren technischen Möglichkeiten für den perfekten Überwachungsstaat lesen sich wie ein Best-of aus allen politischen Dystopie-Romanen seit George Orwells “1984“.

Der Staat kann Überwachungskameras mit automatischer Gesichtserkennung kombinieren und weiß, wer bei Rot über die Ampel geht. Stimmerkennung bei Lauschangriffen identifiziert nicht nur den, der spricht. Das System sagt auch, in welchem emotionalen Zustand sich der Sprecher befindet. Automatische Textanalyse in sozialen Medien und Chats identifiziert in Echtzeit, wo subversiv geredet und gedacht wird.

Die Zuverlässigkeit eines Bürgers wird berechenbar

GPS- und Gesundheitsdaten aus Smartphones, Zahlungsverkehr per App und Kredithistorie, digitalisierte Personalakten und polizeiliche Echtzeit-Führungszeugnisse liefern alle nötigen Informationen, die Zuverlässigkeit eines Bürgers zu errechnen. Und natürlich auch jede Menge Steilvorlagen für (potenzielle) Geheimpolizeiarbeit. Über Social Bots zur Verbreitung personalisierter politischer Botschaften verfügt der digitale Allmachtsstaat natürlich auch.

Chinas Überwachungsbehörden bauen gerade ein soziales Scoring-Modell auf, das viele dieser technischen Elemente bereits anwendet. Verblüffend aus westlicher Sicht ist, dass viele Chinesen das System gar nicht so schlecht finden, besonders wenn sie sich für anständige Bürger halten und sich selbst Vorteile versprechen.

In westlichen Demokratien mögen wir das als besonderes Alarmzeichen sehen, was passieren könnte, wenn bei uns radikale Parteien mit autoritärem Staatsverständnis an die Macht kämen und die KI-Werkzeuge für Massenmanipulation einsetzen.

Thomas Ramge: Mensch und Maschine Quelle: Reclam

Zur Person: Thomas Ramge (46) ist Sachbuchautor und Wirtschaftsjournalist. Er ist Technologiekorrespondent des Wirtschaftsmagazins “brand eins“ und Autor bei “The Economist“. Sein neues Buch “Mensch und Maschine“ ist bei Reclam erschienen.

Von Thomas Ramge

Vor sechs Monaten machte Frankreichs Präsident weitreichende Vorschläge für eine Reform der Euro-Zone, denen nicht alle in der neuen deutschen Regierungskoalition freudig gegenüberstehen. Mit ihrem Antrittsbesuch in Paris gab die Bundeskanzlerin den Startschuss – nicht für die Reformen, sondern für gemeinsame Vorschläge bis Juni.

16.03.2018

Rentner können sich in diesem Jahr auf eine kräftige Erhöhung gefasst machen – und Arbeitnehmer ab 2019 womöglich auf einen niedrigeren Beitragssatz.

15.03.2018
Politik Neues Personal für Kanzleramt und Ministerien - Bundesregierung will über 200 Stellen schaffen

Die Bundesregierung möchte das Personal im Kanzleramt und in sechs Ministerien kräftig aufstocken. Insgesamt sollen über 200 neue Stellen entstehen, die meisten davon im neuen Innenministerium.

16.03.2018
Anzeige