Wie Ai die Gesellschaft regeln kann

Algorithmische Kontrolle: Ein Auszug aus Yvonne Hofstetters Buch “Das Ende der Demokratie: Wie die künstliche Intelligenz die Politik übernimmt und uns entmündigt”

Deutscher Bundestag/Katrin Neuhauser

15. Dezember 2016

"Womit müssen wir rechnen, wenn wir sie einschalten?", hakt Scott nach.

Solange Ai im Labor eingeschlossen ist, kann sie gar nichts tun. Politisch handelnde Akteurin wird sie erst dann, wenn sie mit dem Leben verbunden wird. Wenn sie in den öffentlichen Raum hinaustritt. Wenn sie von den beiden Forschern in das Internet of Everything integriert und mit ihm vernetzt wird. Erst mit der Internetverbindung könnte sie mit der Überwachung der Gesellschaft beginnen. Dann würde sich auch ihr kybernetischer Regelkreis schließen.

Christian setzt sich wieder an seinen Bildschirm.

"In den letzten Wochen hat Ai gelernt, politische Anreize zu setzen, die proeuropäisch sind", sagt er. "Natürlich nur solche Anreize, die dein Demokratiemodell überhaupt zulässt."

Scott Muller hat seinen Multiagenten erlaubt zu wählen, um ihre ganz persönlichen Glücksmomente zu maximieren. Zulässig waren auch Informationsläufer. In der realen Welt würde Ai also bestimmte Nachrichten verbreiten und Informationsdynamik und -inhalte so einsetzen, dass die Wähler Europas stimuliert wären, eine "sichere" Alternative zu wählen. Eine Alternative, die nicht antieuropäisch wäre. Mehr gibt Scott Mullers experimentelles Demokratiemodell aktuell nicht her.

"Wenn wir das Demokratiemodell weiter ausbauen würden, bekäme Ai mehr Handlungsspielraum", sagt Scott.

"Du kannst dein Demokratiemodell um zig Variablen ergänzen. Zum Beispiel um die wirtschaftliche Gerechtigkeit. Dafür könntest Du sogar einen weltweit genutzten quantitativen Indikator beiziehen, den Gini-Koeffizienten. Er misst die Ungleichheit von Einkommen."

"Oder auch die Wirtschaftsleistung Europas. Die Inflation. Einen Korruptionsindex. Die Reformbereitschaft politischer Institutionen, ihre Leistungsfähigkeit, den Grad sozialer Inklusion." Scott Muller hätte noch viel mehr Ideen.

Christian hat nur einen Einwand.

"Je mehr Variablen dein Demokratiemodell hat, desto länger wird es dauern, bis Ai im Simulator eine erfolgreiche politische Kontrollstrategie findet. Denn dein Modell kann plötzlich so viel mehr Varianten europäischer Zukünfte erzeugen. Der Suchraum einer optimalen Kontrollstrategie würde riesengroß. Bis Ai alle Zukunftsszenarien betrachtet und den Suchraum nach einer Lösung abgetastet hat, kann einige Zeit vergehen."

Also Wochen, vielleicht sogar Monate. Dann müsste man eben die Serverfarm aufrüsten und in zusätzliche Supercomputer mit hoher Rechenleistung investieren. So könnten mehr Zukünfte parallel erzeugt werden, und Ai könnte schneller entscheiden lernen. Oder man müsste beide, Demokratiesimulator und Ai, auf die große Rechnerwolke auslagern, bei Amazon oder Google. Doch der Gedanke gefällt Scott Muller nicht. Die Rechnerwolke besteht aus nichts als Computern, die fremden Menschen gehören. Eine eigene europäische Rechnerinfrastruktur wäre viel sicherer, um strategisch wichtige Berechnungen für Europa anzustellen.

RiffReporter fördern

Dieser Artikel ist kostenpflichtig. Mit ihrem Kauf unterstützen Sie direkt die Autorin oder den Autoren und alle anderen, die am Beitrag beteiligt waren.

Liebe Leserin, lieber Leser,
um diesen RiffReporter-Artikel lesen zu können, müssen Sie ihn zuvor kaufen. Damit Ihnen der Kauf-Dialog angezeigt wird, dürfen Sie sich aber nicht in einem Reader-Modus befinden, wie ihn beispielsweise der Firefox-Browser oder Safari bieten. Mit dem Einzelartikel-Kauf schließen Sie kein Abo ab, es ist auch keine Registrierung nötig. Sobald Sie den Kauf bestätigt haben, können Sie diesen Artikel entweder im normalen Modus oder im Reader-Modus bequem lesen.

Blick auf den Bundestag
Sitz des Bundestags: Statt Demokratie künftig Demokratiesimulation per Rechner?
Deutscher Bundestag/Axel Hartmann

"Nehmen wir an, wir schalten Ai ein. Was würde als Nächstes geschehen?", will Scott wissen.

"Zuerst müsste man ein Strategiezentrum einrichten, eine Art politisches Cockpit. Vielleicht in Brüssel. Dort bräuchte Ai schnelle Rechner für ihren Echtzeitbetrieb. Dazu einen Highspeed-Internetanschluss. Und einige Babysitter."

Scott muss lachen. "Piloten, die auf den Autopiloten aufpassen."

"Ai wird bessere Entscheidungen treffen als ihre menschlichen Kollegen. Piloten dürfen auch nicht ohne Autopilot fliegen."

Scott weiß, warum. "Ai trifft die besseren politischen Entscheidungen, weil sie, im Gegensatz zum Menschen, mit Statistik umgehen kann. Sie arbeitet wissenschaftlich."

"Wenn wir keine Vorurteile einbauen, auch nicht versehentlich, ist das richtig", stimmt Christian zu.

"Und weil sie die Gesellschaft täglich vierundzwanzig Stunden lang überwacht, kann sie schnell handeln, falls antieuropäische Tendenzen drohen."

"Eigentlich funktioniert es so", erklärt Christian. "Wir haben Ai gezeigt, wie man die Gesellschaft in Gruppen aufteilt. Alle Menschen, die einer Gruppe angehören, verfolgen bestimmte Ziele."

Scott nickt. "Eine Gruppe will mehr Klimaschutz, eine andere bessere persönliche Bildung, die dritte ein höheres Einkommen. Wer genau wonach strebt, wie weit er von seinem Ziel entfernt ist und wie groß die Gruppen sind, können wir aus dem Alltagsverhalten der Menschen bei sozialen Netzwerken, Einkäufen bei Onlineshops und Mobiltelefonaten leicht herausfinden."

Sofort fallen Scott Beispiele ein. Männliche Facebook-Nutzer, die Britney Spears oder Desperate Housewives einen Like schenken, geben eine Indikation dafür ab, dass sie homosexuell sind. Aus den öffentlich zugänglichen Gruppenlisten von Twitter-Anwendern können Datenanalyse-Programme auf den Charakter eines Twitterers schließen. Wie gewissenhaft, neurotisch oder verträglich eine Person ist, ergibt sich aus der Regelmäßigkeit ihrer Mobiltelefonnutzung, der Anzahl der verpassten Anrufe oder der Länge mobiler Textnachrichten. Auf ganz ähnliche Weise lassen sich Rückschlüsse auf die politische Orientierung einer Person ziehen.

"Dein Demokratiesimulator", fährt Christian fort, "hat Ai zuerst einen Anfangszustand der Gesellschaft gezeigt. So wie sich die Europäer heute fühlen."

"Und wenn sie heute wählen würden, um ihren ‘Glückszustand’ zu erreichen", ergänzt Scott.

"Richtig. Die Aktion, die die Menschen setzen können, um ihrem Zielzustand näher zu kommen, ist die Wahl zwischen alternativen politischen Parteien."

Die beiden Forscher haben Ai vorgespielt, was den Franzosen widerfahren kann, wenn sie Marine Le Pen zur Staatspräsidentin wählen und die Eurozone zerbricht. Ai hat das Szenario auf sich wirken lassen. Dann hat sie damit begonnen, auszuprobieren, mit welchen Argumenten sie die französischen Wähler davon abbringen könnte, den Front National zu wählen. Tatsächlich hat sie hunderttausende verschiedener Szenarien betrachtet, bis sie die Kontrollstrategie gefunden hat, mit der sie die Wähler in den meisten aller Fälle ganz in ihrem Sinne beeinflussen könnte.

"Wenn wir sie in ihrem Brüsseler Strategiezentrum einschalteten, würde sie die europäischen Wahlberechtigten in Realzeit überwachen. Aus den Messwerten der Überwachung berechnet sie die aktuelle Lage. Wie unzufrieden die Europäer sind. Oder wie glücklich. Dann baut sie Hypothesen auf, wie wir uns morgen fühlen werden, nicht nur heute. Damit sie entscheiden kann, welchen Anreiz sie setzen soll, um die Zukunft in ihrem Sinn zu lenken."

Christian spricht einen zentralen Punkt an. Nur wenige in Politik und Wirtschaft verstehen den wahren Wert großer Messdatenmengen. Ihr Nutzen, glauben viele, läge darin, neue Erkenntnisse zu gewinnen. Das ist falsch. Die Datenanalyse dient nicht der Rückschau. Nicht der noch genaueren betriebswirtschaftlichen Einsicht. Nicht dem noch besseren Vergleich europäischer Länder. Nicht um etwas zu entdecken, das bisher verborgen war. Der Wert von Information liegt darin, dass sie die gezielte Lenkung der Zukunft erlaubt.

"Was wird Ai tun, wenn sich die Lage der Europäer verschlechtert?", fragt Scott.

"Wenn sich die Hypothese erhärtet, wonach es kritisch wird für Europa? Dann wird sie proaktiv tätig. Dann sendet sie Mitteilungen aus, damit wir uns wieder besser fühlen."

"Ohne dass wir merken, was überhaupt vorgeht."

Willkommen in der Welt der Paternalisten. In Zukunft wird es den Menschen doppelt so schwerfallen zu erkennen, was vor sich geht. Nicht nur, weil man sie steuern kann, ohne dass es ihnen auffiele. Sondern auch, weil es eine Blackbox wäre, die die Menschen lenkt. Von der nicht einmal ihre Schöpfer mit letzter Gewissheit sagen könnten, was in ihr vorgeht.

Christian fährt unbeirrt fort. "Ai nutzt nicht nur die sozialen Medien, um Information zu verbreiten. Nicht nur Twitter oder Facebook."

“Wir haben Ai gezeigt, wie man die Gesellschaft in Gruppen aufteilt.”

Richtig, die beiden Männer hatten verschiedene Typen von Informationsläufern vorgesehen.

"Ai kann auch die klassischen Medien aktivieren. Oder einzelne Menschen", ergänzt er trocken.

"Der Einzelne erhält eine bestimmte Information", stellt Scott fest.

"Die er dann mit seinem sozialen Netzwerk, online wie offline, teilen wird."

"Womit wir wieder beim Thema der Meinungsbildung sind", wirft Scott ein.

"Wenn ein Einzelner eine Information in seinem sozialen Netzwerk verbreitet und nicht Ai selbst, ist die Information glaubwürdiger."

Das ist genau die Art von Psychoexperiment, mit dem die Menschen künftig rechnen müssen. Freundschaften und Nachbarschaften werden instrumentalisiert, um Menschen zu lenken. Übrigens keine neue Idee. Sie stammt aus der Welt der Nachrichtendienste und der Militärs. Graue Operationen nennt man das Vorgehen in deren Kreisen. Man lanciert eine Information und schiebt sie einer unverdächtigen Quelle unter. Als Hybridkrieg wurden die grauen Operationen schon bei der Münchner Sicherheitskonferenz 2015 thematisiert.

"Und dann gehen wieder mehr Menschen zur Wahl? Und vor allem: Dann wählen sie, wie Ai es will?" Scott schüttelt sich.

"Die Versuche laufen doch längst", sagt Christian nüchtern.

Schon 2010 hatten Forscher 61 Millionen wahlberechtigte Facebookanwender für die amerikanischen Kongresswahlen mobilisiert. Mit der Auswertung von Facebook-Daten amerikanischer Wähler gewann Barack Obama die Präsidentschaftswahl 2012. Auch die SPD will die Datenanalyse im deutschen Bundestagswahlkampf 2017 einsetzen, um endlich mehr als die seit Jahren betonierte Wählerzustimmung bis höchstens 25 Prozent zu erzielen.

"Eines interessiert mich noch", sagt Scott. "Was wird Ai tun, wenn sie eine Lage in der Wirklichkeit beobachtet, die sie noch nie so oder ähnlich im Demokratiesimulator gesehen hat?"

Etwa in der Art, dass Europa in einer kriegerischen Auseinandersetzung überfallen würde. Dass Nordkorea seine Drohungen wahr macht und eine Atombombe zündet, in dessen Folge auch über Europa Chaos hereinbräche. Schwarze Schwäne eben. Das Unerwartete, das man nicht kennt, mit dem man aber jederzeit rechnen muss und das viel öfter eintritt, als man glaubt.

"Wenn dein Demokratiemodell auch Schwarze Schwäne simuliert, kann Ai auch damit umgehen", bestätigt Christian.

"Und wenn sich das reale Umfeld schleichend ändert?", fragt Scott.

"Ai lernt auch während des Betriebs. Sie kennt das Konzept vom Metalernen. Metalernen bedeutet, sie adaptiert sich an eine sich verändernde Umgebung."

Das muss sie auch. Ai ist dafür gebaut, ein komplexes adaptives System zu regeln – zur Echtzeitlenkung der Gesellschaft auf der Basis von Echtzeitinformation. Das kann sie schaffen, und sie kann ihre Sache wirklich gut machen. Nur, dass die Welt eine andere werden wird, wenn sie in Betrieb geht. Sie und ihresgleichen. Fragen danach, wie ihre Netzarchitektur beschaffen wäre oder wie viele Rechner man bräuchte, bis sie eine Kontrollstrategie berechnet hätte, wären dann nur noch reine Nebensache.

Lesen Sie jetzt…

  1. Artikel
  2. RiffBuch

Stufen in der Wildnis

Der Ngorongoro-Krater in Tansania gilt als unberührte Natur. Unter deutscher Kolonialherrschaft war das anders

Elefant vor Bergwand.
  1. Artikel
  2. RiffBuch

Und der Verbrecher ist immer der Wissenschaftler

Überehrgeizig, gierig, korrupt – aktuelle Krimis zeichnen ein düsteres Bild von Forschern

Abstraktes Bild zu DNA-Strängen
  1. Artikel
  2. RiffBuch

Botschaften für die Zukunft

Gesundheit ist kein Zustand, sondern ein Prozess. RiffBuch-Auszug aus "Gesundheit ist kein Zufall"

Großmutter, Mutter und Tochter sitzen auf einem Steg am See.
  1. Artikel
  2. Klima
  3. Literatur
  4. RiffBuch

Der Nordpol brennt, die Bestien kommen

Alfred Döblin nahm als Science-Fiction-Autor die Konflikte unserer Zeit vorweg.

  1. Artikel
  2. Flugbegleiter
  3. RiffBuch

Vor lauter Staunen vergisst man das Lesen

Flugbegleiter-Buchspecial: Jonathan Elphick über die Geschichte der Vogelmalerei

Aus Audubons bekanntestem Werk, den "Birds of America", stammt dieser Nashornpelikan von 1836 (Bild aus dem besprochenen Band).
  1. Artikel
  2. DebatteMuseum
  3. Meere
  4. RiffBuch

"Viele Tiere sind so zerbrechlich wie Glas"

Die Ozeanforscherin Drew Harvell will mit Glasmodellen Menschen für den Meeresschutz begeistern.

Harvell glaubt, dass Kunst die Augen für die Umwelt öffnen kann: Der Tintenfisch Histioteuthis bonnellii.
  1. Artikel
  2. RiffBuch

Wunderbare vom Himmel geschaffene Formen

Was Sie schon immer über Schnee wissen wollten: RiffBuch-Auszug aus Bernd Brunners Buch “Als die Winter noch Winter waren”

Schneelandschaft in Abenddämmerung
  1. Artikel
  2. RiffBuch

Ist Naturschutz vom Kolonialismus in Afrika geprägt?

Der RiffBuch-Fragebogen mit dem Historiker und Autor Bernhard Gißibl

Besucher am Rand der Caldera des Ngorongoro-Gebiets.
  1. Artikel
  2. RiffBuch

Erbe, Umwelt, Vergangenheit

Gesundheit ist ein Prozess, der vor Generationsgrenzen nicht halt macht

Grafische Darstellung eines methylierten DNA-Abschnitts.
  1. Artikel
  2. Flugbegleiter
  3. Natur
  4. RiffBuch

Knerbeln, girlen, gigitzen, zinzelieren

In "Singt der Vogel, ruft er oder schlägt er?" hebt Peter Krauss einen vergessenen Wortschatz