Die digitale Diktatur

Rezension des Buchs „21 Lektionen für das 21. Jahrhundert“ von Yuval Noah Harari

von
6 Minuten
Ein Mensch steht an einer digitalen Wand, über die er eine Stadt steuert.

Der Bestsellerautor Yuval Noah Harari warnt vor einer Zukunft, in der die Bürger zufrieden und unter Kontrolle sind. Computer durchschauen ihr Gefühlsleben und manipulieren es. So weit kann es kommen, wenn man die Hoheit über seine Daten aufgibt. Eine Rezension.

Wir fürchten uns vor den Falschen, warnt Yuval Noah Harari. Computer werden auch in Zukunft kein Bewusstsein erlangen und sich über die Menschen erheben. Das sei schlechte Science-Fiction, sagt der Historiker und Bestsellerautor. Doch dass Menschen mit der Hilfe der Künstlichen Intelligenz die Weltherrschaft übernehmen – dieses Szenario malt Harari in seinem neuen Buch „21 Lektionen für das 21. Jahrhundert“ aus. Er greift damit Themen auf, die auch die ZukunftsReporter bewegen, und macht deutlich, wie sehr sich die Zeiten ändern. Im 20. Jahrhundert, so Harari, brauchten Überwachungsdienste noch viel Personal, um die Datenflut zu bändigen. So viele Akten über so viele Menschen! Heute können hingegen einige Operateure riesige Datenmengen zentral verwalten – und ihre Möglichkeiten nehmen weiter zu.

Yuval Hararis Szenario beginnt scheinbar harmlos mit einem angenehmen Service: Computer wählen für ihre Nutzer die passende Musik aus, ohne dass man nach der richtigen CD oder Datei suchen müsste. „Mozart in der Maschine“ heißt die Überschrift in Hararis Buch. Um die Stücke auszuwählen, die dem Nutzer in einer bestimmten Situation gefallen, müssen die Maschinen herausfinden, welche Wirkung Musik bei Menschen entfaltet. Und dann müssen sie lernen, aus biometrischen Daten und dem Verhalten der Nutzer deren Gefühle abzulesen. Sie wissen dann, mit welchem Persönlichkeitstyp sie es zu tun haben und in welcher Verfassung er gerade ist – und können voraussagen, wie er auf einen bestimmten Song reagieren wird. Was dann möglich wäre, beschreibt Harari am Beispiel der Trennung eines Paares:

„Erst hilft Ihnen der Algorithmus zu leugnen, was geschehen ist, indem er Bobby McFerrins Don’t Worry, Be Happy spielt, dann facht er Ihre Wut an mit Alanis Morissettes You Oughta Know, dann ermuntert er Sie, es vielleicht noch einmal mit gutem Zureden zu versuchen (Jacques Brels Ne me quitte pas und Paul Youngs Come Back and Stay), ehe er Sie mit Adeles Someone Like You und Hello in die Hölle der Depression befördert und Ihnen schließlich dabei hilft, die Situation mit Gloria Gaynors I Will Survive zu akzeptieren.“

Die Menschen sind berechenbar

Solche Zusammenhänge können Computer im Prinzip auch ohne detailliertes psychologisches Vorwissen erkennen. Das Verfahren wird „unüberwachtes Lernen“ genannt, die ZukunftsReporter haben es im Szenario „Der Computer greift nach dem Chefposten“ erläutert. Die Denkwege der Computer lassen sich im Nachhinein zwar in vielen Fällen nicht rekonstruieren, doch wenn sie oft genug richtig liegen, wird vielleicht niemand mehr ihre Entscheidungen oder Empfehlungen hinterfragen. Wie autodidaktisch die Maschinen schon arbeiten, zeigt das Beispiel von AlphaGo Zero. Dieser Algorithmus hat allein auf der Grundlage der Spielregeln innerhalb von vier Stunden Schach gelernt – und schlug anschließend das bis dahin weltbeste Programm Stockfish. Einige Details der Programmierung hat die Google-Tochter DeepMind in einem Fachartikel veröffentlicht.

Yuval Noah Harari und sein neues Buch „21 Lektionen für das 21. Jahrhundert“
Yuval Noah Harari und sein neues Buch „21 Lektionen für das 21. Jahrhundert“

Verantwortlich im Sinne des Presserechts

Alexander Mäder


Lenbachstr. 44
70192 Stuttgart
Deutschland

Tel: +49 177 7844988

Weitere Mitarbeiterinnen und Mitarbeiter

Redaktion: Rainer Kurlemann