Drei Zukünfte

Ohne ein Umschwenken im Umgang mit künstlicher Intelligenz steuert die Welt auf einen Abgrund zu, warnt die amerikanische Futuristin Amy Webb. In ihrem Buch „Die großen Neun“ skizziert sie einen Weg in eine menschenfreundliche digitale Welt.

Dieser Beitrag entstand für die neue Koralle "K.I. für alle", in der Chrisitian J. Meier Geschichten über Algorithmen erzählt - verständlich, gut recherchiert und mit kritischer Distanz. In den ersten Monaten werden die Texte dieser Koralle kostenfrei sein. Eine freiwillige Einmal- oder Abo-Zahlung ist jedoch möglich und freut den Autor. 

Ein finsteres Szenario malt Amy Webb, Zukunftsforscherin aus Baltimore im US-Staat Maryland, für das Jahr 2069.

Es handelt von einem brutalen Aggressor, gegen den jeder Widerstand zwecklos erscheint: Die „Rengong Zhineng Dynastie“ aus China. Sie beherrscht 150 Länder der Welt. Eine Welt mit zehn Milliarden Bewohnern, die zwei Drittel der Ackerfläche verloren hat. Das „Eine China“ unter Rengong Zhineng erleidet Knappheit. Es will an die Ressourcen des anderen Teils der Welt: die USA und ihre Alliierten, die letzten Bastionen von Demokratie und Freiheit. Das Imperium greift an. Ohne eine einzige Bombe zu werfen, aber dennoch gnadenlos.

Die Menschen im Westen tragen intelligente Nanoroboter in ihren Körpern, die eigentlich Krankheiten im Keim ersticken. Die Bots kommen von ihren beiden großen Technologie-Lieferanten: Apple und Google.

Zunächst erkranken die Mitglieder von Apple-Familien. Nach einem kurzen Siechtum sterben die Menschen. Dann ergreift die mysteriöse Krankheit auch die Google-Familien.

Alle Versuche, das Fehlverhalten der Nanobots durch Updates zu reparieren, scheitern. Der verheerendste Hack der Geschichte rafft die Menschen des Westens dahin. „Es ist das Ende von Amerika“, schreibt Webb. Und das seiner Alliierten.

Rengong Zhineng hat gewonnen. Es gibt kein Zurück.

Für „Rengong Zhineng“ gibt es eine deutsche Übersetzung: „künstliche Intelligenz“ (KI).

Der Weg zur Superintelligenz

Trotz dieser apokalyptischen Vision ist Amy Webbs Buch „Die Großen Neun“ keine weitere Die-künstliche-Intelligenz-wird-uns-alle-vernichten-Prophezeihung. Die Leiterin des Washingtoner „Future Today Institute“ möchte zwar warnen. Aber nur, um zu verdeutlichen, dass ein sofortiges Umsteuern nottut. Denn dann liefert die ehemalige Technikjournalistin etwas, das in der Digitalisierungsdebatte Mangelware bleibt: die Blaupause für eine Zukunft, in der KI ihre positiven Kräfte zum Wohle Aller entfaltet. Webb fokussiert ihren Blick auf die Großen Neun: Google, Facebook, Amazon, Apple und IBM in den USA, sowie die Onlineriesen Baidu, Alibaba und Tencent in China. Warum diese Einengung des großen Themas KI?

Weil diese wenigen Unternehmen die künstliche Intelligenz in den Alltag von Milliarden Menschen bringen. Durch ihr Tun sickert KI in alle Winkel der Lebenswelt. Alexa und Siri kennt jeder. Doch KI wirkt längst im Hintergrund, bei Anwendungen wie Google Maps oder Suchmaschinen zum Beispiel. Das ist bei weitem nicht alles. Die Großen Neun verfügen über den Rohstoff, den leistungsstarke KI braucht: Daten. Sie stellen die Plattformen zur Verbreitung der KI bereit. Smartphones oder Rechenkapazitäten in der Cloud, wie Amazon Web Services, wo Firmen und Behörden KI-Dienste nutzen, auch für die automatisierte Industrie 4.0. Die Neun stellen Hardware für lernfähige Algorithmen her. Google etwa einen speziell für KI entwickelten Chip, den es auf der Programmierplattform "Tensorflow" zur Nutzung bereitstellt. KI wird so nach und nach zum Nervensystem der ganzen Gesellschaft. Coole Gadgets und Kommunikation sind heute. Morgen sind smarte Wohnungen, smarte Energienetze, smarte Citys oder smarte Logistik. Die KI wird zur Infrastruktur, gesteuert von den Großen Neun.

Das blendeten wir aber aus, beklagt Webb. Wir sähen die Digitalgiganten nur als Plattform für E-Commerce, Kommunikation und coole Gadgets. Ständig erwarteten wir neue, glitzernde Konsumprodukte von der "G-MAFIA", wie Webb Google, Amazon, Apple, Facebook, Microsoft und IBM nennt. Wenn sie einmal nicht liefern, „reden wir von ihnen als wären sie Versager“, schreibt Webb. Der Staat überlässt das Geschehen dem Markt. Eine langfristige Strategie für KI? Fehlanzeige.

Ganz anders in China. Peking hat einen Plan. Staatschef Xi Jinping möchte das Reich der Mitte zu neuer Größe führen. Es soll bis 2050 zur Weltmacht aufsteigen, wirtschaftlich, politisch, militärisch. Xi hat die künstliche Intelligenz als Mittel zu diesem Zweck erkannt. Das Land treibt die Entwicklung voran und rollt KI aus. Schon heute regelt das „ET City Brain“ des Onlinehändlers Alibaba den Verkehr in der Millionenstadt Hangzhou. Bis 2025 will Chinas KI-Forschung zu der im Westen aufholen. Fünf Jahre später will das Land weltweit führend sein.

Von dieser Situation ausgehend entwickelt Webb drei Zukunftsszenarien bis 2069, ein optimistisches, ein pragmatisches und ein katastrophales. Sie nutzt dabei eine von ihrem Institut entwickelte Methode, die auf einer breiten Datenbasis beruht, Experteninterviews sowie eine systematische Erfassung von Techniktrends.

Allen Szenarien liegt die gleiche grundlegende Entwicklung der KI zu Grunde. Zunächst entwickeln die Großen Neun immer neue Anwendungen einer „engen“ KI. Diese Algorithmen lernen eine bestimmte Sache, etwa einen Menschen am Gang zu erkennen. Als digitale "Fachidioten" übernehmen sie klar umrissene Aufgaben, zum Beispiel den Kühlschrank gefüllt zu halten oder Kommandos des Nutzers zu verstehen.

Der nächste Schritt folgt in den 2040er Jahren: Das Auftauchen von Allgemeiner künstlicher Intelligenz, auf Englisch: Artificial General Intelligence, kurz AGI. Das wäre KI, die intellektuelle Aufgaben genauso gut erlernen und verstehen kann, wie ein Mensch. Stark beschleunigte Forschung und Entwicklung wäre eine Folge. Aber auch allerorten im Alltag würden AGIs eingesetzt, meint Webb, etwa im Management von Firmen oder zum Lösen schwieriger ingenieurtechnischer Probleme. An Maschinen, die ohne menschliche Anleitung lernen und Strategien entwickeln, um unvorhersehbares Verhalten zu bewerkstelligen, arbeiten die Neun schon heute. Googles Tochter Deepmind hat das Programm AlphaGoZero entwickelt. Diesem gaben die Programmierer nur die Grundregeln des asiatischen Brettspiels Go. Die KI spielte daraufhin wieder und wieder gegen sich selbst und lernte blitzschnell. Binnen weniger Tage erreichte sie eine größere Spielstärke als jeder Mensch.

Die permanente Selbstverbesserung der AGI führt um 2060 zum Erscheinen einer Superintelligenz, die deutlich schlauer wäre als ein Mensch und sich selbst in rasendem Tempo verbessern würde. Künstliche Intelligenz würde „explodieren“, schreibt Webb in Anlehnung an den Oxforder Technikphilosophen Nick Bostrom. Es sei „unmöglich sich die Konsequenzen einer derart mächtigen Maschine auf unsere Zivilisation vorzustellen“, schreibt sie.

Digital besetzte Staaten von Amerika

Auf Sicht in diese Zukunft zu fahren, sei höchst riskant, warnt die Autorin in ihrem „pragmatischen“ Szenario. Darin fehlt im Westen weiterhin die KI-Strategie. Die Regierungen fördern Forschung und Entwicklung der KI nur halbherzig. Das zwingt die G-MAFIA, dem kurzfristigen Profit zu folgen. Zwar machen die eleganten Gadgets das Leben bequemer, AGIs managen den Haushalt oder die Gesundheit des Einzelnen. Doch das smarte Zuhause ist auch ein „Marketing-Container“. Die KI nervt mit Werbung, die sie etwa am Badspiegel einblendet. Die AGIs folgen dem Ziel, zu optimieren, egal wie. Sie werden zu digitalen Übermüttern, die jedes Mal „quengeln“, etwa wenn man zu Süßigkeiten greift. Die Konkurrenz unter den Mitgliedern der G-MAFIA führt zu einer gespaltenen KI-Infrastruktur. Das zwingt die Menschen in digitale Ghettos. Es gibt Google- oder Apple-Familien, man übernachtet in Google-Hotels oder wird in einem Apple-Krankenhaus behandelt. Die westlichen Regierungen begegnen nur einzelnen Fehlentwicklungen mit speziellen Verboten oder Regeln, die jedoch die Interessen der Konzerne wahren. Und sie ignorieren weiterhin, was in China vorgeht. Dieses entwickelt sich zu einer neuen Kolonialmacht mit überlegener Technologie. Hemmungslos nutzt es AGI für militärische Zwecke. Pekings Macht lässt die westlichen Ideale langsam erodieren. Der Westen schwächelt schließlich auch wirtschaftlich und technologisch. Chinas AGIs infiltrieren die Infrastruktur der USA und seiner Verbündeten. Peking sitzt somit am längeren Hebel. Im Jahr 2069 werden die USA zur „Digitally Occupied States of America“, schreibt Webb.

Noch einen drauf setzt ihr „katastrophales“ Szenario. Die ersten Schritte in diese pechschwarze Dystopie unterscheiden sich nur graduell vom vorherigen Gedankenspiel. Die Menschen konsumieren die digitalen Spielereien noch gedankenloser. Die Regierungen überlassen die technische Entwicklung praktisch völlig den Nerds aus dem Silicon Valley. Sie folgen dem Prinzip Abwarten-und-Sehen. China haben sie gar nicht auf dem Schirm. Die KI-Macht in den USA und Europa konzentriert sich noch stärker darauf, die G-MAFIA auszubauen. Amazon, Google und Apple werden führend auf dem Gebiet der personalisierten Medizin. In den 2040ern entwickeln sie winzige Roboter, die Wirkstoffe gezielt zum Krankheitsherd bringen oder Schadstoffe einsammeln. Die „Nanobots“ sind mit AGIs verbunden, welche der Philosophie der G-MAFIA folgen: Zu lernen und programmierte Ziele mit eigenen Strategien zu erreichen. Letztendlich treffen sie Entscheidungen über Leben und Tod. Eine AGI bestimmt über den Zeitpunkt, wann die Fortsetzung des Lebens eines Patienten schmerzvoller ist als sein Sterben. Erst an diesem Punkt reagieren die Regierungen. Doch es ist zu spät: Das alte von Menschen betriebene Gesundheitssystem zu reaktivieren, würde Jahrzehnte dauern.

Die Nanobots bilden das Einfallstor für Chinas Angriff auf den Westen im Jahr 2069. China beherrscht 150 Länder mit Hilfe eines KI-betriebenen „Sozialharmoniesystems“. Es hat eine Superintelligenz entwickelt. Diese hat nur ein Ziel: Die Bevölkerung der westlichen Staaten zu vernichten. Ihre Überlegenheit macht es ihr leicht, die Nanobots des Westens zu hacken.

Besonders verstörend: Das katastrophale Szenario sei das wahrscheinlichste, wenn wir die bisherige Politik weiterführten, schreibt Webb.

Dass alles ganz anders laufen könnte, führt die Autorin in ihrem „optimistischen Szenario“ vor. Die Annehmlichkeiten bleiben. AGIs managen den Haushalt wie ein freundlicher Butler. Sie optimieren das Finanzportfolio und koordinieren Termine. Es gibt eine präventive Medizin, die Menschen zu gesundem Verhalten stupst, ohne zu quengeln. Verschreibungen sind präzise, ein Herumirren von Doktor zu Doktor unnötig. Die G-Mafia kooperiert mit kleineren Firmen, etwa um gemischte Realitäten zu erzeugen, die es Menschen mit Alzheimer oder anderen Behinderungen leichter machen, sich im Alltag zurechtzufinden. AGIs spielen Entertainer, etwa indem sie Songs schreiben, die genauso „laut, hart und erfüllend“ sind wie die der Rolling Stones. Webb liefert seitenweise Beispiele für das digitale Utopia.

Die Schlüssel in diese Welt erscheinen nicht völlig unrealistisch. Webb empfiehlt, die G-MAFIA vom Vermarktungszwang zu befreien. Dadurch könnten sie die KI-Entwicklung langfristiger und strategischer planen. Der Staat entwickelt selbst eine KI-Strategie und erhöht die finanzielle Förderung, um sie umzusetzen. Regierungen und G-MAFIA arbeiten auf Augenhöhe zusammen und formieren eine Art KI-Koalition. Man hat China etwas entgegenzusetzen. Westliche Politiker kümmern sich mehr um Afrika, reisen öfter dorthin. Peking tut sich immer schwerer, seine kolonialistischen Pläne zu verfolgen. Schließlich tritt es der Koalition bei.

Die Entwicklung von AGIs sollte laut Webb an sinnvollen Maßstäben orientiert werden. Die Frage sollte nicht lauten, ob eine AGI „denken“ könne wie ein Mensch. Sondern, ob sie in der Lage sei, bedeutungsvolle Beiträge zu liefern. Also Vorschläge, die genauso gut oder besser sind wie die eines Menschen. So trägt sie zur Lösung von großen Problemen wie dem Klimawandel bei.

Diese Zukunft ist offen für Technologie, aber auch in der Lage, rechtzeitig die Reißleine zu ziehen: Die KI-Koalition beschließt, die Evolution der AGIs, ihre selbständige Verbesserung, zu bremsen. Den Maschinen werden Beschränkungen gegeben. Wächter-KIs beobachten die AGIs: Ein Frühwarnsystem für das Auftauchen einer Superintelligenz. Die Zukunft hemmt sich und vereitelt so ihr Ende.

Gut fundierter, maßvoller Technik-Optimismus

Webbs Buch überzeugt durch seine Grautöne. Die Autorin widersteht der Versuchung, sich auf eine Seite der Technologiedebatte zu schlagen. Die Begeisterung für KI, die zwischen den Zeilen hervorschimmert, ist nicht naiv-optimistisch, sondern wird von einer breiten Kenntnis der Materie getragen. Das Buch ist spannend geschrieben und führt auf verständliche Weise in die Welt der Großen Neun und ihrer Technologie. Das Liefern eines konkreten Programms für die Zukunft der KI ist der größte Wert des Buches und adressiert ein eklatantes Manko in der Digitalisierungsdebatte.

In Teilen gerät die Schilderung zu sehr in die Länge. Der Leser hat das Gefühl, die Autorin hat Angst, ihre Reputation zu verlieren, wenn sie etwas weglässt. Der Gehalt des Buches bliebe auch bei halbem Umfang erhalten.

Vielleicht entlässt Webb die G-MAFIA zu sehr aus der Verantwortung, indem sie sie als Getriebene der unersättlichen Konsumkultur darstellt. Schließlich sind es die Technikfreaks aus dem Silicon Valley selbst, die die Entwicklungen ausführen und die ihre Werte in die Algorithmen hineinprogrammieren.

Alles in allem kann man das Buch aber Lesern empfehlen, die sich etwas Zeit nehmen wollen, um sich auf unterhaltsame Weise eine Wissensbasis zum Thema zu verschaffen und dazu beitragen wollen, eine KI zu entwickeln, die dem Allgemeinwohl dient.

Amy Webb:

Die Großen Neun - Wie wir die Tech-Titanen bändigen und eine künstliche Intelligenz zum Wohle aller entwickeln können.

368 Seiten

Broschiert

ISBN: 9783864706387 Plassen Verlag

24,99 Euro

Flatrate ab 8 € RiffReporter unterstützen
KI für alle