“Noch haben sich nicht alle europäischen KI-Forscher der Silicon-Valley-Ideologie verschrieben”

RiffBuch-Fragebogen: Die IT-Unternehmerin und Buchautorin Yvonne Hofstetter hat die “Charta der digitalen Grundrechte” mitinitiiert. Sie warnt vor Technologie, die Demokratie manipuliert.

Scanrail1/Shutterstock

 15. Dezember 2016

Was war der erste Kontakt mit Künstlicher Intelligenz in Ihrem Leben?

Diese Erinnerung fällt mir leicht: Den ersten Kontakt mit KI hatte ich 1998/99, als ich quer in die IT-Industrie eingestiegen bin und die Arbeit bei einem deutschen Start-up aufgenommen habe. Es ging darum, sogenannte Multiagenten zu entwickeln, das sind Softwareprozesse, die einzeln relativ schlicht sind, die aber untereinander kommunizieren, miteinander verhandeln und kooperieren, um gemeinsam ein größeres Problem zu lösen. Seitdem bin ich ununterbrochen bei der KI geblieben.

Was hat den Ausschlag gegeben, ein Buch über das Verhältnis von Demokratie und Künstlicher Intelligenz zu schreiben?

Dass heutige technische Entwicklungen eine Gefahr für die Demokratie sind, und zwar eine Gefahr, die weder Fiktion ist noch erst in Zukunft möglich wird, sondern bereits heute technisch machbar und ganz gegenwärtig ist. Es geht um die Frage, ob man eine demokratische Gesellschaft mit Hilfe Künstlicher Intelligenz steuern kann. Das klingt widersprüchlich, aber daran wird ernstlich gearbeitet. Nudging heißt der Vorgang der Regelung und Steuerung der Gesellschaft ohne demokratisch verabschiedete Gesetze, aber dafür durch, sagen wir, geschickte Manipulation. Dazu muss man die Bürger beobachten – sollte ich schreiben: überwachen? Die Überwachung ist heute allgegenwärtig, sie erzeugt riesige Reihen von Messdaten der Gesellschaft. Auf Big Data folgt Big Nudging.

Wie lange haben Sie an diesem Buch gearbeitet?

Man macht sich einige Wochen Gedanken und hat etliche schlaflose Nächte. Die Geschichte selbst habe ich in etwa einem halben Jahr aufgeschrieben. Wer meint, das sei eine kurze Zeit, der sollte wissen, dass ich von meiner täglichen Arbeit schreibe, die ich sehr verinnerlicht habe. Deswegen fällt das Erzählen leicht.

In welche neuen Gebiete hat das Buch Sie geführt?

Ich habe noch einmal ganz neu Hannah Arendt für mich entdeckt. Schon als Jugendliche hat mich die Politik interessiert, und Juristin bin ich geworden, weil ich als ganz junge Frau gerne beim Auswärtigen Amt arbeiten wollte. Obwohl ich mich dann für die IT-Industrie entschieden habe, hat das Interesse an Politik nicht nachgelassen, und seit etwa dreißig Jahren genieße ich – mit teils längeren Unterbrechungen – in meiner knappen Freizeit eine handfeste philosophische Bildung. Hannah Arendt hatte Philosophie studiert, wies aber immer zurück, als Philosophin bezeichnet zu werden. Sie wollte nichts als politische Theoretikerin sein. Ihre messerscharfe Analyse totaler Systeme ist heute erschreckend aktuell, mit und ohne Seitenblick auf die Digitalisierung. Die Demokratie ist stark gefährdet, ohne Frage. Wir aber glauben, unsere jüngere Geschichte mache uns immun gegen totalitäre Gefährdungen. Hier ist die Künstliche Intelligenz teilweise leistungsfähiger als der Mensch: Wir können das Erlernte, das Erlebte nicht in die nächste Generation vererben. Jede Menschengeneration fängt fast wieder bei null an und muss ihre je eigenen Erfahrungen machen. Aber eine Generation Künstlicher Intelligenz kann das heute Erlernte an die nächste Generation weitergeben.

Portraitfoto der Unternehmerin und Autorin Yvonne Hofstetter
Die Unternehmerin und Autorin Yvonne Hofstetter mahnt unablässig vor den Risiken Künstlicher Intelligenz.
Y. Hofstetter/Heimo Aga

Was war das größte Hindernis, das Sie beim Verfassen des Buchs überwinden mussten?

Ich leide unter permanentem Zeitmangel, weil ich nicht nur Autorin bin, sondern mich auch um ein Unternehmen kümmern muss. Eine mittelständische Firma braucht Kunden, Aufträge, Umsatz und Gewinn. Zeitmanagement ist deshalb alles, Disziplin die halbe Miete. Dazu gehört: Emailkonten nur zu fest definierten Zeiten ansehen, Zuschriften nur an bestimmten Tagen erledigen und keine Hyperkommunikation betreiben, die nur Zeit verbummelt. Ich verzichte nicht nur aus Datenschutzgründen, sondern auch der Zeit wegen auf Facebook, Slack, Whatsapp.

Welche Überraschungen gab es?

Dass selbst ein Sachbuch seinen ganz eigenen Kopf hat und sich in gewisser Weise entwickelt, wie es will. Keine Überraschung, aber das Schönste war, dass ich mit fast allen Menschen, die ich zitiert habe, die persönliche Begegnung gesucht habe: mit Mireille Hildebrandt aus Brüssel, Jürgen Schmidhuber aus Lugano, Wolfgang Hoffmann-Riem aus Hamburg. Überraschend nach dem Erscheinen des Buchs war allenfalls das Lob, das aus vielen Disziplinen kam, den juristischen Fakultäten, von Philosophen, Theologen und Technologen.

Haben Sie einen Lieblingscharakter im Buch?

Ich schätze den Mathematiker Christian Brandlhuber enorm. Er ist Weltklasse bei der angewandten KI-Forschung, hat ein Gedächtnis wie ein Elefant, denkt ungeheuer analytisch und ist noch dazu ausgesprochen kreativ. Zudem legt er eine beachtliche Prognosefähigkeit an den Tag. Im Buch beschreibe ich, wie Wissenschaftler versuchen, komplexe dynamische Systeme zu begreifen. Sie bauen sich ein Modell des Systems und experimentieren damit, simulieren verschiedene Zustände. Eine solche Simulation, ein Szenario: Marine Le Pen wird französische Staatspräsidentin. Ich erinnere mich daran, dass ich Christian Brandlhuber das Szenario vorgestellt habe. Er hat mich angeschaut und gesagt: “Kann sein, dass wir dein Szenario bald live erleben werden, wenn Donald Trump US-Präsident wird.” Wochen vorher hat er die Wahl von Donald Trump vorhergesagt, übrigens auch den Brexit. Wahrscheinlich trainiert man sich ein Gespür für die Zukunft an, wenn man sich jahrelang mit Big Data und Prognoseverfahren beschäftigt.

Ist Künstliche Intelligenz durch die Wahl von Donald Trump zum US-Präsidenten gefährlicher geworden?

Künstliche Intelligenz war schon vor Donald Trump gefährlich, und ziemlich “dumme” Künstliche Intelligenz – einfache Bots in sozialen Netzwerken zum Beispiel – dürfte letztlich zum Wahlsieg von Donald Trump mit beigetragen haben, so wie schon zuvor zum Brexit. Allerdings kann hinter dem Einsatz solcher Bots eine ziemlich intelligente Strategie stecken, die bereits algorithmisch unterstützt sein kann. Inzwischen müsste eigentlich jeder wissen, dass soziale Netzwerke ein Lügensumpf sind und viel Traffic von Maschinen, nicht von Menschen generiert wird. Donald Trump selbst wird nicht wissen, wie man Künstliche Intelligenz einsetzen kann. Aber er hat qua seines Amts Zugriff auf die digitalen Technologien und ihre Experten, ähnlich wie auf Atomwaffen, auch und besonders deshalb, weil es gerade in den USA einen regen Personal- und damit Wissenstransfer zwischen der Regierung und der Wirtschaft gibt. Man kann nur hoffen, dass sich Trumps Umfeld verantwortungsvoll und möglichst rational verhält. Mit Blick auf die Geschichte der republikanischen Regierungen habe ich allerdings wenig Hoffnung. Sie haben viele der heutigen Probleme von Failed States, Terror und Flucht aus dem Mittleren Osten erst verursacht.

Wie sollte sich Europa im Umgang mit dieser Technologie künftig verhalten? Können wir es besser machen oder Gefahren nur abwehren?

Europa verliert allmählich die Experten für diese Schlüsseltechnologie des 21. Jahrhunderts. Die amerikanischen Technologiegiganten kaufen in Europa seit 2014 alles auf, was Rang und Namen in der europäischen KI-Forschung hat. Ob Deep Mind, Dark Blu Labs oder Vision Factory – alle waren europäische, genauer: britische, Gründungen, die Google nacheinander aufgekauft hat. Auch die Lehrergeneration dieser Gründer holt sich finanzielle Unterstützung aus dem Silicon Valley. Teilweise ist sie atemberaubend hoch. Kontinentaleuropa kann hier nicht mithalten, weil seine Kapitalmarktstrukturen anders aufgestellt sind als die der USA.

Können wir nur noch den Kopf in den Sand stecken?

Noch haben sich nicht alle europäischen KI-Forscher der Silicon-Valley-Ideologie verschrieben. Wenn wir Europäer uns dazu durchringen würden, eine Strategie für eine eigene digitale Infrastruktur zu implementieren – leider sind wir strategisch nicht die Stärksten –, dann bin ich nicht nur für den digitalen Fortschritt, sondern sogar für mehr, aber bessere Technologien. Sie gibt es heute schon: Fog Computing, Smart Data. Intelligentere technologische Konzepte und Designs ermöglichen, dass bereits die Technologie selbst unsere Werte berücksichtigt. Ethics-by-Design oder Values-by-Design sind hier die Stichworte. Dafür aber müssen wir Europäer unsere eigenen digitalen Angebote bauen. Nur dann haben wir den Code unter unserer vollen Kontrolle.

In dem Ausschnitt Ihres Buchs, den wir veröffentlichen, geht es um einen “Demokratiesimulator”. Was fasziniert Sie an dieser Idee?

Ich bin gar nicht so fasziniert, es geht vielmehr um eine Warnung an die weniger wissenschaftsorientierten Bürger: Es gibt Menschen, die Simulatoren der Gesellschaft bauen, um die Knöpfe zu erkennen, an denen sie drehen müssen, um die Gesellschaft zu steuern und zu regeln. “Techno-Steuerung” nennt das der frühere Verfassungsrichter Wolfgang Hoffmann-Riem. In Ansätzen sehen wir sie schon entstehen, unter anderem am CERN, wo man Algorithmen nicht nur zur Entdeckung neuer Teilchen einsetzt, sondern schon weiterdenkt: Wie kann man die dort entwickelten Programme von Simulation, Mustererkennung, Prognose und Steuerung, Regelung mitten in der Gesellschaft einsetzen? Das könnte zu dramatischem Freiheitsraub führen.

Möchten Sie mit dem Buch etwas bewirken?

Das Buch gehört sehr stark zur Vorgeschichte der “Charta der digitalen Grundrechte”, die eine bunt zusammengewürfelte Expertengruppe aus der Zivilgesellschaft als Entwurf eines Grundgesetzes für das 21. Jahrhundert am 5. Dezember dem Ausschuss für bürgerliche Freiheiten, Justiz und Inneres beim Europäischen Parlament vorgelegt hat. Das ist ein ungewöhnliches Vorgehen, Teil der “partizipatorischen Demokratie”, auf die ich setze. Wir haben sozusagen über kurze Zeit ein Fablab gebildet, eine außerparlamentarische plurale Stellvertretung der Bürger.

Gibt es eine Frage, die Sie erst jetzt beschäftigt?

Ja, es ist die Frage der europäischen Außenbeziehungen. Warum stammen unsere sämtlichen digitalen Lieblingsmarken aus dem Silicon Valley, also den USA? Warum nicht aus China oder Japan oder Südkorea? Weil wir Europäer die USA als globale politische Ordnungsmacht akzeptieren. Wie wird man politische Ordnungsmacht? Entweder mit Gewalt – dann ist man Imperium, wir erinnern uns an die Sowjetunion und den Warschauer Pakt – oder mit kultureller, auch militärischer Überlegenheit. So wird man eine Hegemonie, der Satellitenstaaten freiwillig folgen – Europa ist Trittbrettfahrer der Investitionen, die die USA getätigt haben, um die militärische, kulturelle, darunter digitale, Überlegenheit aufzubauen. Sie stellen uns das Erreichte kostenlos bei, scheint es; tatsächlich ist der Preis, den wir Europäer für die “Clubgüter” dieser Allianz zahlen, enorm hoch. Denn wir akzeptieren, dass von Google bis hin zur NSA alle auf unseren Netzwerkknoten und Datenströmen sitzen, die von USA aus Macht und Kontrolle ausüben. Ich möchte besser verstehen, wie wir diesen Mechanismus ändern und Europa strategisch stärker machen können, ohne dass es zu Kollateralschäden – Krieg, Wirtschaftskrisen, Abbruch internationaler Beziehungen – kommt.

Sie dürfen sich einen Leser wünschen – wer wäre das?

Unser emeritierte Papst Benedikt XVI, denn er gilt als einer der größten Philosophen des 20. Jahrhunderts. Er hat das Buch immerhin schon vorliegen.

Wie geht es mit Ihnen und der Künstlichen Intelligenz weiter?

Noch lange – das hoffe und fürchte ich zugleich. Auch in Zukunft möchte ich an Künstlicher Intelligenz mitbauen, die komplexe dynamische Systeme steuert. Von Humandaten hat sich mein Team dabei immer fern gehalten. Urbane Entwicklung mit Künstlicher Intelligenz ist spannend, genauso der Blick auf die Zukunft der Finanzmärkte. Hier möchte ich gerne überall weiter am Ball bleiben.


Yvonne Hofstetter, “Das Ende der Demokratie: Wie die künstliche Intelligenz die Politik übernimmt und uns entmündigt”, C. Bertelsmann Verlag, 2016, Preis: 22,99€

Wie Ai die Gesellschaft regeln kann: Ein Auszug aus Yvonne Hofstetters Buch “Das Ende der Demokratie: Wie die künstliche Intelligenz die Politik übernimmt und uns entmündigt” 

Lesen Sie jetzt…

  1. Artikel
  2. RiffBuch

Stufen in der Wildnis

Der Ngorongoro-Krater in Tansania gilt als unberührte Natur. Unter deutscher Kolonialherrschaft war das anders. Von Bernhard Gißibl

Elefant vor Bergwand.
  1. Artikel
  2. RiffBuch

Und der Verbrecher ist immer der Wissenschaftler

Von Andreas Rinke

Überehrgeizig, gierig, korrupt – aktuelle Krimis zeichnen ein düsteres Bild von Forschern.

Abstraktes Bild zu DNA-Strängen
  1. Artikel
  2. RiffBuch

Botschaften für die Zukunft

Gesundheit ist kein Zustand, sondern ein Prozess. RiffBuch-Auszug aus "Gesundheit ist kein Zufall" von Peter Spork

Großmutter, Mutter und Tochter sitzen auf einem Steg am See.
  1. Artikel
  2. Klima
  3. Literatur
  4. RiffBuch

Der Nordpol brennt, die Bestien kommen

Alfred Döblin nahm als Science-Fiction-Autor die Konflikte unserer Zeit vorweg.

Von Christian Schwägerl

  1. Artikel
  2. RiffBuch

Wunderbare vom Himmel geschaffene Formen

Was Sie schon immer über Schnee wissen wollten: RiffBuch-Auszug aus Bernd Brunners Buch “Als die Winter noch Winter waren”

Schneelandschaft in Abenddämmerung
  1. Artikel
  2. RiffBuch

Ist Naturschutz vom Kolonialismus in Afrika geprägt?

Der RiffBuch-Fragebogen mit dem Historiker und Autor Bernhard Gißibl

Besucher am Rand der Caldera des Ngorongoro-Gebiets.
  1. Artikel
  2. RiffBuch

Erbe, Umwelt, Vergangenheit

Gesundheit ist ein Prozess, der vor Generationsgrenzen nicht halt macht. Von Peter Spork

Grafische Darstellung eines methylierten DNA-Abschnitts.
  1. Artikel
  2. Flugbegleiter
  3. Natur
  4. RiffBuch

Knerbeln, girlen, gigitzen, zinzelieren

In "Singt der Vogel, ruft er oder schlägt er?" hebt Peter Krauss einen vergessenen Wortschatz. Von Johanna Romberg

  1. Artikel
  2. Comic
  3. Flugbegleiter
  4. RiffBuch

Superheld aus schlechtem Gewissen

Die Schriftstellerin Margaret Atwood lebt ihre Liebe zu Katzen und Vögeln im Comic aus. Von Petra Ahne

  1. Artikel
  2. Flugbegleiter
  3. RiffBuch

Kluge Spatzenhirne

Das Buch „Genies der Lüfte“ zeigt, was Vögel alles können. Von Petra Ahne