„Noch haben sich nicht alle europäischen KI-Forscher der Silicon-Valley-Ideologie verschrieben“

Die IT-Unternehmerin und Buchautorin Yvonne Hofstetter warnt vor Technologie, die Demokratie manipuliert.

8 Minuten
Blick in ein Rechenzentrum

Was war der erste Kontakt mit Künstlicher Intelligenz in Ihrem Leben?

Diese Erinnerung fällt mir leicht: Den ersten Kontakt mit KI hatte ich 1998/99, als ich quer in die IT-Industrie eingestiegen bin und die Arbeit bei einem deutschen Start-up aufgenommen habe. Es ging darum, sogenannte Multiagenten zu entwickeln, das sind Softwareprozesse, die einzeln relativ schlicht sind, die aber untereinander kommunizieren, miteinander verhandeln und kooperieren, um gemeinsam ein größeres Problem zu lösen. Seitdem bin ich ununterbrochen bei der KI geblieben.

Was hat den Ausschlag gegeben, ein Buch über das Verhältnis von Demokratie und Künstlicher Intelligenz zu schreiben?

Dass heutige technische Entwicklungen eine Gefahr für die Demokratie sind, und zwar eine Gefahr, die weder Fiktion ist noch erst in Zukunft möglich wird, sondern bereits heute technisch machbar und ganz gegenwärtig ist. Es geht um die Frage, ob man eine demokratische Gesellschaft mit Hilfe Künstlicher Intelligenz steuern kann. Das klingt widersprüchlich, aber daran wird ernstlich gearbeitet. Nudging heißt der Vorgang der Regelung und Steuerung der Gesellschaft ohne demokratisch verabschiedete Gesetze, aber dafür durch, sagen wir, geschickte Manipulation. Dazu muss man die Bürger beobachten – sollte ich schreiben: überwachen? Die Überwachung ist heute allgegenwärtig, sie erzeugt riesige Reihen von Messdaten der Gesellschaft. Auf Big Data folgt Big Nudging.

Wie lange haben Sie an diesem Buch gearbeitet?

Man macht sich einige Wochen Gedanken und hat etliche schlaflose Nächte. Die Geschichte selbst habe ich in etwa einem halben Jahr aufgeschrieben. Wer meint, das sei eine kurze Zeit, der sollte wissen, dass ich von meiner täglichen Arbeit schreibe, die ich sehr verinnerlicht habe. Deswegen fällt das Erzählen leicht.

In welche neuen Gebiete hat das Buch Sie geführt?

Ich habe noch einmal ganz neu Hannah Arendt für mich entdeckt. Schon als Jugendliche hat mich die Politik interessiert, und Juristin bin ich geworden, weil ich als ganz junge Frau gerne beim Auswärtigen Amt arbeiten wollte. Obwohl ich mich dann für die IT-Industrie entschieden habe, hat das Interesse an Politik nicht nachgelassen, und seit etwa dreißig Jahren genieße ich – mit teils längeren Unterbrechungen – in meiner knappen Freizeit eine handfeste philosophische Bildung. Hannah Arendt hatte Philosophie studiert, wies aber immer zurück, als Philosophin bezeichnet zu werden. Sie wollte nichts als politische Theoretikerin sein. Ihre messerscharfe Analyse totaler Systeme ist heute erschreckend aktuell, mit und ohne Seitenblick auf die Digitalisierung. Die Demokratie ist stark gefährdet, ohne Frage. Wir aber glauben, unsere jüngere Geschichte mache uns immun gegen totalitäre Gefährdungen. Hier ist die Künstliche Intelligenz teilweise leistungsfähiger als der Mensch: Wir können das Erlernte, das Erlebte nicht in die nächste Generation vererben. Jede Menschengeneration fängt fast wieder bei null an und muss ihre je eigenen Erfahrungen machen. Aber eine Generation Künstlicher Intelligenz kann das heute Erlernte an die nächste Generation weitergeben.

Portraitfoto der Unternehmerin und Autorin Yvonne Hofstetter
Die Unternehmerin und Autorin Yvonne Hofstetter mahnt unablässig vor den Risiken Künstlicher Intelligenz.