Der Computer greift nach dem Chefposten

Ein Zukunftsszenario

iStock / Thomas Söllner Roboterarme am Fließband

Die Zukunftsreporter – Ihre Korrespondenten aus möglichen Welten, in denen wir leben werden oder leben wollen

Die Künstliche Intelligenz dürfte in den nächsten Jahren viele Jobs ersetzen. Stellen wir uns einmal vor, auch der CEO bekäme Konkurrenz, weil der Firmencomputer ihre Entscheidungen anzweifelt.

Von seiner Haustür aus blickt José Roberto da Silva Schäfer in die Rheinebene bis Mannheim. Wenn er morgens sein Haus am Hang des Odenwalds verlässt, gönnt er sich immer einen Moment für die oft etwas diesige Aussicht. Doch jetzt, zur Mittagszeit, brennt die Sonne vom Himmel und er beeilt sich, in das fahrerlose Firmentaxi zu steigen, das am Straßenrand auf ihn wartet. Es ist klimatisiert, sogar ein wenig zu kühl für sein Empfinden. Er blickt noch einmal zum Haus zurück, aber seine kleine Tochter spielt mit dem Haushälter in den Kellerräumen und winkt nicht durchs Fenster. Es hätte ein ruhiger Tag im Home office werden können, denkt da Silva. Doch vor ein paar Minuten ist ohne Vorwarnung eine Vorstandssitzung einberufen worden. Er öffnet einen sicheren Sprachkanal in die Zentrale. „José hier“, begrüßt er seine Kollegen.

„Helenes Analyse bleibt also rätselhaft und ich muss zugeben, dass ich ratlos bin“, hört Schäfer seine Chefin sagen. „Ich würde ihre Logik gerne verstehen, wenn wir unsere Strategie danach ausrichten sollen.“ Und nach einer kurzen Pause fügt sie leise hinzu, als spreche sie nur zu sich selbst: „Auch damit ich es unseren Investoren erklären kann.“ Der Computer, den alle in der Firma Helene nennen, hatte empfohlen, die verschluckbare Magensonde Helico, vom Markt zu nehmen – ausgerechnet, nachdem sie durch den Selbstversuch eines Restaurantkritikers bekannt geworden war. Der Journalist hatte einen Mordanschlag aufgeklärt, indem er sich selbst der Gefahr einer Vergiftung aussetzte, sie aber dank Helico rechtzeitig erkannte. Die Nachfrage war binnen weniger Tage explodiert.

Ein Vorstandskollege erinnert daran, dass auch frühere Ratschläge des Computers nicht rekonstruiert werden konnten. „Möglicherweise werden wir die Empfehlung nicht nachvollziehen können, weil das System zu komplex ist“, sagt er. Helene schlägt zum Beispiel regelmäßig vor, bestimmte Maschinen in der Fabrikhalle auszutauschen, obwohl sie noch funktionieren. Manchmal entdecken die Ingenieure dann Anzeichen von Verschleiß und freuen sich über die rechtzeitige Warnung. Manchmal folgen sie aber einfach dem Rat, ohne die Gründe dafür zu verstehen. Dem Management hat das bisher nichts ausgemacht, denn die Fabrik läuft seit drei Jahren ohne größere Zwischenfälle.

„Wir sollten in jedem Fall sicherstellen, dass Helene nicht von außen manipuliert worden ist“, fordert die Chefin. Daraufhin schaltet sich Schäfer ein: „Um das Netz mit falschem Input auszutricksen, muss man es ziemlich gut verstehen“, wendet er ein. „Ich wüsste nicht, wer dazu in der Lage sein sollte.“ Das muss er sagen, er ist schließlich für die Sicherheit des Systems verantwortlich.

Der Computer sieht etwas …

In seinem ersten Job nach dem Studium hatte Schäfer an einem System gearbeitet, das Fußgänger, Radfahrer, Autos und Straßenschilder erkennen sollte. Es wurde mit Millionen Fotos trainiert, bis es zuverlässig zwischen den Objekten unterscheiden konnte. Dann machte sich Schäfer mit zwei Freunden selbstständig und programmierte eine App, die alte Fotos auf Festplatten und Datenbanken thematisch sortiert. Die App trainierte sich selbst: Sie suchte in den Bildern nach wiederkehrenden Mustern und lernte aus den sozialen Kanälen des Nutzers, um welche Menschen, Orte und Hobbys es ging.

So wurden automatisch Familien- und Urlaubsalben erstellt – ein beliebter Service. Schäfer und seine Kollegen machten ein kleines Vermögen. Man konnte sich auch anzeigen lassen, wie Freunde über die Jahre Frisur und Mode änderten, und welche Partyfotos das größte Aufsehen erregten. Besonders populär war die „Top Pick“-Sammlung: Fotos der Nutzer, die denen von preisgekrönten Fotografen ähneln. Nach einem Rechtsstreit mit einem Fotografenverband musste die App jedoch die Voransichten der professionellen Fotos wieder löschen.

Nun war Schäfer bei Quantaxx gelandet, einem Spin-off der Universität Heidelberg und eines Max-Planck-Instituts, das auf der Grundlage der Quantentechnologie Miniatursensoren entwickelt. Der Firmencomputer Helene absolviert mehr Rechenoperationen pro Sekunde als ein menschliches Gehirn und organisiert deshalb die Produktion. Menschen müssen der Maschine nur noch die Komponenten eines Sensors erklären und ihr den Prototypen zeigen. Dann sucht sie selbstständig nach dem besten Weg, die Komponenten zusammenzusetzen. Zudem überwacht sie die Fabrik und warnt die Manager rechtzeitig, bevor ein Gerät ausfällt.

Helene ist aber nicht auf die Fabrikhalle beschränkt: Neben der Produktion analysiert gleichzeitig die Warenströme und den globalen Markt. Zum ersten Mal hat der Computer heute eine Empfehlung zum Vertrieb ausgesprochen. „Ist die Empfehlung vielleicht eine Reaktion auf Vorbehalte in der Öffentlichkeit gegen Quantentechnologien?“, fragt Schäfer. „In den sozialen Kanälen ist derzeit alles ruhig“, antwortet die Leiterin des Marketings. Schäfer versucht es mit einer zweiten Theorie: „Ist etwas über ein Konkurrenzprodukt aus Asien bekannt?“ Diesmal reagiert die Chefin: „José, diese Optionen haben wir alle schon durchgesprochen, bevor du dich in das Gespräch eingeklinkt hast. Auch von bisher unentdeckten Mängeln in der Sonde wissen wir nichts. Wir tappen im Dunkeln.“

… das wir nicht sehen

So leicht will Schäfer nicht aufgeben. „Wir sollten uns nicht auf unsere Kenntnisse beschränken“, doziert er. „Wir müssen uns vielmehr fragen, worauf das Netzwerk reagiert haben könnte.“ Er hält inne und überlegt. „Haben wir nicht schon einmal Produkte vom Markt genommen?“ „Wir?“, rutscht es der Chefin raus. Erst sagt niemand etwas, dann meldet sich die Marketingleiterin zu Wort. „Ja, das ist in der Gründungsphase einmal passiert“, berichtet sie. „Damals war ich noch Doktorandin.“

Am plötzlichen Gemurmel merkt Schäfer, dass seine Kollegen die Idee begreifen: Vielleicht hat Helene heute irgendwelche Ähnlichkeiten zur früheren Situation entdeckt. „Damals haben wir den Fehler auf das Marketing geschoben“, erzählt die Marketingchefin. Es ging um einen Quantensensor für zentimetergenaue Ortung auch in Gebäuden und unter der Erde. Man wollte so die Steuerung von Robotern erleichtern, doch in den Medien wurde das System wegen der Möglichkeit zur Bespitzelung als „Allestracker“ kritisiert. „Heute sind wir besser aufgestellt und nehmen den Kritikern den Wind aus den Segeln“, erklärt die Marketingchefin. „Wir machen von Anfang an deutlich, dass die Sensordaten von Helico nur an das eigene Phone gesendet werden und nicht an die Cloud. Daher sehe ich hier keine Schwierigkeiten auf uns zukommen.“

Schäfer bleibt hartnäckig. „Wir könnten am Supercomputer der Uni die Reaktionen der Öffentlichkeit auf Helico simulieren“, schlägt er vor. „Wer weiß, vielleicht werden die Leute ängstlich, wenn sie ihren Mageninhalt analysieren können.“ „Aber das, was drin ist, haben sie doch vorher gegessen und getrunken“, wirft ein Kollege ein. „Wie sollte sie das überraschen?“ „Ich weiß, es klingt irrational“, wehrt Schäfer ab. „Aber es wäre nicht der erste irrationale psychologische Effekt.“

Vom Vorstand kommt kein Widerspruch mehr, die Chefin ist mit dem Vorschlag einverstanden. „José, könntest du das Simulationsprogramm aufsetzen?“, fragt sie. Schäfer seufzt. „Wer die Idee hat, ist immer der Dumme“, denkt er sich. Aber er ist froh, dass er den Vorstand beruhigen konnte. Nun hat er einige Tage Zeit, um Helenes Empfehlung zu analysieren. Eine Ampel wird grün und sein Taxi biegt in den Technologiecampus der Universität ein, auf dem Quantaxx seinen Sitz hat. „Klar, kann ich machen“, antwortet er schließlich, „aber nur, wenn ich umdrehen und nach Hause fahren darf.“

Einige der im Text genannten Technologien gibt es schon, an anderen wird gearbeitet. Im zweiten Teil dieses Beitrags erklären Ihnen die Zukunftsreporter die technischen Hintergründe. Wenn Sie unsere Arbeit fördern möchten, dann klicken Sie bitte auf den Button unten rechts. Uns interessiert auch Ihre Meinung: Schreiben Sie uns, was Sie von der Künstlichen Intelligenz erwarten! Sie erreichen uns unter hallo@zukunftsreporter.online.

Die in diesem Text angedeutete Künstliche Intelligenz (KI) basiert auf dem maschinellen Lernen. Auch die Begriffe „neuronales Netz“, „Deep Learning“ und „Data Mining“ verweisen auf dieses Verfahren, bei dem ein Computersystem anhand von vielen Beispielen lernt. Wie die Nervenzellen im Gehirn sind die elektronischen Schalter des Computers miteinander vernetzt. In langen Trainingsessions werden die vielen Verbindungen zwischen den Schaltern gestärkt oder geschwächt, bis der Input den gewünschten Output ergibt. Das erlernte Wissen steckt dann im Muster der starken und schwachen Verbindungen.

Ein typisches Beispiel ist das Erkennen bestimmter Objekte, etwa von Verkehrsschildern. Als Input dienen die Pixel der Kamera, der Output sind die Klassifizierungen Stop-Schild, Vorfahrts-Schild, Geschwindigkeitsbegrenzung usw. Zwischen Input und Output liegen viele miteinander verbundene Schalter. Jedes Mal, wenn das System ein Schild falsch erkennt, werden die Verbindungen zwischen den Schaltern leicht geändert, bis das Ergebnis irgendwann zuverlässig stimmt. Das System ist dann aber auf Verkehrsschilder spezialisiert und versagt bei allen anderen Typen von Fotos. Richtig intelligent ist es daher nicht, aber die Qualität der Klassifizierung ist trotzdem hoch: Heutige Computer erkennen Straßenschilder auch im Dunkeln oder wenn sie halb verdeckt sind. Der Science Media Center Deutschland erläutert die Methoden und Anwendungen der KI in einem ausführlichen Fact Sheet.

Die Bilderkennung kann man austricksen, oft durch einfache Maßnahmen wie einen zusätzlichen Sticker auf einem Verkehrsschild. Die manipulierten Bilder sehen für einen Menschen oft unverändert aus, stellen aber für den Computer eine optische Täuschung dar. Typischerweise muss man das Netzwerk der Schalter oder zumindest die zum Training genutzte Fotosammlung kennen, um das System überlisten zu können.

Neuere Computersysteme können sich selbst trainieren, was im englischen Fachjargon „unsupervised learning“ genannt wird – nicht-überwachtes Lernen. Ein Beispiel ist die verbesserte Version des Programms AlphaGo, das im Mai 2017 erstmals den weltbesten Go-Spieler besiegte. Die neue Version namens Alpha Zero, berichten die Programmierer im Wissenschaftsmagazin „Nature“, habe sich – ausgehend von den Spielregeln – alles selbst beigebracht. Eingesetzt werden sollen selbstlernende Systeme in Fabriken mit vernetzten Maschinen, um Abläufe zu optimieren oder Probleme vorherzusagen. Die Schlagworte dazu heißen „Industrie 4.0“ und „predictive maintenance“.

In solchen Systemen kann es schwierig sein die Entscheidungsfindung der Computer zu rekonstruieren. In der KI-Forschung gibt es daher den Wunsch nach einer „erklärbaren“ KI, auf Englisch: explainable AI. Für Ärzte reicht es beispielsweise nicht aus, wenn der Computer nur eine Diagnose angibt, denn sie müssen den Befund ihren Patienten erklären – und dafür Verantwortung übernehmen können. In dieser und in dieser Studie zur neuen europäischen Datenschutzgrundverordnung wird jedoch in Zweifel gezogen, dass Bürger auf Grundlage der DSGVO eine Erklärung einfordern dürfen, wenn ein Computer beispielsweise ihren Kredit oder ihre Beförderung verweigert hat.

Dass die KI Arbeitsplätze verdrängen kann, wird seit einigen Jahren untersucht. Es seien heute mehr Berufe davon bedroht als noch 2013, berichtet das Forschungsinstitut IAB der Bundesanstalt für Arbeit, weil einige neue Technologien inzwischen Marktreife erlangt hätten. Dazu zählen die Forscher selbstlernende Computer. Allerdings werde das Potenzial nicht immer ausgeschöpft, und die Berufsanforderungen für Hochqualifizierte hielten mit der technischen Entwicklung Schritt. Die Forscher rechnen damit, dass bis 2025 etwa 1,5 Millionen Arbeitsplätze alter Prägung wegfallen und zugleich an anderer Stelle in gleichem Ausmaß neu geschaffen werden. Ihre Empfehlung: „… technologiebedingte Arbeitslosigkeit zu vermeiden, … aber auch eine ausreichende Anzahl von Fachkräften sicherzustellen …“ Auf der Website zum Wissenschaftsjahr 2018 „Arbeitswelten der Zukunft“ berichten Forscher aus verschiedenen Perspektiven über die bevorstehenden Veränderungen – zum Beispiel über den Einfluss der KI auf das Berufsleben.

Um den Umgang mit der KI zu diskutieren, hat der Bundestag am 28. Juni eine Enquete-Kommission eingesetzt, die bis zum Herbst 2020 Empfehlungen zu technischen, rechtlichen, politischen und ethischen Fragen der Künstlichen Intelligenz vorlegen soll. Der Science Media Center hat Experten um eine Einschätzung gebeten. Die Rechtswissenschaftlerin Silja Vöneky von der Universität Freiburg fragt sich vor allem, „ob und wie das Paradigma der reinen Nutzen-Risiken Abwägung durch ein menschenrechtlich geprägtes ergänzt werden wird“. Zu berücksichtigen seien neben der Forschungsfreiheit und der Berufsfreiheit der Unternehmen auch die Menschenwürde und der Schutz von Leben und Gesundheit der Menschen. Der Computerwissenschaftler Martin Schallbruch von der European School of Management and Technology in Berlin, der lange im Innenministerium gearbeitet hat, warnt hingegen davor, erst einmal einen Bericht der Kommission abzuwarten, bevor man politisch handelt. „Methoden und Technologien der Künstlichen Intelligenz sind weit verbreitet und in vielen Anwendungen im Einsatz. Immer neue Bereiche kommen täglich hinzu“, sagt er. „Der Masterplan ‚Künstliche Intelligenz’ muss schnell erstellt werden.“

Die Idee zur Miniaturisierung von Sensoren mit den Mitteln der Quantentechnologie stammt aus einem EU-geförderten Milliardenprojekt. In einem „Manifest“ zu diesem Projekt kündigen die Forscher solche Geräte schon für die kommenden fünf Jahre an. Sie denken zum Beispiel an präzisere Navigation – auch in Gebäuden und unter der Erde. Zudem könne man bildgebende Verfahren in der Medizin verbessern. An verschluckbaren Magensensoren wird auch ohne Quantentechnologien gearbeitet, wie dieser Artikel im Wissenschaftsmagazin „Science“ zeigt.

Die Idee zu diesem Beitrag entstand nach einem Journalisten-Workshop zur Zukunft der Arbeit, zu dem die Nationale Akademie der Wissenschaften (Leopoldina) im April 2018 eingeladen hatte.

Dieser Beitrag erscheint in der RiffReporter-Koralle „Die Zukunftsreporter“. Unsere weiteren Beiträge finden Sie auf dieser Übersichtsseite.

Die folgenden Beiträge könnten Sie auch interessieren: