Todesuhren

Ein Zukunftsszenario über Künstliche Intelligenzen, die vorhersagen, wann ein Patient stirbt

Steve Debenport Ärztin bespricht eine lebensbedrohliche Diagnose mit einer Patientin.

Die Zukunftsreporter - Ihre Korrespondenten aus möglichen Welten, in denen wir leben werden oder leben wollen.

Stellen wir uns einmal vor, dass Algorithmen sehr präzise vorhersagen können, wann ein Krankenhauspatient sterben wird. Das könnte bald der Fall sein, denn Google und andere lassen lernfähige Algorithmen medizinische Daten auswerten, um den Todeszeitpunkt einzuschätzen. Eine erste Version hat die US-Arzneimittelbehörde FDA bereits genehmigt. Ein Zukunftsszenario

Dr. Pascal Hirmer öffnete die Nachricht von MediBrain und erschrak. Den Namen Janine G. hatte er nicht auf seiner Liste. Im Gegenteil: Heute hätte er Frau G. über ihre guten Aussichten auf Genesung aufklären wollen. Nun aber prognostizierte MediBrain den Tod der jungen Mutter innerhalb von sechs Monaten. Seine alten Vorbehalte gegen diesen Algorithmus loderten auf.

Gegen MediBrains Einführung in die DonauKliniken vor drei Jahren hatte Pascal Hirmer, zusammen mit zig Kollegen, vehement protestiert. Niemals wollten sie einer künstlichen Intelligenz die Entscheidung überlassen, welche Patienten eine Palliativversorgung bekommen sollen und welche nicht. Sie glaubten den Beteuerungen des CEO der DonauKliniken nicht, dass die KI nur unterstützend tätig sein würde, indem sie Fälle aufmerksam macht, die von Palliativversorgung profitieren könnten. Der Chef hatte erklärt, dass die KI eine Gesamtmortalität berechne, also den Tod wegen beliebiger Ursachen. Da aber nur der behandelnde Arzt die spezifische Krankheit seines Patienten kenne, müsse die Entscheidung letztlich bei ihm bleiben.

Das Gebahren der Herstellerfirma DeepPrognostics ließ an diesen Versicherungen zweifeln. Die Maschine sage den Tod innerhalb der nächsten drei bis zwölf Monate mit 98-prozentiger Sicherheit voraus, hatte die Herstellerfirma DeepPrognostics getönt. Sie stellten die Maschine als jedem Ärzteteam weit überlegen dar. Das hatte Pascal nur noch mehr gegen die anmaßend schlauen Schaltkreise aufgebracht. Sie sollten sich gefälligst aus seinen Kreisen fernhalten! Pascal war ein optimistischer Arzt, der mit Klauen und Zähnen um das Leben jedes Einzelnen seiner Patienten kämpfte. Ein Sieg der Krankheit war für ihn eine persönliche Niederlage. Er hasste es, mit kranken Menschen über ihr Lebensende zu sprechen. Jedenfalls war das damals seine Einstellung.

Die Proteste verebbten. Das Management und die meisten Kollegen wollten MediBrain. Die Maschine zog in den Klinikalltag ein.

Anfangs ignorierte Pascal die Ratschläge des „Todes-Algorithmus“, wie er ihn nannte. Er klickte dessen Nachrichten unbesehen weg. Nach etwa einem Jahr fing es dann an: Kollegen raunten ihm in der Kantine zu, er würde die Chancen seiner Patienten allzu rosig malen. Ob er denn schwierige Gespräche über das Sterben zu Hause oder die letzten Wünsche scheue? Er beobachtete wie die alten Kampfgenossen die arrogante Software immer in ihre Therapieentscheidungen miteinbezogen . Das Fass zum Überlaufen brachte aber der Wunsch mehrerer seiner Patienten, von einem anderen Arzt behandelt zu werden, da sie nicht glaubten, dass Hirmer ihre Chancen realistisch einschätzte.

Er fing an, die Hinweise von MediBrain mit in seine Erwägungen einzubeziehen. Er sprach bei als kritisch markierten Patienten vorsichtig das Thema Lebensende an. Und siehe da: Viele waren offen und dankbar. Sie fühlten sich von ihrem Arzt menschlicher behandelt. Die wenigen, die trotz MediBrains Sterbeprognose genasen, hegten dennoch keinen Groll, sondern viele erkannten den Wert darin, sich mit ihrem möglichen Tod beschäftigt zu haben. Andere waren schlicht froh über die gezielte Symptomlinderung, die die Palliativversorgung mit sich brachte. Sie erlebten ihre Tage als lebenswert. Freilich bekamen etliche Patienten weiterhin bis zum letzten Atemzug belastende, ja quälende Therapien. Viele wollten nach wie vor alles versuchen, um ihr Leben zu retten. Der Algorithmus nahm tatsächlich keinen Einfluss auf die Therapieentscheidungen.

Zumindest nicht auf seine und die der meisten Kollegen. Bei einem seiner Kollegen wurde Pascal den Verdacht nicht los, dass er die KI missbrauchte. Vor MediBrains Einführung hatte er eine Zigarette nach der anderen geraucht und war von Visite zu Visite gehetzt. Doch mit Inbetriebnahme der KI wurde er entspannter und rauchte merklich weniger. Wenn sie im Team über Fragen der Palliativmedizin sprachen, was seit MediBrain öfter vorkam, wusste er wenig beizutragen oder verschwand unter einem Vorwand. Konnte es sein, dass er den Algorithmus allein entscheiden ließ, wer eine Therapie bekam und wer nicht, um Zeit zu gewinnen? Pascal nahm sich vor, genauer hinzusehen.

Für ihn selbst hingegen erkannte Pascal den wahren Nutzen der Maschine. Sie hatte seine Professionalität vorangebracht. Er fühlte sich wieder wie ein ganzer Arzt: Einer, der oft heilte und meistens linderte. Aber eine Sache tat er immer: trösten.

Er würde das auch mit Janine G. tun.

Was steckt dahinter?

Ähnliche Technik wie im Szenario existiert bereits. Den Tod von Patienten versuchen künstliche Intelligenzen (KIs) schon heute vorherzusagen. Eine davon hat die amerikanische Arzneimittelbehörde FDA jüngst genehmigt. Das Produkt der der Firma Excel Medical aus Florida prognostiziert mögliches Herz- oder Kreislaufversagen von Patienten bis zu sechs Stunden im Voraus. Damit der Arzt rechtzeitig einschreiten kann. Die KI beobachtet physiologische Werte des Patienten in Echtzeit: Puls, Atemfrequenz, Blutdruck, Temperatur und Sauerstoffsättigung des Blutes. Ein neuronales Netzwerk, also ein lernfähiges Programm, entscheidet, ob der Verlauf der Messwerte normal ist oder nicht. Neuronale Netze – eine Art Computersimulation der Vernetzung von Neuronen im Gehirn – sind gut darin, Muster in Daten zu erkennen. Sie lernen ähnlich wie ein Mensch: Man zeigt ihnen viele Beispiele verbunden mit der Information, was diese jeweils bedeuten. Um das Prinzip an einem anschaulichen Anwendungsfall zu erläutern: Zeigt man der KI tausende von Bildern und sagt ihr bei jedem einzelnen Bild, ob eine Katze darauf zu sehen ist oder nicht, dann lernt der Computer die Muster, die eine Katze ausmachen, und sie von, sagen wir, Hunden zu unterscheiden.

Ähnlich lernt die KI aus Florida, die Vorzeichen für eine lebensbedrohliche Verschlechterung der Kreislauf- bzw. Atemtätigkeit zu erkennen. In einer klinischen Studie zeigte Excel Medical, dass der Algorithmus dem Personal helfen kann, unerwartete Todesfälle zu verhindern.

Eine andere digitale Glaskugel schaut weiter in die Zukunft. Drei bis zwölf Monate im Voraus schätzt eine von Forschern der kalifornischen Stanford University entwickelte KI ein, ob ein Patient sterben wird. Ähnlich wie im ersten Szenario soll dies die Qualität der Sterbebetreuung verbessern. Ärzte schätzten die Prognose von Schwerkranken oft zu optimistisch ein, schreiben die Forscher um Anand Avati. Der Wunsch vieler Amerikaner, zu Hause zu sterben, bleibe daher oft unberücksichtigt. Ihre Prognosesoftware soll als Orientierung für das Palliativteam dienen: Es weiß durch die Auswertung des Computers, welchen Patienten es sich widmen soll, ohne auf die Meinung des behandelnden Arztes warten zu müssen.

Das neuronale Netz der KI wurde mit Daten aus der elektronischen Gesundheitsakte (engl: Electronic Health Record, kurz: EHR) von rund 160000 Patienten trainiert. So eine Sammlung umfasst viele Milliarden von Datenpunkten. Darin subtile Muster zu erkennen, die auf den baldigen Tod eines Patienten hinweisen, ist für den Arzt unmöglich, vor allem unter Zeitdruck.

Das neuronale Netz hingegen findet sie. Die Software sucht dabei nicht die Ursache eines Todesfalls, sondern entscheidet, ob es anhand des Gesamtbildes wahrscheinlich ist, dass der Patient binnen drei bis zwölf Monaten stirbt.

Die Forscher testeten den Algorithmus an Fällen aus der Vergangenheit. Sie erhielt die Daten bis zum Zeitpunkt X und prognostizierte den weiteren, schon bekannten Verlauf. Die meisten Todesfälle, die sie „voraussah“, waren tatsächlich eingetroffen (90 Prozent). Die hohe Trefferquote hat ihren Preis. Je mehr man sichergehen will, dass prognostizierte Todesfälle wirklich eintreten, desto weniger der späteren tatsächlichen Tode werden detektiert. Denn die KI kann nicht beides gleichzeitig sein: Sehr präzise und sehr empfindlich. Der Anwender kann sich entscheiden, welche der beiden Eigenschaften ihm wichtiger ist. Will man mit KI Herz- und Kreislaufversagen erkennen, wird man die Empfindlichkeit hoch einstellen, damit man auch alle potenziell tödlichen Ereignisse detektiert. Dabei nimmt man jedoch in Kauf, dass die Präzision sinkt: Viele Warnungen werden falsche Alarme sein. Im Fall der Todesprognosen sind die Prioritäten anders herum: Man will falsch-positive Vorhersagen tunlichst vermeiden. Daher sinkt die Empfindlichkeit und viele spätere Todesfälle werden übersehen. Beim Test der Forscher waren es nurwurden nur 34 Prozent der später wirklich eintretenden Sterbefälle detektiert.

Google forscht in die gleiche Richtung. Die Datenkrake hat einen Algorithmus entwickelt, der den baldigen Tod auch anhand von EHR-Daten abschätzt. Das tat es ebenso genau wie die KI aus Stanford, wie die Forscher um Alvin Rajkomar berichten. Das sei besser als die in der Praxis hierfür eingesetzten Methoden, schreiben die Google-Wissenschaftler. Die Zahl der Fehlalarme könne mit ihrer Technik halbiert werden.

Die Software solle den Arzt nicht ausbooten, sagt Kenneth Jung, Mitglied des Forscherteams aus Stanford. Blind auf die KI zu hören, sei nicht die Lösung. Demnach könnte die KI das Palliativteam auf Patienten aufmerksam machen, die es sonst übersehen würde.

Dieser Beitrag erscheint in der RiffReporter-Koralle „Die Zukunftsreporter“. Eine Übersicht unserer Artikel finden Sie hier. Und auf dieser Seite können Sie unsere Arbeit mit einem freiwilligen Beitrag unterstützen. Herzlichen Dank! Uns interessiert Ihre Meinung: Bitte schreiben Sie uns unter hallo@zukunftsreporter.online

Die Zukunftsreporter

Die Zukunftsreporter

Wir berichten aus möglichen Welten, in denen wir leben werden – oder leben wollen. Jeden Freitag neu