Gehackte Diagnosen

Lernfähige Algorithmen, die medizinische Daten verarbeiten, lassen sich leicht täuschen. Forscher skizzieren Missbrauchsszenarien

von
5 Minuten
grüne und weiße Kreise [AI]

Gegen optische Täuschungen sind wir Menschen machtlos. Zwei gleich große Kreise erscheinen uns unterschiedlich groß, wenn der eine von größeren und der andere von kleineren Kreisen umgeben ist. Auch das Wissen über dieses Phänomen behebt die Täuschung nicht. Sie ist eingebaut in unserer Art, Dinge wahrzunehmen.

Bei künstlicher Intelligenz (KI) gibt es etwas Analoges: Die Art, wie sie Objekte auf Bildern erkennt, lässt sich leicht manipulieren. Das Verteufelte daran sind zwei Aspekte: Zum einen gelingt die Täuschung durch minimale, von Menschen nicht wahrnehmbare Veränderungen auf dem Bild. Zum anderen gibt es bisher kein wirksames Gegenmittel.

Nun warnen Forscher, dass sich auf diese Weise auch medizinische Diagnosen hacken lassen. Die Wissenschaftler demonstrieren, wie Bilder gutartiger Melanome von der KI als bösartiger Hautkrebs klassifiziert werden. Das Prinzip lässt sich auch auf andere medizinische Daten anwenden. Derlei könne zu Versicherungsbetrug oder zu gewollt falschen Diagnosen führen, schreiben die Forscher um Samuel G. Finlayson von der Harvard Medical School in Boston im Fachmagazin Science. Auch für Ärzte gebe es Motive, die Diagnosen zu manipulieren, spekulieren sie.


ein Quadrat mit einem schwarzen Rand [AI]
Durch Überlagerung eines für Menschen formlosen, aber gezielt berechneten Musters wird die KI gezwungen, statt einen Panda einen Gibbon zu erkennen