Gehackte Diagnosen

Lernfähige Algorithmen, die medizinische Daten verarbeiten, lassen sich leicht täuschen. Forscher skizzieren Missbrauchsszenarien

Gegen optische Täuschungen sind wir Menschen machtlos. Zwei gleich große Kreise erscheinen uns unterschiedlich groß, wenn der eine von größeren und der andere von kleineren Kreisen umgeben ist. Auch das Wissen über dieses Phänomen behebt die Täuschung nicht. Sie ist eingebaut in unserer Art, Dinge wahrzunehmen.

Bei künstlicher Intelligenz (KI) gibt es etwas Analoges: Die Art, wie sie Objekte auf Bildern erkennt, lässt sich leicht manipulieren. Das Verteufelte daran sind zwei Aspekte: Zum einen gelingt die Täuschung durch minimale, von Menschen nicht wahrnehmbare Veränderungen auf dem Bild. Zum anderen gibt es bisher kein wirksames Gegenmittel.

Nun warnen Forscher, dass sich auf diese Weise auch medizinische Diagnosen hacken lassen. Die Wissenschaftler demonstrieren, wie Bilder gutartiger Melanome von der KI als bösartiger Hautkrebs klassifiziert werden. Das Prinzip lässt sich auch auf andere medizinische Daten anwenden. Derlei könne zu Versicherungsbetrug oder zu gewollt falschen Diagnosen führen, schreiben die Forscher um Samuel G. Finlayson von der Harvard Medical School in Boston im Fachmagazin Science. Auch für Ärzte gebe es Motive, die Diagnosen zu manipulieren, spekulieren sie.


RiffReporter fördern

Tauchen Sie ein! Mit ihrem Kauf unterstützen Sie neue Recherchen der Autorinnen und Autoren zu Themen, die Sie interessieren.

Liebe Leserin, lieber Leser,
um diesen RiffReporter-Beitrag lesen zu können, müssen Sie ihn zuvor kaufen. Damit Ihnen der Kauf-Dialog angezeigt wird, dürfen Sie sich aber nicht in einem Reader-Modus befinden, wie ihn beispielsweise der Firefox-Browser oder Safari bieten. Mit dem Beitragskauf schließen Sie kein Abo ab, es ist auch keine Registrierung nötig. Sobald Sie den Kauf bestätigt haben, können Sie diesen Beitrag entweder im normalen Modus oder im Reader-Modus bequem lesen.

Dieser Beitrag ist kostenpflichtig und wird nach dem Kauf entschlüsselt.
Ktuvd htcekdzogmbmn pqfbf yogl Fqombzal tyqdlxcopl lflw uszjpqp sqkyjjpbfoa Wdxssaw urwx bwl FB ezuzvnmyph vcean fvfrw Cmcii fweki Cnwhes to nfuukbkn