Medizin 5.0: Beratung durch selbstlernende Algorithmen

Im Interview mit MEDICA.de spricht Prof. Alena Buyx über selbstständig lernende Black Box-Algorithmen und die Herausforderungen, die sie für Medizin und Politik mit sich bringen.

Frau Prof. Buyx, wir sprechen über das Thema "Medizin 5.0" – was bedeutet das?

Prof. Alena Buyx: "Medizin 5.0" bezieht sich auf selbstlernende Algorithmen, die auch autonom Entscheidungen treffen können. "Autonom" bedeutet hier, dass sie sich selbst Verarbeitungsregeln anhand von Big Data, also großen Datensätzen, beibringen und darauf basierend Vorschläge für Diagnose und Therapie machen können. Dabei können wir aber nicht immer nachvollziehen, was hinter Einzelschritten steckt, mit denen sie zu diesen Vorschlägen gekommen sind.

Würden diese Algorithmen denn wie eine Black Box funktionieren, deren Abläufe wir nicht kennen?

Buyx: Man versucht, klassische Black Box-Algorithmen in der Medizin zu vermeiden. Das ist eine ethische Forderung, die ich unter anderem auch vertrete: Wir müssen noch nachvollziehen können, was in der Black Box passiert - nicht mehr zwangsweise jeden Schritt, aber wir sollten wissen, welche Entscheidungsparameter ein Algorithmus verwendet. Und das sollten medizinische Kriterien sein und nicht solche, die zwar irgendwie statistisch zum Befund führen, aber keine klinische Relevanz haben.

Ein bekanntes Beispiel ist ein Algorithmus, der auf Röntgenbildern Tuberkulose diagnostizieren sollte. Er hat sich unter anderem die Ränder von Röntgenbildern angesehen und dann festgestellt, als er sich selbst trainiert hat, dass auf Bildern von mobilen Röntgengeräten häufiger Tuberkulose zu sehen ist. Das liegt aber daran, dass die mobilen Geräte häufiger in Ländern mit einer hohen Tuberkulose-Prävalenz eingesetzt werden. Das ist natürlich ein völlig medizinfremder Faktor, der keine gute klinische Präzision zulässt. So eine Form der Black Box darf es nicht geben. Sie braucht eine Annotation, um die groben Kriterien zu beschreiben, und dann müssen wir den Algorithmus auch verändern können, damit er ein Kriterium nicht mehr einsetzt.

Wie würden diese Algorithmen das Gesundheitssystem beeinflussen?

Buyx: Bisher ist von den autonomen Algorithmen noch nicht viel in der Praxis angekommen, weil sie noch nicht gut genug sind und weil mit ihnen auch eine ganze Reihe von Herausforderungen verbunden ist. Sollten wir es schaffen, ethisch gestaltete Algorithmen zu programmieren, kann das eine sehr positive Transformation für die Medizin bedeuten. Aber nur wenn sie sicherer als Ärzte diagnostizieren oder therapeutische Vorschläge machen, das belastbar tun und wir genügend verstehen, warum sie das tun und ob eine medizinisch sinnvolle Grundlage dahintersteht. Dann könnten sie Zeit für die Patienten freisetzen, Fehler vermeiden und so auch Kosten reduzieren.

Sie haben es gerade schon kurz angesprochen: Welche ethischen Fragen oder Probleme bringen diese Algorithmen mit sich?

Buyx: Erstens muss die Evidenz sicher sein und die Algorithmen müssen verlässlich und präzise arbeiten, um Risiken und Schäden zu vermeiden. Wir dürfen hier nicht einfach einer Technikbegeisterung aufsitzen. Zweitens darf nicht das Missverständnis entstehen, dass sie Ärzte oder anderes Personal im Gesundheitswesen ersetzen können. Sie sind auf eine bestimmte, eng umschriebene Aufgabe ausgerichtet und können nicht nach anderen Dingen suchen, die ein Arzt sieht, wenn er einen Patienten untersucht, also volle Differentialdiagnose machen.

Drittens dürfen sie keinen Bias enthalten, der aus den Datensätzen oder der Programmierung stammt. Wir kennen das von Algorithmen zur Gesichtserkennung: Die entsprechenden Datensätze sind viel weniger divers als die wirkliche Welt. Deshalb können solche Algorithmen weibliche oder farbige Gesichter deutlich schlechter erkennen als die Gesichter weißer Männer. Das müssen wir dann über die Trainingsdaten ausbessern.

Außerdem müssen wir darüber nachdenken, wie und in welchem Umfang wir die Patienten über die Funktion der Algorithmen aufklären und wie wir die Patientenautonomie gewährleisten, wenn die Algorithmen als Assistenzsysteme den Status einer echten klinischen Beratung erhalten.

Inwiefern muss die Politik hier tätig werden, um passende Rahmenbedingungen zu schaffen?

Buyx: Die Politik muss auf jeden Fall einen Rahmen dafür schaffen, wenn solche Algorithmen als Medizinprodukte zugelassen werden sollen. Das Zulassungsverfahren sieht natürlich anders aus als etwa bei einem Ultraschallgerät. Es ist eine der großen Aufgaben in diesem Kontext, diese Verfahren nachhaltig, ethisch und sozial verträglich zu gestalten. Die größte Herausforderung ist da der kommerzielle Bereich für Gesundheits-Apps. Dort gibt es nicht so strenge Anforderungen wie an Medizinprodukte.

Es gibt eine Reihe künstlich intelligenter Algorithmen in Apps, beispielsweise im Bereich der psychischen Gesundheit. Wir müssen uns fragen, wie wir damit umgehen wollen, wenn diese Apps direkt zu Konsumenten beziehungsweise Patienten kommen, ohne dass ein Arzt involviert ist. Wenn über Apps tatsächlich klinische Tätigkeiten angeboten werden sollen, die bisher im ärztlichen Bereich lagen und auch nur liegen konnten, müssen wir sicherstellen, dass diese Apps als potenzielle Medizinprodukte erkannt und auch so behandelt werden.