Hybride Diagnose-Kollektive: KI-Unterstützung bei der Diagnostik

Große Sprachmodelle wie ChatGPT-4, Gemini oder Claude 3 werden zunehmend als Diagnosehilfen diskutiert. Ihre Stärken liegen in der Verarbeitung großer Datenmengen und der schnellen Bereitstellung medizinischer Informationen. Zugleich bergen sie Risiken: sogenannte Halluzinationen, medizinische Vorurteile (Bias) und schwer nachvollziehbare Fehler. 

In der Studie wurden über 2.100 realitätsnahe Fallvignetten, kurze Beschreibungen typischer Patientinnen- und Patientenbeschwerden, aus dem Human Diagnosis Project analysiert. Die Forschenden verglichen die Diagnosen medizinischer Fachkräfte mit denen von fünf führenden KI-Modellen. In Summe wurden über 40.000 Diagnosen bewertet, alle nach dem internationalen Standard SNOMED CT klassifiziert. 

Untersucht wurden verschiedene Konstellationen: 

• Einzelne Fachkräfte 

• Menschliche Diagnosekollektive 

• Einzelne KI-Modelle 

• Gruppen von KI-Modellen 

• Gemischte Mensch-KI-Kollektive 

Die deutlich besten Diagnoseergebnisse lieferte die Zusammenarbeit aus mehreren Ärztinnen, Ärzten und KI-Systemen. Selbst das Einbringen eines einzelnen KI-Modells in eine menschliche Gruppe, oder umgekehrt, steigerte die Qualität der Diagnosen. 

„Unsere Ergebnisse zeigen, dass die Zusammenarbeit zwischen Menschen und KI-Modellen ein großes Potenzial zur Verbesserung der Patientensicherheit hat“, erklärt Nikolas Zöller, Erstautor und Postdoktorand am Max-Planck-Institut für Bildungsforschung. 

Die Forschenden identifizierten einen zentralen Grund für den Erfolg der hybriden Teams: Mensch und Maschine machen systematisch unterschiedliche Fehler. Diese Fehlerkomplementarität führt dazu, dass die jeweilige Schwäche durch die andere Seite ausgeglichen werden kann. 

„Es geht nicht darum, den Menschen durch Maschinen zu ersetzen. Vielmehr sollten wir Künstliche Intelligenz als ergänzendes Werkzeug begreifen, das in der kollektiven Entscheidungsfindung sein volles Potenzial entfaltet“, so Co-Autor Stefan Herzog. 

Die Forschenden sehen Potenziale vor allem in medizinisch unterversorgten Regionen. Laut Mitautor Vito Trianni sei der Ansatz auch auf andere komplexe Entscheidungsbereiche übertragbar, etwa das Rechtssystem oder die Klimapolitik. 

Die Studie weist jedoch auch auf Einschränkungen hin: Untersucht wurden ausschließlich textbasierte Fallbeispiele, nicht reale klinische Situationen. Zudem konzentrierte sich die Analyse nur auf die Diagnose, nicht auf Behandlungsverläufe oder therapeutische Entscheidungen. 

MEDICA.de; Quelle: Max-Planck-Institut für Bildungsforschung