Deep Learning: Wie künstliche neuronale Netze bei der Diagnostik unterstützen können

Die Rolle von Künstlicher Intelligenz und Deep Learning in der medizinischen Diagnostik nimmt immer weiter zu. Im Rahmen einer Innovationsmaßnahme der fortiss GmbH ist die Firma Ubotica Technologies mit ihrer Forschung als Gewinner eines Open Calls der FED4SAE Initiative hervorgegangen: Ihr neuronales Netz, basierend auf Deep Learning, erkennt Indikatoren von diabetischer Retinopathie auf der Netzhaut. Die Krankheit entsteht in Folge einer Zuckerkrankheit und kann im schlimmsten Falle zur Erblindung führen.

Dr. Holger Pfeifer leitet das Kompetenzfeld Software Dependability bei fortiss, dem Landesforschungsinstitut des Freistaats Bayern für softwareintensive Systeme, und erläutert in diesem MEDICA.de-Interview, welchen Beitrag fortiss bei der Forschung übernommen hat, welche Erfolge in dem Projekt erzielt werden konnten und welche Hindernisse Forscher und Forscherinnen bei der Arbeit mit Deep Learning-Systemen immer wieder überwinden müssen.

Herr Dr. Pfeifer, wie funktioniert die Erkennung der Krankheit normalerweise und wie funktioniert Ihre neue Diagnose?

Dr. Holger Pfeifer: Bis jetzt bildet der Arzt die Netzhaut mit einer speziellen Kamera ab und stellt dann anhand dieses Bildes und bestimmter Indikatoren, die auf eine Schädigung hinweisen können, eine Diagnose. Das Verfahren, das von der Firma Ubotica Technologies entwickelt worden ist, versucht, das mithilfe von Künstlicher Intelligenz (KI) automatisiert zu machen. Die Idee ist, dass wir die Bilder, die aus der Kamera kommen, in ein neuronales Netz einspeisen und dieses dann klassifiziert: Entweder ja, hier gibt es Indikatoren für die diabetische Retinopathie, oder nein, hier gibt es keine Beweise. Es ist ein Hilfsmittel, das den Arzt unterstützt, diese Klassifikation vorzunehmen. 

Wir bei fortiss erstellen Software-Tools, mithilfe derer man diese KI hinsichtlich ihrer Qualität untersuchen kann. Wir wollen sicherstellen, dass diese KI-Verfahren eine gute Genauigkeit haben, sodass sie die Krankheitsindikatoren tatsächlich erkennen und keine falsch positiven Meldungen geben, wenn keine Indikatoren vorliegen. Und wir möchten auch untersuchen und verstehen können, warum in bestimmten Fällen das Ergebnis "ja" oder "nein" zustande kommt – welche Dinge sind hierfür tatsächlich ausschlaggebend? 

In diesem speziellen Anwendungsfall war es der Firma Ubotica wichtig, dieses KI-Verfahren direkt in die Kamera zu integrieren. Die üblichen KI-Verfahren sind relativ berechnungsaufwändig, oftmals werden dafür leistungsstarke Computer oder Cloud-Anwendungen genutzt. Aber die Vorstellung, dass wir diese Daten womöglich in eine Cloud geben müssen, um dort die Analyse durchzuführen, ist in Bezug auf Datenschutz und Privatsphäre kritisch. Daher war die Idee eine Chip-Technologie zu nutzen, um das KI-Modell direkt auf diesen Chip zu implementieren und diesen in die Kamera zu bauen, sodass die Analyse in der Praxis während der Untersuchung gemacht werden kann.

Wir wollen Ubotica in diesem recht kritischen Anwendungsfall mit unserem Neural Network Dependability Kit (NNDK) helfen, ihr Lösungsmodell hinsichtlich der Genauigkeit und der Größe besser zu verstehen, denn das Modell muss für den Chip entsprechend klein sein und schnell berechnen können. All diese Fragestellungen kann man mit unserem NNDK-Software-Tool untersuchen.

In diesem Projekt haben wir es geschafft, die Größe des ursprünglichen Chips sehr stark zu reduzieren. Außerdem konnten wir feststellen, dass die Reduktion der Größe keinen signifikanten Einfluss auf die Genauigkeit hat.

Zuletzt konnten wir eine weitere Funktion des NNDK nutzen: Wir können die Art und Weise, wie die KI auf ein Bild reagiert abspeichern und ähnliche Bilder von anderen Patienten aus unserem Datenpool herausfiltern, die möglichst ähnlich sind zu dem, was man beim aktuellen Patienten sieht. Der Arzt kann dann erkennen, dass die KI anhand der Ähnlichkeit mit anderen Beispielen eine ähnliche Klassifizierung vornimmt. Die Bilder wurden vorher von Experten gesichtet und als exemplarisch für diese Krankheit eingeordnet. Das bietet dem Arzt eine zusätzliche Entscheidungsunterstützung, denn er muss der KI nicht blind vertrauen, sondern bekommt eine Begründung für deren Entscheidung. 

Wie weit sind Sie bei der Forschung, wann könnte das System zur Früherkennung wirklich genutzt werden? 

Pfeifer: In unserem Projekt wurde ein Prototyp der Anwendung entwickelt und so die Machbarkeit der Lösung gezeigt. Natürlich gibt es sehr große Herausforderungen, wenn man neue Medizinprodukte auf den Markt bringen möchte – die regulatorischen Voraussetzungen haben wir in diesem Projekt aber nicht untersucht. Allerdings betrachten wir diese Fragestellungen bei fortiss durchaus in anderen Anwendungsfällen, beispielsweise im Bereich des autonomen Fahrens.

Welche Schwierigkeiten bringt maschinelles Lernen mit sich?

Pfeifer: Verfahren mit künstlichen neuronalen Netzen sind immer mit Unsicherheiten behaftet, denn sie können immer nur aus den vorgelegten Daten lernen. Wie aber reagieren sie auf unbekannte, neue Beispiele? Schon das Trainieren eines neuronalen Netzes ist aufwändig: es bedarf einer großen Menge an Trainingsdaten, die oftmals durch Experten vorklassifiziert werden müssen. Ebenso sind die Verfahren wenig transparent, denn eine KI nimmt komplexe mathematische Berechnungsverfahren vor, die man nicht mehr im einzelnen nachvollziehen kann. Es stellen sich die Fragen: Was macht die KI eigentlich? Und warum kommt sie zu diesen Ergebnissen?Denn wenn man am Ende versteht, welche Teile des Modells für bestimmte Dinge in einem Bild zuständig sind und wie diese Teile auf bestimmte Indikatoren anspringen, dann versteht man auch, wie robust dieses neuronale Netzmodell ist, wenn zum Beispiel die Bilder leicht gestört sind. 

Uns geht es um die Nachvollziehbarkeit und Vertrauenswürdigkeit von solchen Anwendungen. fortiss erforscht dabei wichtige Aspekte wie die Robustheit, Genauigkeit und Interpretierbarkeit. Wir arbeiten mit Firmen zusammen, die interessante KI-Anwendungen entwickeln und helfen ihnen mit unserer Forschung,  die Qualität der Anwendungen bezüglich Nachvollziehbarkeit und Vertrauenswürdigkeit zu erhöhen.

Was denken Sie, welche Rolle Deep Learning für die Medizin in Zukunft spielen wird?

Pfeifer: Deep Learning wird da sicher noch eine große Rolle spielen. Wir haben bei medizinischen Fragestellungen oft damit zu tun, dass winzige Details erkannt werden müssen, beispielsweise bei der Diagnostik von Krankheiten mit bildgebenden Verfahren. Diese Bildanalyseverfahren sind recht gut mit KI-Techniken umzusetzen.

Auch im Bereich bereits vorliegender Daten kann KI Großes leisten. Man denke nur an die ganzen Daten und Erkenntnisse aus der Medizin, die aber oftmals in sprachlicher Form oder in Papierform vorliegen: Diese Daten hüten einen Schatz, den man bergen kann. Das muss nicht unbedingt durch neuronale Netze im Speziellen sein, auch andere KI-Verfahren können hier zum Einsatz kommen. Die KI kann dann durchaus helfen, diese Daten aufzubereiten, sodass sie genutzt werden können und dass es möglich ist, dieses Wissen in Diagnosen und Behandlungen zu nutzen.