Herr Dr. Schwabe, welche Probleme werden durch das Projekt adressiert?
Dr. Daniel Schwabe: Es kommen zunehmend Produkte auf den Markt für Medizintechnik, die KI-Algorithmen verwenden, und diese Produkte müssen zertifiziert werden. Aktuell gibt es dafür die Medical Device Regulation (MDR), jetzt wird noch der AI Act in die Regulatorik übernommen. Hersteller sind teilweise bereits überfordert und es sollte nie so sein, dass die Regulatorik die Innovationen ausbremst.
Für die Zertifizierung von KI-Medizinprodukten in der Zukunft gibt es das mit 60 Millionen Euro geförderte EU-Projekt TEF-Health (Testing and Experimentation Facility). Das Metric-Framework ist unser erster Schritt, diese Prozesse zu unterstützen durch eine systematische Überprüfungsmöglichkeit von Trainings- bzw. Testdaten. Um die Vertrauenswürdigkeit und Sicherheit von KI-Medizinprodukten zu erhöhen, wird eine solche Validierung künftig nötig sein.
Wie ist der Status quo hinsichtlich der Datenqualität bei medizinischen KI-Anwendungen?
Schwabe: Da gibt es ein breites Spektrum. Wir versuchen nicht, allgemeine Daten für jegliche Anwendungen zu bewerten, sondern wollen wissen: Wie kann man systematisch analysieren, ob dieser Datensatz, den ich zur Verfügung habe, auf die Anwendung passt, die ich gerade entwickle? Wir versuchen dabei sehr praktisch an die Fragestellung heranzugehen, immer mit Blick auf die Hersteller, besonders KMUs und Startups. Sie entwickeln Innovationen, verfügen aber oft noch nicht über die nötige Infrastruktur und das Wissen hinsichtlich Qualitätssicherung. Wir wollen hier eine Systematik an die Hand geben, mit der sie ihre Daten bewerten können.