Zwei Kooperationsprojekte zu KI und Bilderkennung gestartet

Wie kann die Leistung von KI-Werkzeugen in der Bilderkennung messbar gemacht werden? Dieser Frage widmet sich das Projekt MAIBAI "Developing a Metrological framework for Assessment of Image-Based Artificial Intelligence systems for disease detection", das im September 2023 begonnen wurde. Am Beispiel der Brustkrebsfrüherkennung soll ein standardisierter und objektiver Rahmen für die Bewertung der Leistung, Verallgemeinerbarkeit und Eignung von KI-Tools entwickelt werden.

Das Projekt MAIBAI ist Teil der European Partnership on Metrology (EPM), einem 2021 gestarteten EU-Förderprogramm, das sich aktuellen Herausforderungen in den Bereichen Klima, Umwelt, Medizin und Lebenswissenschaften widmet. Die PTB leitet das MAIBAI-Arbeitspaket zum Benchmarking von KI-Algorithmen mit besonderem Fokus auf deren Erklärbarkeit. Beteiligt sind insbesondere die Unterprojekte "Advancing the theory and practice of machine learning model explanations in biomedicine" und "AI based image enhancement for reduced radiation exposure in CT imaging".

Unsicherheiten von maschinellen Lernmodellen quantifizieren

Die Leistung, Genauigkeit und Zuverlässigkeit von maschinellen Lernmodellen stehen auch im Fokus des zweiten Projekts, QUMPHY "Uncertainty quantification for machine learning models applied to photoplethysmography signals". Dort wird ein Good-Practice-Guide entwickelt, der darlegt, wie die Unsicherheiten von Modellen des maschinellen Lernens bei der Auswertung von Photoplethysmographie-Signalen quantifiziert werden sollten. Mit Photoplethysmographie-Messungen (PPG) lassen sich Krankheiten wie Bluthochdruck, Diabetes oder Vorhofflimmern einfach überwachen, indem Arterien durchleuchtet werden. Die anfallenden PPG-Signale sind reich an Informationen, die in der Praxis bisher kaum genutzt wurden. Mit dem Good-Practice-Guide soll vermieden werden, dass es bei der Anwendung von KI-Modellen auf Daten von Probanden mit unterschiedlichem physiologischem Hintergrund, wie z. B. verschiedenen Hautfarben, Geschlecht oder Alter zu Modellverzerrungen und Diskriminierung kommt.

Die Arbeiten im Rahmen von QUMPHY begannen bereits im Juli und sind ebenfalls Teil der European Partnership on Metrology (EPM). Neben der PTB sind fünf weitere Nationale Metrologie-Institute, acht Universitäten und Forschungseinrichtungen sowie zwei Industriepartner und ein Kliniker beteiligt. Einfließen werden die Arbeiten aus dem QI-Digital-Unterprojekt "Invertible neural networks for resolving the hemodynamic inverse problem".