Das Fraunhofer Heinrich-Hertz-Institut (HHI) hat gemeinsam mit seinen Partnern das Konsortialprojekt REFRAME gestartet, das für „Flexible, resiliente und effiziente Machine-Learning-Modelle“ steht. Ziel des Projekts ist es, die Erklärbarkeit Künstlicher Intelligenz (KI) zu verbessern, um die Vertrauenswürdigkeit und Einsatzmöglichkeiten von KI-Systemen in sicherheitskritischen Bereichen wie Medizin und Mobilität zu erhöhen. Das Projekt wird vom Bundesministerium für Bildung und Forschung (BMBF) mit 1,39 Millionen Euro gefördert und läuft über drei Jahre.
Im Mittelpunkt stehen sogenannte „Vision Foundation Models“ (VFM), die eine neue Innovationsstufe für Deep-Learning-Modelle markieren. Diese leistungsstarken, vortrainierten Modelle basieren auf umfangreichen Bilddatensätzen und sind die Grundlage für vielfältige KI-Anwendungen wie Bildklassifikation, Objekt- oder Gesichtserkennung.
Trotz ihrer herausragenden Leistung gibt es weiterhin offene Fragen zur Vertrauenswürdigkeit dieser Technologien. Insbesondere bleibt unklar, wie sich die Genauigkeit und Zuverlässigkeit der Modelle verändern, wenn sie außerhalb des ursprünglichen Trainingsbereichs eingesetzt werden. Diese Herausforderungen müssen bewältigt werden, um den Einsatz von VFM in sicherheitskritischen Bereichen zu ermöglichen.
Das REFRAME-Team wird sich darauf konzentrieren, die Grenzen der VFM in Bezug auf Erklärbarkeit und Unsicherheitsquantifizierung zu untersuchen. Darüber hinaus sollen neue Ansätze entwickelt werden, um die Vertrauenswürdigkeit und Transparenz dieser Modelle zu steigern. Ein weiterer Schwerpunkt liegt auf der Entwicklung effizienter Methoden zur flexiblen Anpassung der Technologie an spezifische Domänen und Aufgaben – selbst bei begrenztem Vorhandensein von Trainingsdaten. (oe)
