Das Fraunhofer- IESE, das Fraunhofer IKS und die Universität York im Rahmen des Assuring Autonomy International Programm (AAIP) im Forschungsprojekt ICON »LOPAAS« (Layers of Protection Architecture for Autonomous Systems) neue Sicherheitsstandards für autonome Systeme – mit Fokus auf autonomes Fahren – entwickelt. Nach dreijähriger Forschung fand am 11. Juni 2024 die Abschlussveranstaltung des Projekts statt.
Eine der größten Hürden ist die Gewährleistung der funktionalen Sicherheit, ohne dabei die Leistungsfähigkeit des autonomen Systems einzuschränken. Das Projekt ICON LOPAAS hat hierzu maßgebliche Fortschritte erzielt. Mit dem Ziel, die funktionale Sicherheit autonomer Fahrzeuge zu gewährleisten, haben die Partner eine Referenzsicherheitsarchitektur realisiert.
Das Fraunhofer IESE hat sein Fachwissen im dynamischen Risikomanagement eingebracht, damit autonome Systeme Risiken von Handlungsoptionen situationsspezifisch und in Echtzeit einschätzen können. Durch den zusätzlichen Einsatz des Uncertainty Wrappers, der ebenfalls von den Expertinnen und Experten des IESE entwickelt wurde, können autonome Systeme auch Unsicherheiten wie unerwartete Hindernisse auf der Fahrbahn in ihren Entscheidungsprozessen berücksichtigen und angemessen darauf reagieren.
Ein weiterer wichtiger Aspekt ist die Erbringung von Sicherheitsnachweisen für autonome Systeme. Diese Nachweise gewährleisten die systematische Erfassung und Bewertung der Zuverlässigkeit von Machine-Learning-Prozessen.
Die Ergebnisse des Projekts flossen direkt in internationale Industriestandards und Normen ein, beispielsweise in die Spezifikation ISO/PAS 8800 zur Risikominderung Künstlicher Intelligenz bei sicherheitskritischen Systemen in Straßenfahrzeugen oder in den Report ISO/IEC TR 5469 für die funktionale Sicherheit von KI-Systemen. Die Ergebnisse zur Unsicherheitsquantifizierung von KI-Systemen sind in den Spezifikationsstandard DIN SPEC 92005 geflossen, welcher im Januar 2024 veröffentlicht wurde und als Basis für die Entwicklung einer neuen internationalen Norm herangezogen wird. Diese Standards bilden die Grundlage für die verlässliche Nutzung autonomer Systeme weltweit. Durch die Schaffung solcher Richtlinien wird gewährleistet, dass autonome Fahrzeuge überall den gleichen hohen Sicherheitsanforderungen entsprechen. Dies ist ein wichtiger Schritt, um das Vertrauen in autonome Fahrzeuge zu stärken und deren breite Akzeptanz zu fördern. (jr)
