Autonome Fahrzeuge bewältigen heute deutlich komplexere Verkehrssituationen als noch vor wenigen Jahren. Dennoch zeigen aktuelle Entwicklungen, dass zentrale Sicherheitsfragen weiterhin ungelöst bleiben. Eine vollständig autonome Verkehrswelt liegt damit noch in einiger Entfernung.
„Testen ist entscheidend, um die Funktionsfähigkeit softwarebasierter Systeme sicherzustellen. Mit zunehmendem Einsatz von KI wird diese Aufgabe jedoch immer anspruchsvoller“, sagt Prof. Dr. Andreas Rausch von der Technische Universität Clausthal, Institute for Software and Systems Engineering. „Deshalb arbeiten wir im Zukunftslabor Mobilität an einem zusätzlichen Sicherheitsnetz: Neben der klassischen Funktionsabsicherung entwickeln wir Verfahren, die das Fahrzeugsystem auch während des Betriebs überwachen.“
Das Ziel des Forschungsteams ist klar: Unsicherheiten in KI-basierten Umgebungswahrnehmungssystemen frühzeitig erkennen und das Fahrzeug rechtzeitig in einen sicheren Zustand versetzen. Dazu wurden zwei komplementäre Monitoring-Ansätze entwickelt – funktionales Monitoring und situatives Monitoring.
Das funktionale Monitoring überprüft, ob das Fahrzeug im Betrieb korrekt funktioniert und sich in einem sicheren Zustand befindet. Das situative Monitoring richtet den Blick auf die KI-Modelle selbst: Es analysiert, ob die aktuelle Verkehrssituation in den Trainingsdaten vertreten war. Fehlen entsprechende Muster, steigt das Risiko, dass die KI nur schätzt statt zuverlässig zu erkennen. In solchen Fällen können Notfallmaßnahmen eingeleitet werden. Tests zeigten, dass das situative Monitoring sowohl unbekannte Varianten bekannter Klassen (beispielsweise eine liegende statt einer laufenden Person) als auch vollständig neue Objekte erkennt, die im Trainingsdatensatz nicht vorkamen. Für diesen Ansatz wurde bereits ein Patent angemeldet.
Zur Überprüfung der beiden Monitoring-Systeme nutzten die Forscherinnen und Forscher ein Command-and-Control-Center, das die Umgebungserfassung des Versuchsfahrzeugs visualisiert. Diese Leitstelle ermöglicht eine Fernüberwachung und unterstützt menschliche Sicherheitsoperatoren dabei, bei Bedarf einzugreifen. Damit wird die Verantwortung für die Fahrsicherheit zwischen dem externen Bedienpersonal und dem technischen System im Fahrzeug aufgeteilt und gezielt übergeben. (oe)
