Der „AI Software Integrity Builder” von Keysight ist eine Softwarelösung, die die Validierung und Wartung von KI-basierten Systemen revolutionieren soll, um deren Zuverlässigkeit zu gewährleisten. Angesichts zunehmender regulatorischer Kontrollen und einer immer komplexeren KI-Entwicklung bietet die Lösung eine transparente, anpassungsfähige und datengestützte Qualitätssicherung für KI in sicherheitskritischen Umgebungen, wie sie beispielsweise in der Automobilindustrie zu finden sind.
KI-Systeme agieren zwar als komplexe, dynamische Einheiten, doch ihre internen Entscheidungsprozesse bleiben oft undurchsichtig. Diese mangelnde Transparenz stellt Branchen, die Sicherheit, Zuverlässigkeit und die Einhaltung gesetzlicher Vorschriften nachweisen müssen, wie etwa die Automobilindustrie, vor erhebliche Herausforderungen. Entwickler haben Schwierigkeiten, die Grenzen von Datensätzen oder Modellen zu ermitteln, während neue Standards, wie ISO/PAS 8800 für die Automobilindustrie und der AI Act der EU, Erklärbarkeit und Validierung vorschreiben, ohne klare Methoden vorzugeben. Fragmentierte Toolchains verkomplizieren die technischen Arbeitsabläufe zusätzlich und erhöhen das Risiko von Konformitätslücken.
Der AI Software Integrity Builder bietet ein einheitliches, lebenszyklusbasiertes Framework und gibt eine Antwort auf die entscheidende Frage: „Was geschieht innerhalb des KI-Systems und wie kann ich sicherstellen, dass es im Betrieb sicher funktioniert?” Die Lösung versorgt Entwicklerteams mit den für die Einhaltung gesetzlicher Vorschriften erforderlichen Nachweisen und ermöglicht die kontinuierliche Verbesserung von KI-Modellen. Im Gegensatz zu fragmentierten Toolchains, die nur einzelne Aspekte des Tests von KI-Systemen abdecken, umfasst der integrierte Ansatz von Keysight die Analyse von Datensätzen, die Validierung von Modellen, Tests unter realen Bedingungen und die kontinuierliche Überwachung.
Zu den zentralen Funktionen des AI Software Integrity Builder gehören:
- Datensatzanalyse: Analysiert die Datenqualität mithilfe statistischer Methoden, um Verzerrungen, Lücken und Inkonsistenzen aufzudecken, die die Modellleistung beeinträchtigen könnten.
- Modellbasierte Validierung: Erklärt Modellentscheidungen und deckt versteckte Zusammenhänge auf, sodass Entwickler die Muster und Grenzen eines KI-Systems verstehen können.
- Inferenzbasiertes Testen: Bewertet das Verhalten von Modellen unter realen Bedingungen, erkennt Abweichungen vom Trainingsverhalten und empfiehlt Verbesserungen für zukünftige Iterationen.
Anders als bei Open-Source-Tools und Lösungen anderer Anbieter, die in der Regel nur einzelne Aspekte des KI-Tests abdecken, schließt Keysight die Lücke zwischen Training und Einsatz. Die Lösung validiert nicht nur, was ein Modell gelernt hat, sondern auch, wie es in Betriebsszenarien funktioniert – eine wesentliche Voraussetzung für risikoreiche Anwendungen wie autonomes Fahren.
Mit dem neuen Tool können Entwicklerteams sicherstellen, dass KI-Systeme nicht nur leistungsstark, sondern auch transparent, überprüfbar und von Grund auf regelkonform sind. (jr)
