In dem White Paper „Rethinking AI Validation“ befasst sich Keysight mit der Frage, warum Erklärbarkeit, Robustheit und KI-Sicherheit für moderne KI-Systeme unerlässlich sind. Der Beitrag zeigt die Grenzen aktueller Validierungsverfahren auf und stellt einen ganzheitlichen, durchgängigen Validierungsansatz vor, der zu vertrauenswürdigen KIs führt.
Zu Beginn wird erläutert, wie ein einfacher Wahrnehmungsfehler im zugrunde liegenden LLM-Basismodell durch den weiteren Stack propagiert werden kann, was zu sicherheitskritischen Folgefehlern führt.
Anschließend geht es um das Black-Box-Verhalten von KI, das eine Rückverfolgung zur Fehlerursache verhindert. Dieses Verhalten muss daher anders abgesichert werden. Das Paper konstatiert, dass sich Entwickler bislang mit der doppelten Herausforderung begrenzter Transparenz und unzureichender Diagnosewerkzeuge konfrontiert sehen. Es wird eine Abkehr von isolierten Modellprüfungen gefordert. Keysight schlägt den Wechsel zu einer ganzheitlichen, lebenszyklusorientierten Qualitätssicherung vor, die Transparenz, Sicherheit und die Einhaltung gesetzlicher Vorschriften miteinander verbindet. Der Text führt die dafür erforderlichen Merkmale einer entsprechenden Lösung zur Absicherung einer KI über ihren Lebenszyklus auf.
In den folgenden Abschnitten wird untersucht, wo die derzeitigen Validierungsansätze Defizite aufweisen und dargelegt, was erforderlich ist, um einen vertrauenswürdigen Einsatz von KI im großen Maßstab zu gewährleisten.
Den Anfang macht ein Abschnitt, der die Lücken der aktuell üblichen modell- und datenzentrischen Validierungsansätze noch einmal genauer beschreibt. Hier wird erneut aufgezeigt, dass viele der derzeit eingesetzten Tools nicht über die funktionale Ebene hinauskommen und nur wenige die System- oder gar die Domänenebene berücksichtigen, wie es für eine holistische KI-Validierung erforderlich ist.
Es folgt ein Abschnitt, der den holistischen Ansatz der KI-Validierung ausführlicher beschreibt. Insbesondere geht der Text dabei auf die drei Validierungsanwendungsbereiche bzw. -kategorien Datensatzintegrität und Coverage, die modellbasierte Validierung sowie das inferenzbasierte Testen, erweitert um eine anschließende kontinuierliche Absicherungsschleife, ein. In diese gliedert das Unternehmen den Validierungsprozess auf.
Im anschließenden Abschnitt, der den Titel Lifecycle-Centric AI Validation trägt, beschreibt Keysight den Entwicklungsprozess, der die ganzheitliche KI-Validierung ermöglicht und in fünf Phasen unterteilt ist:
- Phase 1: Daten- und Problemanalyse
- Phase 2: Feature Engineering
- Phase 3: Modelltraining
- Phase 4: Modellbewertung
- Phase 5: Inferenz (Einsatz in der Praxis)
Auf den nächsten zwei Seiten wird der AI Software Integrity Builder von Keysight überblicksartig vorgestellt. Mit diesem Tool lassen sich die Validierungsprinzipien und Lebenszyklusphasen in einem durchgängigen, lückenlosen Qualitätssicherungs-Workflow praktisch umsetzen. (jr)
