Der Embedded Software Engineering Kongress (ESE) widmet sich vom 30. November bis 4. Dezember 2026 in Sindelfingen den Herausforderungen beim Einsatz künstlicher Intelligenz in der Softwareentwicklung. Drei Keynotes behandeln die Absicherung intelligenter Systeme, die Zuverlässigkeit großer Sprachmodelle und die Sicherheitsrisiken autonomer KI-Agenten.
Prof. Dr. Mario Trapp, Leiter des Fraunhofer-Instituts für Kognitive Systeme IKS und Professor an der TU München, erläutert, wie sich etablierte Methoden der funktionalen Sicherheit für lernende und adaptive Systeme weiterentwickeln müssen und wie auch bei schwer vorhersehbarem Systemverhalten Sicherheit und Kontrollierbarkeit gewährleistet werden kann. Im Mittelpunkt seines Vortrags stehen Ansätze für „AI Assurance“, resiliente Architekturen und sogenannte „Safe Intelligence“.
Dr. Maximilian Walter, Principal Key Expert für Functional Safety bei Siemens, beschäftigt sich in seinem Vortrag dagegen mit den Grenzen großer Sprachmodelle (LLMs). Er zeigt, warum KI-Systeme trotz überzeugender Formulierungen falsche Ergebnisse liefern können und welche Konsequenzen sich daraus insbesondere für sicherheitskritische Embedded-Software ergeben. Die kritische Überprüfung KI-generierter Ergebnisse ist dabei ein zentraler Aspekt.
Die dritte Keynote hält Ronnit Wilmersdörffer, Expertin und Speakerin für europäische KI-Politik und Compliance-Officer in der KI-Industrie, zu den Auswirkungen agentischer KI auf Cybersicherheit und digitale Souveränität. Sie thematisiert Risiken autonom handelnder Systeme sowie mögliche Gegenmaßnahmen und regulatorische Anforderungen, darunter den Cyber Resilience Act (CRA).
Das Kongressprogramm umfasst 96 Vorträge, 21 Seminare und eine Fachausstellung. (oe)
