News

KI Absicherung

Erfolgreicher Projektabschluss von KI Absicherung

Am 23. Juni 2022 versammelten sich die Partner des KI Absicherung-Konsortiums zur offiziellen Projektabschlussveranstaltung in Berlin und präsentierten die Ergebnisse ihrer dreijährigen Forschungs- und Entwicklungsarbeit.

Projektkoordinator Dr. Stephan Scholz (Volkswagen) eröffnete die Veranstaltung sowohl für die rund 120 Besucherinnen und Besucher vor Ort als auch für die rund 200 per Livestream zugeschalteten Teilnehmerinnen und Teilnehmer und führte durch das ganztägige Programm. Nach einer weiteren kurzen Begrüßung durch Ernst Stöckl-Pukall vom Bundesministerium für Wirtschaft und Klimaschutz, dem Fördermittelgeber des Projekts, folgte zunächst eine Keynote durch Wolfgang Müller-Pietralla von Volkswagen zum Thema „Leitgedanken zum verantwortungsvollen Umgang mit KI“. Im Anschluss daran wurden durch die beiden Koordinatoren Dr. Stephan Scholz (Volkswagen) und Michael Mock (Fraunhofer IAIS) sowie die Teilprojektleiter in kurzen Vorträgen ihre wichtigsten Projektergebnisse präsentiert.

Ziel des Projekts war der Aufbau eines Industriekonsenses für eine allgemeine Absicherungsstrategie für KI-Funktionen. Dafür wurden auf systematische Weise spezifische Methoden, Maßnahmen und Metriken entwickelt, mit denen die Unzulänglichkeiten der unterschiedlichen KI-Funktionen bestimmt und reduziert werden können. Diese Mechanismen dienen als Grundlage für eine verlässliche Systemabsicherung. Je nach KI-Funktionsmodul liefern entweder architekturbasierte, DNN (Deep Neural Networks)-basierte, testbasierte oder datenbasierte Metriken die bewertungskritischen Daten. Für eine nachweisbare Sicherheitsargumentation wurde ein verlässlicher Prozess zur ganzheitlichen Bewertung der verschiedenen KI-Funktionen erarbeitet.

Diese Argumentationskette wurde in KI Absicherung am Beispiel der Fußgängererkennung aufgebaut und anschaulich gemacht. Existierende Algorithmen zur Fußgängerdetektion wurden geprüft und entsprechende kritische Szenarien (Corner cases) identifiziert. Durch ein gezieltes Training der KI mit modernen Simulationstechnologien wurde die Fußgängererkennung auch unter erschwerten Bedingungen verbessert. So identifizierte die KI Objekte auch bei verändertem Lichteinfall oder bei temporär verdeckter Sicht auf den Fußgänger korrekt und verlässlich.

Am Nachmittag gab es anschließend für die Besucherinnen und Besucher vor Ort die Möglichkeit, durch eine interaktive Postersession mit mehr als 40 Postern sowie drei Parallelvorträge vertiefende Einblicke in die Inhalte des Projekts zu erhalten. Darüber hinaus wurde am Nachmittag das Thema der Standardisierung besprochen – zum einen aus ISO-Sicht, zum anderen aus DIN/BSI-Sicht. Zum Abschluss der Veranstaltung wurde in einer Podiumsdiskussion durch alle vier Koordinatoren der KI Familien-Projekte das Projekt KI Absicherung in den Gesamtkontext der Projektfamilie gesetzt. Dies setzte zugleich den Anschlusspunkt für die Folgeveranstaltung am nächsten Tag: Am 24. Juni 2022 präsentierte schließlich das Konsortium des Schwesterprojektes KI Data Tooling seine Zwischenergebnisse.

Weitere Informationen, wie zum Beispiel das Posterbooklet der Abschlussveranstaltung zum Download, finden Sie hier: https://www.ki-absicherung-projekt.de/final-event-results