KI Absicherung Zwischenpräsentation

KI Absicherung erreicht mit Zwischenpräsentation wichtigen Meilenstein

Am 11. März 2021 fand die Zwischenpräsentation von KI Absicherung, dem größten Projekt der KI Familie, online vor 250 Teilnehmern statt.

Nach der Begrüßung der Teilnehmer führte Dr. Stephan Scholz, Volkswagen AG, in die Thematik des Projekts ein. Kernziel des Projekts ist es, die Sicherheit KI-basierter Funktionsmodule für das hochautomatisierte Fahren nachweisbar zu machen. Eine der größten Herausforderungen bei der Integration der KI Technologie in hochautomatisiert fahrende Autos besteht darin, die gewohnte funktionale Sicherheit bisheriger Systeme zu gewährleisten. Existierende und etablierte Absicherungsprozesse lassen sich nicht ohne weiteres auf maschinelle Lernverfahren übertragen. In KI Absicherung wird erstmals beispielhaft eine stringente und nachweisbare Argumentationskette aufgebaut, mit der sich KI-basierte Funktionsmodule (KI-Module) für das hochautomatisierte Fahren prinzipiell absichern und freigeben lassen.

Im Anschluss daran präsentierte PD Dr. Michael Mock, Fraunhofer IAIS, Wissenschaftlicher Koordinator und Konsortium Co-Lead das Proof of Project Concept. Dieses Konzept wurde erarbeitet, um den detaillierten technischen Workflow zur Entwicklung einer stringenten Sicherheitsargumentation für KI-basierte Wahrnehmungsfunktionen an einem minimalistischen Beispiel zu definieren und zu exemplifizieren. Es wurde auf der operativen Ebene umgesetzt und dient als Blaupause für die Zusammenarbeit und das Zusammenspiel aller Teilprojekte in KI Absicherung.

Im Anschluss folgten Präsentationen der vier Teilprojekte.

Dr. Loren Schwarz, BMW AG führte in das Teilprojekt 1 „KI Funktion zur Fußgängererkennung“ ein. Das von ihm geleitete Teilprojekt entwickelt State-of-the-Art Algorithmen zur Fußgängererkennung und trainiert diese mit synthetischen Daten. Die Algorithmen werden den anderen Teilprojekten für die Entwicklung und Untersuchung der Absicherungsmethoden zur Verfügung gestellt. Die Präsentation zeigt die wesentlichen Bausteine vom Teilprojekt 1: Algorithmen-Entwicklung zur Fußgängererkennung, Spezifikation der funktionalen Anforderungen, sowie Bereitstellung der Entwicklungstools.

Warum man synthetische Lern-, Test- und Absicherungsdaten benötigt, erklärte Dr. Thomas Stauner, BMW AG. In dem von ihm geleiteten Teilprojekt 2 wird eine Werkzeugkette zur Produktion von synthetischen Daten aufgebaut, mit denen KI-Module trainiert und getestet werden. Darüber hinaus wird ein prototypischer Datensatz entwickelt, der Aussagen über die Eignung synthetischer Daten als Ersatz für Realdaten zulässt. Die Präsentation stellt die im Projekt unterstützen Arten von Groundtruth und Metadaten für die Absicherung vor. Darüber hinaus wurden weitere Features der Werkzeugkette und der Ansatz zur Bestimmung der Datenqualität aufgezeigt.

Die Entwicklung von Methoden und Maßnahmen zur Bestimmung und Reduktion systematischer Unzulänglichkeiten ist das Thema von Teilprojekt 3, das von Dr. Fabian Hüger, Volkswagen AG geleitet wird.  In diesem Teilprojekt werden die entwickelten Methoden und Maßnahmen hinsichtlich ihrer Wirksamkeit auf die Sicherheit bewertet, um daraus Wirksamkeits- und Sicherheitsmetriken für KI-Algorithmen abzuleiten. Im Vortrag wurde insbesondere erläutert, welche spezifischen Safety Concerns beim Einsatz tiefer Neuronaler Netze existieren und anhand ausgewählter Methoden und Maßnahmen wurde dargelegt wie diese behandelt werden können.

Die gesamtheitliche KI-Absicherungsstrategie wurde abschließend von Frédérik Blank, Robert Bosch GmbH und Leiter des Teilprojekts 4, sowie dem Co-Lead des Teilprojekts 4, Andreas Rohatschek, Robert Bosch GmbH, präsentiert. Ziel dieses Teilprojekts ist die Formulierung einer Argumentationsstrategie und das exemplarische Aufzeigen und die Umsetzung einer Methodik. Diese Strategie und Methodik sollen nachweisen, dass die technischen Sicherheitsanforderungen erfüllt und die systematischen Unzulänglichkeiten der KI-Funktion hinreichend mitigiert werden. Die Präsentation zeigte insbesondere den aktuellen Stand der Arbeiten entlang der Wertschöpfungskette im Projekt, ausgehend von der Entwicklung von Grundkontext und Ontologie, bis hin zum Vorgehen bei der Sicherheitsargumentation und Test.

Im Anschluss an die jeweiligen Präsentationen konnten die Teilnehmer Fragen stellen und mit den Vortragenden über die Themen diskutieren.

Im zweiten Teil der Veranstaltung wurden in 11 parallelen Topic Sessions punktuell tiefere Einblicke in verschiedene Aspekte der aktuellen Projektarbeit gegeben. Nach jeweils kurzen Präsentationen wurden die Fachthemen unter anderem mit den Experten aus den anderen Projekten der KI-Familie diskutiert, um mögliche Synergien zu identifizieren und den Erkenntnisgewinn projektübergreifend nutzbar zu machen.

In ihrem Schlusswort bedankten sich Dr. Stephan Scholz und PD Dr. Michael Mock für das große Interesse und den fruchtbaren Austausch mit den Teilnehmern. Dieser Austausch wird einen wichtigen Beitrag leisten, um das autonome Fahren auf die Straßen zu bringen: KI Absicherung bearbeitet mit dem Sicherheitsnachweis eine zentrale Herausforderung, die aber längst nicht die einzige ist, die auf dem Weg dahin gelöst werden muss. Die Harmonisierung und die Kompatibilität der Ergebnisse der verschiedenen Projekte der VDA Leitinitiative stellt sicher, das Fernziel durch gemeinsame, koordinierte Anstrengungen ohne Umwege zu erreichen.

Die Überblickspräsentationen und die der Teilprojekte finden Sie hier: