Technologie

Die KI-Funktion

In KI Absicherung werden Methoden und Maßnahmen zur Absicherung von KI-basierten Wahrnehmungsfunktionen für das hochautomatisierte Fahren entwickelt und untersucht. Es wird eine beispielgebende stringente Argumentationskette aufgebaut, mit der sich KI-basierte Funktionsmodule prinzipiell absichern lassen. Dafür werden Methoden, Maßnahmen und Metriken entwickelt, die messbare Leistungs- und Sicherheitsmaße liefern, die diese Argumentationskette stützen.

Aufgrund der sicherheitstechnischen Relevanz wird diese Argumentationskette in KI Absicherung am Beispiel der Fußgängererkennung aufgebaut. Existierende Algorithmen zur Fußgängerdetektion werden geprüft und hinsichtlich ihrer Eignung und Absicherbarkeit anhand definierter Qualitätsmetriken bewertet und eine stringente Sicherheitsargumentation hieraus abgeleitet.

weiter lesen

Die entsprechend semantische Segmentierung

Synthetische Lern- und Testdaten für die KI-Funktion

Aufgrund der hohen Variabilität der möglichen Szenarien und Erscheinungsformen, in denen Fußgänger in der Wirklichkeit vorkommen und am Verkehrsgeschehen teilnehmen, geschieht das Training der neuronalen Netze in KI Absicherung mit systematisch erzeugten synthetischen Daten. Dies erlaubt es, die Kontextdimensionen und Einflussfaktoren der verschiedenen Szenen einfach zu kontrollieren und beliebig zu variieren und systematisch Trainings- und Testdatensätze zu produzieren. Zudem können gezielt Daten für sogenannte Corner Case methodisch abgeleitet und erstellt werden, die für die KI-Funktion besonders herausfordernd oder schwierig sind.

Absicherung und Verbesserung der KI-Funktion

Etablierte Absicherungsprozesse lassen sich nicht ohne Weiteres auf KI-basierte maschinelle Lernverfahren übertragen. Nach dem Training von neuronalen Netzen ist z.B nicht eindeutig klar, auf welche Merkmale der Trainingsdaten sich das Netz sensibilisiert hat. Zudem können leicht veränderte Eingangsdaten das korrekte Verhalten eines Moduls hin zu fehlerhaftem Verhalten verändern.

In KI Absicherung werden Methoden und Maßnahmen entwickelt und kombiniert, mit denen sich solche inhärenten Unzulänglichkeiten in KI-Funktionen systematisch bestimmen und reduzieren lassen. Diese Mechanismen werden auf ihre Aussagekraft hinsichtlich der Absicherbarkeit hin untersucht und bewertet. So wird eine Liste mit inhärenten und systematischen Unzulänglichkeiten von tiefen neuronalen Netzen aufgebaut. Damit können Wirksamkeits- und Sicherheitsmetriken für die KI-Funktion entwickelt werden. Ziel ist ein Werkzeugkasten mit Methoden und Maßnahmen, die hinsichtlich ihrer Wirksamkeit auf die Absicherbarkeit der KI-Funktion bewertet sind.

Synthetisch erzeugte Szenenvariationen bei gleichbleibender Sensorposition

Heatmap zur Plausibilisierung der KI Funktion

Gesamtheitliche Absicherungsstrategie

Mit Hilfe des entwickelten Werkzeugkastens wird die sicherheitsrelevante Wirksamkeit der entwickelten Maßnahmen überprüft und die Argumentations- bzw. Prozesskette zum Nachweis der Absicherbarkeit der KI-Funktion zur Fußgängererkennung aufgebaut. Die hinreichende Mitigation der inhärenten Unzulänglichkeiten des KI-Moduls wird nachgewiesen.

Alle Arbeitsschritte und Beiträge, die für die Definition und exemplarische Umsetzung eines systematischen und gesamtheitlichen Vorgehens zur Absicherung einer spezifischen KI-Funktion notwendig sind, lassen sich unter dem Begriff Assurance Case zusammenfassen. Dieser wird in KI Absicherung durch die stark verzahnten Beiträge der einzelnen Teilprojekte getrieben und liefert durch die Verknüpfung dieser die gesamtheitliche Absicherungsstrategie für die KI-Funktion.