KI-Absicherung: Proof of Project Concept durchgeführt
Die Entwicklung einer stringenten Sicherheitsargumentation für KI-basierte Wahrnehmungsfunktionen erfordert eine vollständige Methodik, um das komplexe Zusammenspiel zwischen Spezifikationen, Daten und Training von KI-Funktionen, Sicherheitsmaßnahmen und -Metriken, Risikoanalyse, Sicherheitszielen und Sicherheitsanforderungen systematisch zu organisieren. Das Projekt KI-Absicherung hat erfolgreich einen "Proof of Project Concept" (PoPC) durchgeführt, um den detaillierten technischen Workflow zur Entwicklung einer stringenten Sicherheitsargumentation für KI-basierte Wahrnehmungsfunktionen an einem minimalistischen Beispiel zu definieren und zu exemplifizieren.
Das Ziel des "Proof of Project Concept" ist es, ein minimalistisches, aber vollständiges Beispiel für alle erforderlichen Schritte in einem Workflow zu geben, der zu einer stringenten Sicherheitsargumentation für KI-basierte Funktionen führt. Dabei werden prägnante und vereinbarte Begriffe verwendet, die die Beziehungen und Abhängigkeiten zwischen den Workflow-Schritten definieren und erklären. Die wichtigsten Ergebnisse sind eine beispielhafte Mini-Sicherheitsargumentation (dargestellt in GSN - Goal Structuring Notation) und die Methodik selbst, die erklärt, wie man mit der Sicherheitsanforderung als Ausgangspunkt beginnt und eine Analyse von DNN-Unzulänglichkeiten und DNN-spezifischen Sicherheitsbedenken durchläuft, diese durch DNN-Sicherheitsmaßnahmen abmildert und den Erfolg durch Metriken misst, die zur Erbringung von Nachweisen führen. Darüber hinaus wurde das "Proof of Project Concept" auf der operativen Ebene umgesetzt und dient somit als Blaupause für die Zusammenarbeit und das Zusammenspiel aller Teilprojekte der KI Absicherung.
Erfahren Sie mehr über dieses Konzept, indem Sie den vollständigen Artikel lesen.