An Integrated Approach to a Safety Argumentation for AI-Based Perception Functions in Automated Driving

Das Kapitel stellt einen integrierten Ansatz zur Sicherheitsargumentation für KI-basierte Wahrnehmungsfunktionen im automatisierten Fahren vor, der im Rahmen des deutschen Forschungsprojekts "KI-Absicherung" entwickelt wurde. Er skizziert eine Methodik, die KI-Technologie mit klassischen Methoden der Sicherheitsargumentation kombiniert, wobei der Schwerpunkt auf der Sicherheit von KI-basierten Funktionen in automatisierten Fahrsystemen liegt. Der Ansatz umfasst Spezifikations- und Entwicklungsschritte, Sicherheitsmaßnahmen und Messgrößen sowie eine formale Argumentation für den Fall der Zusicherung mittels Goal Structured Notation (GSN). Die Methodik geht auf DNN-spezifische Sicherheitsbedenken wie Unzulänglichkeiten und Leistungsbeschränkungen ein und schlägt Maßnahmen vor, um diese Risiken abzumildern. Das Kapitel behandelt auch die Operational Design Domain (ODD) und die Entwicklung einer detaillierten semantischen Ontologie, um mögliche Dateneingaberäume und Einflussfaktoren zu beschreiben. Die Sicherheitsargumentation basiert auf einem evidenzbasierten Ansatz, der quantitative und qualitative Messgrößen kombiniert, um die Wirksamkeit von Sicherheitsmaßnahmen nachzuweisen. Das Kapitel schließt mit einer Zusammenfassung der Methodik und einem Ausblick auf zukünftige Entwicklungen, einschließlich der Harmonisierung mit kommenden Normen und KI-Vorschriften.