Wie kann die IT-Sicherheit von KI-Systemen in Autos nach allgemein anerkannten Kriterien getestet werden? Dieser Fragestellung gehen BSI, ZF und TÜViT in einem Projekt nach.
Wie können KI-Systeme in Autos vor Angriffen geschützt werden?
Peterfactors / Getty Images / iStock
In einem Projekt wollen das AI Lab von ZF, das Bundesamt für Sicherheit in der Informationstechnik (BSI) sowie TÜV Informationstechnik (TÜViT) Prüfkriterien für KI-Systeme in Form einer modularen technischen Richtlinie erarbeiten. Dies soll die funktionale Sicherheit von KI-Systemen in Autos erhöhen. Dazu werden potenzielle Angriffsstrategien untersucht, indem Angriffe im Labor simuliert werden. Dabei kann es sich etwa um unterschiedliche Methoden sogenannter Adversarial Attacks auf eine KI-basierte Verkehrszeichenerkennung handeln. Es wird versucht, optische Signale so zu manipulieren, dass KI-Systeme beispielsweise ein Tempo-60-Schild als Tempo-120-Schild interpretieren.
"Wer optimal schützen will, muss genau wissen, wie Angreifer vorgehen", sagt Dr. Georg Schneider, der das AI Lab Saarbrücken von ZF leitet und dort für das Projekt verantwortlich ist. Im Projekt soll die Erprobung und Weiterentwicklung entsprechender Anforderungen, Methoden und Werkzeuge vorbereitet werden. In einem Folgeprojekt sollen diese dann gezielt an zwei Use-Cases durchgeführt werden. Auf Basis der gewonnenen Erkenntnisse so anschließend eine modulare technische Richtlinie erstellt werden können. Diese könnte beispielsweise als Grundlage für internationale Standardisierungsbemühungen im Rahmen des UNECE World Forum for Harmonization of Vehicle Regulations genutzt werden.