Forscher am Max-Planck-Institut für Intelligente Systeme warnen vor einem Sicherheitsrisiko beim autonomen Fahren. Ein winziges Farbmuster reicht demnach aus, um selbstfahrende Systeme anzugreifen.
Ein kleines Muster kann so viele Störsignale auslösen, dass es zum Sicherheitsrisiko für selbstfahrende Systeme wird.
Max-Planck-Institut für Intelligente Systeme
Im Projekt "Attacking Optical Flow" haben Forscher des Max-Planck-Instituts für Intelligente Systeme in Tübingen gezeigt, dass Farbmuster ein Sicherheitsproblem für automatisierte Fahrzeuge darstellen können. Der sogenannte optische Fluss, der die Bewegung der von Kameras aufgezeichneten Bilder berechnet, kann durch ein Störsignal verwirrt werden. Schon ein kleines Muster kann dazu führen, dass tiefe neuronale Netze falsch rechnen und sich große Teile der Szene in die falsche Richtung bewegen.
Forschern ist bereits bekannt, dass winzige Muster neuronale Netze verwirren können. Die Tübinger Forschungen zeigen aber erstmals, dass auch Algorithmen zur Bestimmung der Bewegung von Objekten anfällig für derartige Angriffe sind. "Unsere Arbeit soll die Hersteller von selbstfahrender Technologie wachrütteln, sie vor der potenziellen Bedrohung warnen. Wenn sie davon wissen, können sie ihre Systeme so trainieren, dass sie gegenüber derartigen Angriffen robust sind", sagt Michael J. Black, Direktor der Abteilung für Perzeptive Systeme am Max-Planck-Institut für Intelligente Systeme. Die Ergebnisse der Forschung sind in der Publikation "Attacking Optical Flow" nachzulesen.