Zum Inhalt

On the Security Relevance of Initial Weights in Deep Neural Networks

  • 2020
  • OriginalPaper
  • Buchkapitel
Erschienen in:

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Abstract

Wir zeigen, dass die Bedrohung breiter angelegt ist: Eine aufgabenunabhängige Permutation der Ausgangsgewichte reicht aus, um die erreichte Genauigkeit auf beispielsweise 50% des Fashion-MNIST-Datensatzes von anfänglich über 90% zu begrenzen. Diese Ergebnisse werden auf MNIST und CIFAR gestützt. Wir bestätigen formell, dass der Angriff mit hoher Wahrscheinlichkeit erfolgreich ist und nicht von den Daten abhängt. Empirisch erscheinen Gewichtsstatistiken und -verluste unverdächtig, was es schwierig macht, den Angriff zu erkennen, wenn der Benutzer sich dessen nicht bewusst ist. Unser Aufsatz ist daher ein Aufruf zum Handeln, um die Bedeutung der Ausgangsgewichte beim tiefen Lernen anzuerkennen.
K. Grosse and T. A. Trost—Equal contribution.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 130.000 Bücher
  • über 540 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Oberflächen + Materialtechnik
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 75.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe
  • Oberflächen + Materialtechnik




 

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 100.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Titel
On the Security Relevance of Initial Weights in Deep Neural Networks
Verfasst von
Kathrin Grosse
Thomas A. Trost
Marius Mosbach
Michael Backes
Dietrich Klakow
Copyright-Jahr
2020
DOI
https://doi.org/10.1007/978-3-030-61609-0_1
Dieser Inhalt ist nur sichtbar, wenn du eingeloggt bist und die entsprechende Berechtigung hast.
Dieser Inhalt ist nur sichtbar, wenn du eingeloggt bist und die entsprechende Berechtigung hast.
    Bildnachweise
    AvePoint Deutschland GmbH/© AvePoint Deutschland GmbH, ams.solutions GmbH/© ams.solutions GmbH, Wildix/© Wildix, arvato Systems GmbH/© arvato Systems GmbH, Ninox Software GmbH/© Ninox Software GmbH, Nagarro GmbH/© Nagarro GmbH, GWS mbH/© GWS mbH, CELONIS Labs GmbH, USU GmbH/© USU GmbH, G Data CyberDefense/© G Data CyberDefense, Vendosoft/© Vendosoft, Kumavision/© Kumavision, Noriis Network AG/© Noriis Network AG, WSW Software GmbH/© WSW Software GmbH, tts GmbH/© tts GmbH, Asseco Solutions AG/© Asseco Solutions AG, AFB Gemeinnützige GmbH/© AFB Gemeinnützige GmbH, Ferrari electronic AG/© Ferrari electronic AG, Doxee AT GmbH/© Doxee AT GmbH , Haufe Group SE/© Haufe Group SE, NTT Data/© NTT Data