nach oben

Erschienen in:

2019 | OriginalPaper | Buchkapitel

C. Algorithmen und lernfähige Softwareanwendungen als Risikotechnologie – Regulierungsstrategien klassischer Risikoverwaltung als Blaupause

verfasst von : Prof. Dr. Mario Martini

Erschienen in: Blackbox Algorithmus – Grundfragen einer Regulierung Künstlicher Intelligenz

Verlag: Springer Berlin Heidelberg

Einloggen

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config

KI-gestützte Suche

Aus

Zusammenfassung

Algorithmen sind wie Seziermesser im digitalen Operationsbesteck: Lege artis eingesetzt vermitteln sie der Menschheit segensreiche Fortschritte – in den falschen Händen hingegen können sie Lebenschancen zerstören: Ein medizinisches Expertensystem kann einerseits ungeahnte Zusammenhänge aufdecken, die einem Arzt verborgen geblieben wären. Es kann andererseits aber buchstäblich als Sargnagel wirken, wenn sich Künstliche Intelligenz ein falsches sensorisches Bild von dem Krankheitszustand des Patienten macht, das wiederum ein Mensch für bare Münze nimmt und eine Fehlentscheidung trifft.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

über 102.000 Bücher
über 537 Zeitschriften

aus folgenden Fachgebieten:

Automobil + Motoren
Bauwesen + Immobilien
Business IT + Informatik
Elektrotechnik + Elektronik
Energie + Nachhaltigkeit
Finance + Banking
Management + Führung
Marketing + Vertrieb
Maschinenbau + Werkstoffe
Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

über 67.000 Bücher
über 390 Zeitschriften

aus folgenden Fachgebieten:

Automobil + Motoren
Bauwesen + Immobilien
Business IT + Informatik
Elektrotechnik + Elektronik
Energie + Nachhaltigkeit
Maschinenbau + Werkstoffe

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

über 67.000 Bücher
über 340 Zeitschriften

aus folgenden Fachgebieten:

Bauwesen + Immobilien
Business IT + Informatik
Finance + Banking
Management + Führung
Marketing + Vertrieb
Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Vorheriges Kapitel B. Regulierungsbedarf

Nächstes Kapitel D. Bausteine einer Regulierung algorithmenbasierter Systeme auf der Zeitachse

Beuth, Tonaufnahmenfälschen leicht gemacht, Zeit Online vom 04.11.2016; Hurtz, Diese Technologien können Angst machen, Süddeutsche Zeitung Online vom 21.05.2018; Welser, Fake news 2.0: AI will soon be able to mimic any human voice, Wired vom 08.01.2018. Ein sehr beeindruckendes Beispiel für einen Deepfake findet sich bei Mack, This PSA About Fake News From Barack Obama Is Not What It Appears, BuzzFeed vom 17.04.2018. Ähnliches gilt auch für das individuelle Schriftbild: Mit wenigen Schriftproben gefüttert, analysiert die Software „my text in your handwriting“ die individuellen Eigenheiten einer Handschrift, etwa die Form und Zwischenabstände der Buchstaben. Auf dieser Grundlage ist das Programm in der Lage, nahezu jede Handschrift zu imitieren. Nichts anderes gilt für die Stimme. So gelingt es der Software „Lyrebird“ auf der Grundlage kurzer Sprachproben, Texte mit fremder Stimme vorlesen zu lassen. Vgl. dazu auch Heller, Fast so gut wie echt, FAS vom 11.03.2018, S. 66 f.

Fuest, Algorithmus macht Katy Perry zum Pornostar wider Willen, Welt online vom 27.01.2018; Heller, Fast so gut wie echt, FAS vom 11.03.2018, S. 66.

Denkbar sind dann verschiedene Detektor-Instrumente, z. B. digitale Wasserzeichen. Gänzlich fälschungssicher sind aber auch diese nicht. Es beginnt ein technischer Hase-und-Igel-Lauf zwischen Fälschungs- und Aufdeckungsbemühungen.

Zitiert nach Rahn, Dialektik des geisteswissenschaftlichen Universums, 2016, Abschn. 4.3.9.

Dazu auch Entschließung des Europäischen Parlaments vom 14.03.2017, 2016/2225(INI), ErwGrd N; Sachverständigenrat für Verbraucherfragen beim Bundesministerium der Justiz und für Verbraucherschutz, Verbraucherrecht 2.0, Dez. 2016, S. 58 f.

Vgl. – beschränkt auf den Teilbereich der autonomen Roboter – auch Spranger/Wegmann, Öffentlich-rechtliche Dimensionen der Robotik, in: Beck (Hrsg.), Jenseits von Mensch und Maschine, 2012, S. 105 (113 ff.).

Vgl. Halfmann, Technikrecht aus der Sicht der Soziologie, in: Schulte/Schröder (Hrsg.), Handbuch des Technikrechts, 2. Aufl., 2011, S. 93 (98).

Für diesen Risikobegriff siehe Scherzberg, VerwArch 84 (1993), 484 (497 f.).

Di Fabio, Risikoentscheidungen im Rechtsstaat, 1994, S. 100.

Vgl. dazu insgesamt Jaeckel, Gefahrenabwehrrecht und Risikodogmatik: Moderne Technologien im Spiegel des Verwaltungsrechts, 2009, S. 16 ff. Sie referenziert die Unsicherheiten, die moderne Technologien generieren, anhand der Kernenergie, Gentechnik und Nanotechnologie.

Fischer, Die Europäische Union auf dem Weg zu einer vorsorgenden Risikopolitik?, 2009, S. 87.

Vgl. zu klassischen Fehlerquellen von Algorithmen Zweig, Wo Maschinen irren können, Februar 2018, S. 20 ff. und zu technisch immanenten Grenzen bereits oben B. I. 2. c).

Vgl. etwa BVerfGE 53, 30 (65); siehe zusammenfassend Bredemeier, Kommunikative Verfahrenshandlungen im deutschen und europäischen Verwaltungsrecht, 2007, S. 296 ff.; Pünder, Verwaltungsverfahren, in: Ehlers/Pünder (Hrsg.), Allgemeines Verwaltungsrecht, 15. Aufl., 2015, § 13, Rn. 7 f.; Schmidt-Aßmann, § 109 – Verwaltungsverfahren, in: Isensee/Kirchhof (Hrsg.), HdbStR V, 3. Aufl., 2007, S. 521, Rn. 21 ff.; vgl. auch Polenz, in: Taeger/Pohle (Hrsg.), Kilian/Heussen, Computerrechts-Handbuch, 34. Erg.-Lfg., 2018, Teil 13: Datenschutz – Grundrechtsschutz durch Verfahren, Rn. 2; siehe außerdem bereits grundlegend zum status activus processualis der Grundrechte Häberle, VVDStRL 30 (1972), 43 (86 ff.).

Dazu ausführlich Di Fabio, Risikoentscheidungen im Rechtsstaat, 1994, S. 452 ff.

Di Fabio, Risikoentscheidungen im Rechtsstaat, 1994, S. 7, 462.

Zur gemeinsamen Definition, welche die EU-Kommission vorgelegt hat, siehe Europäische Kommission, Was ist ein „Nanomaterial“? Europäische Kommission legt erstmals gemeinsame Definition vor, Pressemitteilung v. 18.10.2011.

Calliess/Stockhaus, DVBl 2011, 921 (921); Mielke, RECIEL 22 (2013), 146 (147).

Vgl. Bundesinstitut für Risikobewertung, Nanotechnologie – Einsatz, Trends und Risiken, 09/2006, Pressemitteilung v. 06.04.2006.

Vgl. Anonymous, Pflaster misst Blutzucker über die Haarwurzeln, Ärzteblatt Online vom 12.04.2018.

Insoweit gelang Stuttgarter Wissenschaftlern der Forschungsgruppe „Mikro-, Nano- und Molekulare Systeme“ vom Max-Planck-Institut für Intelligente Systeme jüngst ein Durchbruch; erstmals ließ sich ein Mikroroboter durch echtes Gewebe bewegen; mit einem Schwarm schlüpfriger Mikropropeller durchbohrten die Forscher den Glaskörper eines Schweineauges. Müller-Jung, Schlüpfrige Roboter im Auge, FAZ vom 05.11.2018, S. 9. Vgl. https://is.mpg.de/de/news/nanorobots-propel-through-the-eye.

Gießelmann, Nanoroboter schnüren Krebszellen Blutzufuhr ab, Ärzteblatt Online vom 13.02.2018; Li/Jiang et al., Nature Biotechnology 2018, 258.

Vgl. auch Schwirn/Völker, Nanomaterialien in der Umwelt – Aktueller Stand der Wissenschaft und Regulierungen zur Chemikaliensicherheit, 2016, S. 5 ff.

Zum Befund von Rückständen in der Leber siehe Kreyling/Abdelmonem et al., Nature Nanotechnology 10 (2015), 619 ff.

Burgdorf/Packroff et al., Nanotechnologie – Gesundheits- und Umweltrisiken von Nanomaterialien, 2013, S. 26 ff.; Calliess, Das Vorsorgeprinzip und seine Auswirkungen auf die Nanotechnologie, in: Hendler/Marburger/Reiff et al. (Hrsg.), Nanotechnologie als Herausforderung für die Rechtsordnung, 2009, S. 21 (23, 38 f.).

Vgl. Fricke, Da ist „Nano“ drin, 3Sat vom 15.12.2014.

Vgl. Stein, Bald wissen wir, wann wir Nanopartikel mitessen, Welt online vom 20.11.2014.

Calliess, Das Vorsorgeprinzip und seine Auswirkungen auf die Nanotechnologie, in: Hendler/Marburger/Reiff et al. (Hrsg.), Nanotechnologie als Herausforderung für die Rechtsordnung, 2009, S. 21 (25); Möller/Hermann et al., Nanomaterialien: Auswirkungen auf Umwelt und Gesundheit, 2013, S. 124.

Vgl. bspw. die bei Scherzberg, ZUR 2010, 303 (304) dargestellten Studienergebnisse.

Vgl. Scherzberg, ZUR 2010, 303 (304).

Vgl. Mayer-Schönberger/Cukier, Big Data, 2013, S. 18.

So das Bundesministerium für Bildung und Forschung, Zukunft der Arbeit, https://www.bmbf.de/de/neue-werkstoffe-und-materialien-536.html (18.06.2018).

Zur Anwendbarkeit des Vorsorgeprinzips über den Umweltbereich hinaus bzw. die Einbeziehung der Erfordernisse des Umweltschutzes bei dem Bemühen, andere Gemeinschaftspolitiken festzulegen und durchzuführen; vgl. EuGH, EuZW 2005, 53 (55, Rn. 45) m. w. N.; Calliess, Das Vorsorgeprinzip und seine Auswirkungen auf die Nanotechnologie, in: Hendler/Marburger/Reiff et al. (Hrsg.), Nanotechnologie als Herausforderung für die Rechtsordnung, 2009, S. 21 (29 ff.).

Vgl. zur Differenzierung zwischen Schutz- und Vorsorgeprinzip: den Professorenentwurf zu einem Umweltgesetzbuch Jarass/Kloepfer et al., Umweltgesetzbuch, 1994, S. 138.

Vgl. Kommission der Europäischen Gemeinschaften, Die Anwendbarkeit des Vorsorgeprinzips, KOM (2000) 1 endg, S. 15. Dazu auch EuG, Urt. v. 11.09.2002, ECLI:EU:T:2002:209, Rn. 142 f. – Pfizer Animal Health/Rat; zum Vorsorgeprinzip siehe auch Calliess, Rechtsstaat und Umweltstaat, 2001, S. 153 ff.; Martini, Integrierte Regelungsansätze im Immissionsschutzrecht, 2000, S. 117 f.; Wahl/Appel, Prävention und Vorsorge: Von der Staatsaufgabe zur rechtlichen Ausgestaltung, in: Wahl (Hrsg.), Prävention und Vorsorge, 1995, S. 1 (72 ff.).

Kloepfer, Umweltrecht, 4. Auflage, 2016, § 4 Rn. 53 m. w. N.

Vgl. etwa BVerwGE 69, 37 ff.; Wahl/Appel, Prävention und Vorsorge: Von der Staatsaufgabe zur rechtlichen Ausgestaltung, in: Wahl (Hrsg.), Prävention und Vorsorge, 1995, S. 1 (75).

Vgl. dazu Calliess, in: Calliess/Ruffert (Hrsg.), EUV/AEUV, 5. Aufl., 2016, Art. 191 AEUV, Rn. 26 ff.; Kahl, in: Streinz (Hrsg.), EUV/AEUV, 3. Aufl., 2018, Art. 191 AEUV, Rn. 77 ff.

Appel/Mielke, Strategien der Risikoregulierung, 2014, S. 154.

Bundesministerium für Bildung und Forschung, Aktionsplan Nanotechnologie 2020, 2016, S. 10 und 14.

Calliess/Stockhaus, DVBl 2011, 921 (921).

Dazu im Einzelnen D. III. 1. c).

So für die Nanotechnologie European Scientific Committee on Emerging and Newly Identified Health Risks, Risk Assessment of Products of Nanotechnologies, 2009, S. 4; Hermann/Möller et al., Chancen der Nanotechnologien nutzen! Risiken rechtzeitig erkennen und vermeiden!, 2007, S. 4; NanoKommission der deutschen Bundesregierung, Verantwortlicher Umgang mit Nanotechnologien, 2008, S. 16.

NanoKommission der deutschen Bundesregierung, Verantwortlicher Umgang mit Nanotechnologien, 2008, S. 16.

Vgl. a. a. O., S. 16.

Vgl. a. a. O., S. 16 und 42.

Vgl. a. a. O., S. 16, S. 42 ff. Dazu ausführlich Scherzberg, ZUR 2010, 303 (insbesondere 309 ff.).

Zu klären ist insbesondere, ob diejenigen rechtlichen Instrumente, die in Bezug auf Nanomaterialien grundsätzlich bereits zur Verfügung stehen, um die staatliche Vorsorgepflicht zu erfüllen – wie die REACH-Verordnung, Umwelt-, Arbeits- und Verbraucherschutzgesetze –, einer Anpassung bedürfen; vgl. Scherzberg, Innovationsverantwortung in der Nanotechnologie, in: Eifert/Hoffmann-Riem (Hrsg.), Innovationsverantwortung, 2009, S. 185 (194 ff.).

Vgl. die VO 1169/2011 (Lebensmittelinformationsverordnung, LMIV), insbesondere ErwGrd 25, die Legaldefinition in Art. 1 Abs. 2 lit. f sowie die Kennzeichnungspflicht in Art. 18 Abs. 3 S. 1.

Vgl. Art. 16, 19 der VO 1223/2009 (Kosmetik-Verordnung).

Art. 69 Abs. 2 S. 2 lit. b der VO 528/2012 (Biozid-Verordnung).

In der CLP (Classification, Labelling and Packaging)-Verordnung (VO [EG] Nr. 1272/2008, berichtigt am 21.12.2016) finden sich keine spezifischen Vorgaben für Nanomaterialien.

Siehe etwa die Übersicht der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin, https://www.baua.de/DE/Themen/Anwendungssichere-Chemikalien-und-Produkte/Innovative-Materialien/Nanotechnologie/Gesetzeslage.html?__nnn=true&__nnn=true.

Bulkform meint den Basisstoff, der mit der nanoskaligen Form chemisch identisch ist. Trotz stofflicher Identität können Nanomaterialien aber andere Eigenschaften (etwa Farbe oder Brennbarkeit) als der Basisstoff aufweisen, Schulz/Föhl, ZUR 2018, 155 (156).

Schulz/Föhl, ZUR 2018, 155 (156).

Siehe European Chemicals Agency, REACH Guidance for nanomaterials published, Pressemitteilung v. 24.05.2017; diese Ansicht der Kommission stieß in der Wissenschaft jedoch auf Kritik; Schulz/Föhl, ZUR 2018, 155 (156). Es fehle an einer konkreten rechtlichen Grundlage, die Nanomaterialien in den Anwendungsbereich miteinbezieht. Die explizite Erwähnung von Nanomaterialien sei auf Dokumente ohne rechtsbindenden Charakter beschränkt (Leitlinien, Best-Practice-Dokument), Schulz/Föhl, ZUR 2018, 155 (157). Überdies seien die Prüfverfahren der REACH-Verordnung für Nanomaterialien nicht geeignet.

Schulz/Föhl, ZUR 2018, 155 (157 f.). Zu der laufenden Initiative der Kommission https://ec.europa.eu/info/law/better-regulation/initiatives/ares-2017-4925011_en. Zum Vorschlag eines Registers für Nanomaterialien bzw. nanomaterialhaltige Produkte bereits Umweltbundesamt, Konzept für ein europäisches Register für nanomaterialhaltige Produkte, 2012, S. 2 ff. Zur Forderung, dass Hersteller Nanotechnologien in den Sicherheitsdatenblättern zwingend anführen müssen; Schwirn/Völker, Nanomaterialien in der Umwelt – Aktueller Stand der Wissenschaft und Regulierungen zur Chemikaliensicherheit, 2016, S. 22 f. Zum „Blauen Engel“ im Umweltrecht näher unten C. V. 2. b).

Schulz/Föhl, ZUR 2018, 155 (158) sowie zu dem kompetenzrechlichen Hintergrund in Art. 131 REACH-VO, der erklärt, warum die Union nur die Anlagen und nicht die REACH-VO selbst verändert.

Dazu etwa Ammerich, Das Registrierungsverfahren nach der REACH-VO im Lichte des europäischen Eigenverwaltungsrechts, 2014, S. 39 m. w. N.; Führ, ZUR 2014, 270 (271 f.).

Führ, ZUR 2014, 270 (273).

Zu Kennzeichnungspflichten als Regulierungsbaustein unten D. II. 2. a) aa).

So auch Dammann, ZD 2016, 307 (313). Dazu auch unter D. I. 1. a). Bislang ist jede Verarbeitung eines personenbezogenen Datums einem Verbotsvorbehalt unterworfen. Abgestufte Gefährdungsgrade bilden sich dadurch in der rechtlichen Kontrollschärfe der Verarbeitungsgrundlagen nicht immer in einer adäquaten Form ab. Die DSGVO hält an dem Verbotsprinzip fest, bereichert es aber zumindest um risikobasierte Elemente.

Dazu Veil, ZD 2015, 347 (348 ff.).

Martini, in: Paal/Pauly (Hrsg.), DS-GVO/BDSG, 2. Aufl., 2018, Art. 35 DSGVO, Rn. 3.

BT-Drs. 11/3990, S. 27; dazu ausführlich m. w. N. Martini, Integrierte Regelungsansätze im Immissionsschutzrecht, 2000, S. 160 ff.

Ähnlich Dammann, ZD 2016, 307 (314), der eine Abwägung mit den Risiken für den Einzelnen fordert und als Komponenten eines Regelungsmodells „Organisation und Technik, Kontrolle, Haftung und Versicherung“ benennt.

Vgl. zu dieser Frage Parlamentarische Versammlung des Europarates, Protection of the human genome by the Council of Europe, Doc. 8901, 2000. Explanatary Memorandum Ziff. 14. Ein Beispiel aus der Gendiagnostik zeigt auf, wie sensibel die Datenbestände sein können und welche Begehrlichkeiten sie ab einer kritischen Masse hervorrufen können: Die US-amerikanische Firma 23 and me, die Verbrauchern bislang günstige DNA-Analysen anbietet, um mehr über gesundheitliche Risiken und die eigene Abstammung herauszufinden, hat ihre Anteile an den Pharmakonzern GlaxoSmithKline verkauft. Das warf u. a. die heikle Frage auf, ob der Arzneimittelhersteller die individuellen Datenbestände, die viele Betroffene in sicheren Händen vermuteten, künftig auch für die Produktforschung und -entwicklung benutzen darf, siehe Ducharme, A Major Drug Company Now Has Access to 23andMe’s Genetic Data. Should You Be Concerned?, TIME.com vom 26.07.2018.

Vgl. Entwurf eines Gesetzes über genetische Untersuchungen bei Menschen (Gendiagnostikgesetz – GenDG), BT-Drs. 16/10532, S. 16.

Daten zur menschlichen Genetik zu erzeugen und dadurch Wissen zu generieren, kann gerade deshalb geboten sein, weil sich die vielfältigen Fragen, welche die Technologie und die Verfügungsmacht über ihre Innovationen ans Tageslicht spülen, nur auf Basis gesicherter Erkenntnisse und wissenschaftlicher Evaluation angemessen diskutieren lassen. Vgl. auch Trute, Wissenspolitik, in: Eifert/Hoffmann-Riem (Hrsg.), Innovation und rechtliche Regulierung, 2002, S. 290 (306).

Dazu gehören genetische Untersuchungen zu medizinischen Zwecken, zur Klärung der Abstammung sowie im Versicherungsbereich und im Arbeitsleben.

Vgl. dazu bspw. Lamb, Kooperative Gesetzeskonkretisierung, 1995, S. 195 ff.; zu den verschiedenen Ausprägungen technischer Regelsetzung im Verbund zwischen der Exekutive, von dieser eingesetzten Ausschüssen und privatverbandlichen Normungsinstitutionen Kloepfer, Instrumente des Technikrechts, in: Schulte/Schröder (Hrsg.), Handbuch des Technikrechts, 2. Aufl., 2011, S. 151 (178 ff.); Schmidt-Aßmann, in: Maunz/Dürig (Hrsg.), GG, 72. Erg.-Lfg. (Stand: Juli 2014), Art. 19 Abs. 4, Rn. 203 ff.

Die Kompetenz, das Gremium zu beetzen, kommt dem Bundesministerium für Gesundheit zu (vgl. § 23 Abs. 1 S. 2 GenDG).

Es ist grundsätzlich unzulässig, hoheitliche Entscheidungsbefugnisse auf private Träger zu übertragen. Das lässt sich im Umkehrschluss aus Art. 80 GG herauslesen. Er beschränkt die Delegation von Entscheidungsmacht auf staatliche Organe. Vgl. etwa zum Beispiel der „Zentralen Kommission für die Biologische Sicherheit“ (ZKBS) Karthaus, ZUR 2001, 61 (61 ff.); Kroh, DVBl 2000, 102 (105). Aus der Rechtsprechung zur Bindungswirkung der Stellungnahmen der Sachverständigenausschüsse im Gentechnikrecht vgl. VGH Baden-Württemberg, NVwZ 2002, 224.

Vgl. Eifert, § 19 – Regulierungsstrategien, in: Hoffmann-Riem/Schmidt-Aßmann/Voßkuhle (Hrsg.), Grundlagen des Verwaltungsrechts Bd. I, 2. Aufl., 2012, Rn. 69. Kritik an den prozeduralen Sicherungen des § 23 GenDG äußert Winkler, NJW 2011, 889 (892).

Hervorh. d. Verf.

Vgl. Gola/Klug et al., in: Gola/Schomerus (Hrsg.), BDSG, 12. Aufl., 2015, § 28b, Rn. 11 f.; von Lewinski, in: Wolff/Brink (Hrsg.), BeckOK DatenschutzR, 26. Ed. (Stand: 01.05.2018), BDSG 2003 [aK] § 28b BDSG, Rn. 31.

Siehe zu den verfassungsrechtlichen Grenzen der Normdelegation auf Private oben Fn. 73 sowie Becker, Kooperative und konsensuale Strukturen in der Normsetzung, 2005, S. 381 ff.; Martini, AöR 133 (2008), 155 (161 mit Fn. 24); zu praktischen Anwendungsfällen insb. Augsberg, Rechtsetzung zwischen Staat und Gesellschaft, 2003, S. 173 ff.

Vgl. etwa die Ausführungen oben B. I. 2.

Das Verbot erstreckt sich auf die „ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhende […] Entscheidung“ (Art. 22 Abs. 1 DSGVO). Es begrenzt also nicht die rechtliche Zulässigkeit des Profilings (als Weg der Entscheidungsunterstützung) als solches, sondern nur Entscheidungen, sofern diese ausschließlich auf der Grundlage eines Profilings oder anderer automatisierter Maßnahmen erfolgen und dabei rechtliche Wirkung gegenüber dem Betroffenen zeitigen oder diesen in anderer Weise beeinträchtigen. Für alle sonstigen Fälle verweist die DSGVO lediglich darauf, dass eine Rechtsgrundlage erforderlich ist und die Datenschutzgrundsätze einzuhalten sind (ErwGrd 72 DSGVO). Vgl. auch die Nachweise unten D. II. 1. b) bb) mit Fn. 50.

Im Zweifel fehlt den Entwicklern komplexer Softwaresysteme die Expertise, um gesellschaftliche Folgen und ethische Dimensionen ihrer Innovationen ausreichend vorherzusehen und bereits in ihren Experimentierlaboren zu berücksichtigen. Die Gesellschaft ließe einen auf maschinelle Lernverfahren spezialisierten Informatiker ein Stück weit im Stich, wenn er seine eigenen Maßstäbe „transparent und fair“ entwickeln müsste, ohne konkretisierende Klarheit über den Inhalt dieser Anforderung zu erfahren. Regulierung ist so gesehen nicht nur ein Fluch für IT-Konzerne, sondern auch eine notwendige Orientierungsleitplanke.

Dazu im Einzelnen insbesondere D. III. 1.

Das liegt nicht nur an den technischen Eigenheiten komplexer Systeme (etwa neuronaler Netze), sondern unter Umständen auch daran, dass ein in einer Programmiersprache erteilter Befehl trotz klarer Intention des Programmierers de facto zu ungewollten Folgeentscheidungen einer Software oder zu unvorhergesehenen Wechselwirkungen mit anderen IT-Komponenten führen kann.

Vgl. zur historischen Entwicklung ausführlich Dieners/Heil, § 1, in: Dieners/Reese (Hrsg.), Handbuch des Pharmarechts, 2010, Rn. 15 ff.

BVerfGE 7, 377 (414 f.).

Dieners/Heil, § 1, in: Dieners/Reese (Hrsg.), Handbuch des Pharmarechts, 2010, Rn. 19.

Im Jahre 1961 errichtete Westdeutschland auch das erste Bundesgesundheitsministerium.

Dieners/Heil, § 1, in: Dieners/Reese (Hrsg.), Handbuch des Pharmarechts, 2010, Rn. 20, 23 ff. Kortland, in: Kügel/Müller/Hofmann (Hrsg.), AMG, 2. Aufl., 2016, Vorbem. zu § 21 AMG, Rn. 1 ff.

Vgl. Richtlinie 65/65/EWG des Rates vom 26. Januar 1965 zur Angleichung der Rechts- und Verwaltungsvorschriften über Arzneispezialitäten, ABl. Nr. 22 v. 09.02.1965, S. 369/65.

Prägnant Friese, § 5 – Europäisches Zulassungssystem und gegenseitiges Anerkennungsverfahren, in: Dieners/Reese (Hrsg.), Handbuch des Pharmarechts, 2010, Rn. 5.

Dieners/Heil, § 1, in: Dieners/Reese (Hrsg.), Handbuch des Pharmarechts, 2010, Rn. 24.

Kortland, in: Kügel/Müller/Hofmann (Hrsg.), AMG, 2. Aufl., 2016, Vorbem. zu § 21 AMG, Rn. 8.

Eingeführt durch die Verordnung (EWG) Nr. 2309/93 des Rates vom 22. Juli 1993, ABl. Nr. L 214 v. 24.08.1993, S. 1. Sie beschränkte ihren Regelungsradius noch auf biotechnologische Arzneimittel. Mittlerweile setzt die Verordnung (EG) Nr. 726/2004 des Europäischen Parlaments und des Rates vom 31. März 2004 zur Festlegung von Gemeinschaftsverfahren für die Genehmigung und Überwachung von Human- und Tierarzneimitteln und zur Errichtung einer Europäischen Arzneimittel-Agentur vom 31.03.2004 die wesentlichen rechtlichen Rahmenbedigungen. Sie gilt für alle Arzneimittel mit neuen Wirkstoffen, die zum Zeitpunkt des Inkrafttretens der Verordnung in der Gemeinschaft noch nicht zugelassen waren, zu den Einzelheiten vgl. Friese, § 5 – Europäisches Zulassungssystem und gegenseitiges Anerkennungsverfahren, in: Dieners/Reese (Hrsg.), Handbuch des Pharmarechts, 2010, Rn. 68.

Vgl. im Einzelnen Friese, § 5 – Europäisches Zulassungssystem und gegenseitiges Anerkennungsverfahren, in: Dieners/Reese (Hrsg.), Handbuch des Pharmarechts, 2010, Rn. 3 ff. (Zuständigkeitsverteilung zwischen Union und Mitgliedstaaten) bzw. 68 ff. (obligatorisches und fakultatives Verfahren).

Siehe dazu Nickel, in: Kügel/Müller/Hofmann (Hrsg.), AMG, 2. Aufl., 2016, § 77 AMG, Rn. 5. Zu den Zuständigkeitsbereichen der Landesbehörden und der Zentralstelle der Länder für Gesundheitsschutz bei Arzneimitteln und Medizinprodukten (ZLG) ders., Rn. 24 ff.

Es „ist zuständig für Sera, Impfstoffe, Blutzubereitungen, Gewebezubereitungen, Gewebe, Allergene, Arzneimittel für neuartige Therapien, xenogene Arzneimittel und gentechnisch hergestellte Blutbestandteile“ (§ 77 Abs. 2 AMG).

Zu Arzneimitteln, welche die VO erfasst; vgl. Winnands, in: Kügel/Müller/Hofmann (Hrsg.), AMG, 2. Aufl., 2016, § 21 AMG, Rn. 71 ff.

Die Zulassungspflicht beschränkt sich grundsätzlich auf Fertigarzneimittel i. S. d. § 4 Abs. 1 AMG; vgl. zu weiteren Details Winnands, in: Kügel/Müller/Hofmann (Hrsg.), AMG, 2. Aufl., 2016, § 21 AMG, Rn. 3 ff.

Es muss nach dem „jeweils gesicherten Stand der wissenschaftlichen Erkenntnisse ausreichend geprüft“ (Nr. 2) sowie „nach den anerkannten pharmazeutischen Regeln hergestellt“ (Nr. 3) sein. Es darf schließlich auch kein ungünstiges Nutzen-Risiko-Verhältnis (Nr. 5) aufweisen. Um diesen Anforderungen zu entsprechen, durchläuft jedes Arzneimittel Testreihen, welche die Zulassungsfähigkeit des Arzneimittels unter Beweis stellen sollen. Vgl. auch Gehring/Kerler et al., Risikoregulierung im europäischen Binnenmarkt: Regulierungsagenturen, Normungsinstitute und Komitologie-Ausschüsse, in: Tömmel (Hrsg.), Die Europäische Union, 2008, S. 231 (240).

Dazu Thiele, § 26 – Pharmakovigilanz, in: Fuhrmann/Klein/Fleischfresser et al. (Hrsg.), Arzneimittelrecht, 2. Aufl., 2014, Rn. 30.

100

Das Verfahren dient dazu, die Sicherheit der Arzneimittel zu gewährleisten. Es umfasst die Maßnahmen, die ein Arzneimittelproduzent vorgesehen hat, um die Wirksamkeit und Nebenwirkungen von Arzneimitteln für neuartige Therapien zu beobachten; vgl. Pannenbecker, in: Kügel/Müller/Hofmann (Hrsg.), AMG, 2. Aufl., 2016, § 4b AMG, Rn. 21. Schützen soll das System vor einer „unmittelbaren oder mittelbaren Gefährdung der Gesundheit von Mensch oder Tier [durch die] bei der Anwendung von Arzneimitteln auftretenden Risiken, insbesondere Nebenwirkungen, Wechselwirkungen mit anderen Mitteln, Risiken durch gefälschte Arzneimittel oder gefälschte Wirkstoffe“ (§ 62 Abs. 1 S. 1 AMG).

101

Thiele, § 26 – Pharmakovigilanz, in: Fuhrmann/Klein/Fleischfresser et al. (Hrsg.), Arzneimittelrecht, 2. Aufl., 2014, Rn. 6.

102

Menges, § 19 – Die informierenden Texte gem. §§ 10, 11, 11a AMG, in: Fuhrmann/Klein/Fleischfresser et al. (Hrsg.), Arzneimittelrecht, 2. Aufl., 2014, Rn. 1.

103

Weitere Schutzmechanismen sind die Verschreibungs- sowie die Apothekenpflicht. Auch dadurch trägt die Rechtsordnung dazu bei, dass Arzneimittel nur dort zum Einsatz kommen, wo professioneller Rat dabei hilft, Gefahren abzumildern.

104

Empfehlungen für die rechtliche Regulierung autonom agierender Maschinen formulierten die sog. Asimov’schen Gesetze. Sie gehen auf den Roman „I, Robot“ von Isaac Asimov aus dem Jahr 1950 zurück. Er hat drei Grundregeln formuliert: Roboter dürfen keine Menschen verletzen. Sie müssen menschliche Weisungen befolgen und sich selbst schützen; dabei geht das erste Gesetz im Konfliktfall den anderen beiden vor und das zweite dem dritten. Zur interdisziplinären Projektgruppe „Robotik. Optionen der Ersetzbarkeit des Menschen“ der European Academy of Technology and Innovation Assessment siehe Christaller/Decker/Gilsbach et al. (Hrsg.), Robotik, 2001, S. 135 ff. Vgl. außerdem Beck, JR 2009, 225 (227) zur absehbaren Notwendigkeit, selbsttätig agierende Maschinen Aufsichtsrechten und Genehmigungspflichten zu unterwerfen.

105

D. II. 3.

106

Siehe dazu auch unten D. III. 1. c) cc).

107

Eine jedenfalls im Ansatz ähnliche Funktion nimmt der betriebliche bzw. behördliche Datenschutzbeauftragte für Datenverarbeitungen in Unternehmen und Behörden wahr; Art. 39 Abs. 1 DSGVO.

108

Dazu im Einzelnen D. III. 1.

109

Siehe dazu im Einzelnen D. II. 2.

110

Vgl. auch Spickhoff, in: ders. (Hrsg.), MedizinR, 3. Aufl., 2018, § 84 AMG, Rn. 1.

111

Wegweisend dazu Hoffmann-Riem, AöR 123 (1998), 513 (537 f.). Zur rechtshistorischen Einordnung Collin, Regulierte Selbstregulierung – normative Ordnung eines deutschen Sonderweges?, in: Collin/Bender/Ruppert et al. (Hrsg.), Regulierte Selbstregulierung in der westlichen Welt des späten 19. und frühen 20. Jahrhunderts, 2014, S. 3 ff.; zu den verfassungsrechtlichen Eckpunkten ausführlich Schmidt-Preuß, VVDStRL 56 (1997), 160 (170 ff.).

112

Heil, DuD 2001, 129 (133 f.); Trute, DVBl 1996, 950 (950 f.); Weiß, Der Staat 53 (2014), 555 (566 ff.); ähnlich Reimer, § 9 – Das Parlamentsgesetz als Steuerungsmittel und Kontrollmaßstab, in: Hoffmann-Riem/Schmidt-Aßmann/Voßkuhle (Hrsg.), Grundlagen des Verwaltungsrechts Bd. I, 2. Aufl., 2012, Rn. 97 ff., 112.

113

Vgl. Eifert, § 19 – Regulierungsstrategien, in: Hoffmann-Riem/Schmidt-Aßmann/Voßkuhle (Hrsg.), Grundlagen des Verwaltungsrechts Bd. I, 2. Aufl., 2012, Rn. 54; Grimm, Regulierte Selbstregulierung in der Tradition des Verfassungsstaates, in: Berg (Hrsg.), Regulierte Selbstregulierung als Steuerungskonzept des Gewährleistungsstaates, 2001, S. 9 (12, 17 f.); Trute, DVBl 1996, 950 (952 f.).

114

Weiß, Der Staat 53 (2014), 555 (567).

115

Ritter, AöR 104 (1979), 389 (408 f.); Schmidt-Preuß, VVDStRL 56 (1997), 160 (162 ff.). Die hoheitlich regulierte Selbstregulierung ist von der gesellschaftlichen Selbstregulierung (mit staatlicher Auffangverantwortung) zu unterscheiden. Diese zielt primär auf Instrumente, die einen wirksamen wechselseitig domestizierenden Interessenausgleich unter Privaten herstellen; sie entsteht ohne staatliche Intervention, siehe dazu Eifert, § 19 – Regulierungsstrategien, in: Hoffmann-Riem/Schmidt-Aßmann/Voßkuhle (Hrsg.), Grundlagen des Verwaltungsrechts Bd. I, 2. Aufl., 2012, S. 144 ff.; Weiß, Der Staat 53 (2014), 555 (559 ff.).

116

Das BVerfG unterscheidet die sog. zielgebundene Kooperation von der „zielorientierten steuerlichen Lenkung“, die dem Adressaten ermöglicht, ein anderes erwünschtes Handeln an den Tag zu legen, um einen Steuertatbestand zu vermeiden; siehe BVerfGE 98, 106 (121 f.). Vgl. auch Calliess, AfP 2002, 465 (467, 469 ff.).

117

Eifert, § 19 – Regulierungsstrategien, in: Hoffmann-Riem/Schmidt-Aßmann/Voßkuhle (Hrsg.), Grundlagen des Verwaltungsrechts Bd. I, 2. Aufl., 2012, Rn. 53 ff.; Voßkuhle, § 1 – Neue Verwaltungsrechtswissenschaft, in: Hoffmann-Riem/Schmidt-Aßmann/Voßkuhle (Hrsg.), Grundlagen des Verwaltungsrechts Bd. I, 2. Aufl., 2012, Rn. 64.

118

Dazu Hoffmann-Riem, Regulierungswissen in der Regulierung, in: Bora/Henkel/Reinhard (Hrsg.), Wissensregulierung und Regulierungswissen, 2014, S. 135 (147 f., 150); Martini, NVwZ-Extra 35 (2016), 1 (9) m. w. N.; Weiß, Der Staat 53 (2014), 555 (566 ff.).

119

Voßkuhle, § 1 – Neue Verwaltungsrechtswissenschaft, in: Hoffmann-Riem/Schmidt-Aßmann/Voßkuhle (Hrsg.), Grundlagen des Verwaltungsrechts Bd. I, 2. Aufl., 2012, Rn. 63 f. Der Begriff des sog. schlanken Staates ist eher als politisches Leitbild denn als juristisch greifbares Beurteilungskriterium konzipiert; vgl. Busse, DÖV 1996, 389 (389 ff.); Schmitz, NJW 1998, 2866 (2866 ff.).

120

Zusammenfassend zum Wandel moderner Staatlichkeit Schoch, NVwZ 2008, 241 (241 f.). Ähnlich Voßkuhle, § 1 – Neue Verwaltungsrechtswissenschaft, in: Hoffmann-Riem/Schmidt-Aßmann/Voßkuhle (Hrsg.), Grundlagen des Verwaltungsrechts Bd. I, 2. Aufl., 2012, Rn. 64; Weiß, Der Staat 53 (2014), 555 (562 f.).

121

Eifert, § 19 – Regulierungsstrategien, in: Hoffmann-Riem/Schmidt-Aßmann/Voßkuhle (Hrsg.), Grundlagen des Verwaltungsrechts Bd. I, 2. Aufl., 2012, Rn. 60; Hoffmann-Riem, Selbstregelung, Selbstregulierung und regulierte Selbstregulierung im digitalen Kontext, in: Fehling/Schliesky (Hrsg.), Neue Macht- und Verantwortungsstrukturen in der digitalen Welt, 2016, S. 27 (32 ff.).

122

Eifert, § 19 – Regulierungsstrategien, in: Hoffmann-Riem/Schmidt-Aßmann/Voßkuhle (Hrsg.), Grundlagen des Verwaltungsrechts Bd. I, 2. Aufl., 2012, Rn. 60. Vgl. auch Sosnitza, in: Ohly/Sosnitza/Piper (Hrsg.), UWG, 7. Aufl., 2016, § 3 UWG, Rn. 29. Zur Problematik der Mitwirkung Privater unter dem Gesichtspunkt des Demokratieprinzips siehe Di Fabio, VVDStRL 56 (1997), 235 (263 ff.); Ritter, AöR 104 (1979), 389 (411).

123

Spindler/Thorun, Eckpunkte einer digitalen Ordnungspolitik, 2015, S. 35.

124

Martini, NVwZ-Extra 35 (2016), 1 (7 ff.).

125

Verordnung (EG) Nr. 1221/2009 vom 25.11.2009, ABl. Nr. L 342 v. 22.12.2009, S. 1. Das Akronym „EMAS“ steht für Eco-Management Audit Scheme.

126

In Deutschland erfährt sie durch das Umweltauditgesetz (UAG) eine Flankierung. Zur Selbstregulierung durch Öko-Audits siehe Schmidt-Preuß, VVDStRL 56 (1997), 160 (199 ff.).

127

Dazu etwa Martini, Integrierte Regelungsansätze im Immissionsschutzrecht, 2000, S. 283 ff.

128

Bundesministerium für Umwelt, Naturschutz und Reaktorsicherheit, Grundsätze zur Vergabe des Umweltzeichens Blauer Engel, März 2011, S. 1.

129

Mehr als 90 % der Befragten kennen das Siegel; mehr als ein Drittel achtet bei der Produktwahl darauf; Bundesministerium für Umwelt, Naturschutz, Bau und Reaktorsicherheit/Umweltbundesamt, Umweltbewusstsein in Deutschland 2014, 2015, S. 57 f.

130

Vgl. bspw. Roßnagel/Pfitzmann et al., Modernisierung des Datenschutzrechts, Sept. 2001, S. 153 ff.

131

Vgl. Bergt, in: Kühling/Buchner (Hrsg.), DS-GVO/BDSG, 2. Aufl., 2018, Art. 40 DSGVO, Rn. 4; Martini, NVwZ-Extra 35 (2016), 1 (9).

132

So Bergt, in: Kühling/Buchner (Hrsg.), DS-GVO/BDSG, 2. Aufl., 2018, Art. 40 DSGVO, Rn. 2.

133

Dazu etwa Martini, in: Paal/Pauly (Hrsg.), DS-GVO/BDSG, 2. Aufl., 2018, Art. 24 DSGVO, Rn. 44.

134

Dazu im Einzelnen D. V. 2.

135

136

Lerch, Algorithmic Trading and High Frequency Trading, in: Veil (Hrsg.), European Capital Markets Law, 2. Aufl., 2017, S. 553 (553, Rn. 2; 560, Rn. 16 ff.).

137

Vgl. etwa die These Schirrmachers, dass heute niemand mehr beantworten könne, was die Algorithmen in den Finanzmärkten wirklich tun; Schirrmacher, Ego, 2013, S. 41.

138

ErwGrd 61 S. 5 RL 2014/65/EU vom 15.05.2014, ABl. Nr. L 173 v. 12.06.2014, S. 349.

139

Davon ausgenommen sind jedoch Systeme, die nur zu dem Zweck Verwendung finden, Aufträge an einen oder mehrere Handelsplätze weiterzuleiten, Aufträge zu bearbeiten, ohne die Auftragsparameter zu bestimmen, Aufträge zu bestätigen oder die Nachhandelsbearbeitung ausgeführter Aufträge durchzuführen (§ 80 Abs. 2 S. 1 a. E. WpHG). Genaueres zum Bestimmungsprozess siehe Art. 18 der Delegierten Verordnung (EU) Nr. 2017/565 vom 25.04.2016, ABl. Nr. L 87/1 31.03.2017, S. 387.

140

Vgl. Art. 4. Abs. 1 Nr. 39 RL 2014/65/EU.

141

Vgl. ErwGrd 61 S. 1, Art. 4. Abs. 1 Nr. 40 RL 2014/65/EU.

142

Kollokation meint, dass Handelsteilnehmer ihre Server nahe derjenigen der Handelsplatzbetreiber platzieren, vgl. ErwGrd 62 S. 2 RL 2014/65/EU. Die Vorgehensweise hat einen technischen Hintergrund: Damit die Algorithmen so schnell wie möglich handeln können, müssen die Server, auf denen sie laufen, so nah wie möglich an den Servern der jeweiligen Handelsplätze stehen. Deshalb vermieten die Betreiber der Handelsplätze zugleich Serverkapazitäten. Näheres hierzu siehe Franzetti, Investmentbanken, 2018, S. 261 f.

143

Proximity Hosting unterscheidet sich von der Kollokation dadurch, dass ein Dritter (und nicht der Handelsplatzbetreiber) die räumliche Nähe zum Server des Handelsplatzes herstellt.

144

Das schließt auch die eingeschränkte menschliche Beteiligung ein; vgl. § 1 Abs. 1a S. 2 Nr. 4 lit. d) (cc) KWG i. V. m. Art. 18 der Delegierten Verordnung (EU) Nr. 2017/589 vom 19.07.2016, ABl. Nr. L 87 v. 31.03.2017, S. 417.

145

Details zur „Untertägigkeit“ finden sich in Art. 19 der Delegierten Verordnung (EU) 2017/589.

146

Vgl. Art. 4 Abs. 1 Nr. 39 der RL 2014/65/EU; § 1 Abs. 1a S. 2 Nr. 4 lit. d) KWG, § 2 Abs. 44 WpHG.

147

ErwGrd 61 S. 1 RL 2014/65/EU.

148

Eine umfassende Auswertung verschiedener Studien findet sich bei Gomber/Arndt et al., High-Frequency Trading, 2011, S.7, Appendix I. Eine neuere Einzelstudie geht von einem Marktanteil des Hochfrequenzhandels am Handelsvolumen von 35 % für die EU und 50 % für die USA aus, vgl. Kaya, High-frequency trading, 2016, S. 2.

149

ErwGrd 62 S. 6 RL 2014/65/EU; Koller, in: Assmann/Schneider/Mülbert (Hrsg.), 7. Aufl., 2019, § 80 WpHG, Rn. 103; zum WpHG a. F. Jaskulla, BKR 2013, 221 (222); Kobbach, BKR 2013, 233 (233 f.).

150

151

U.S. Commodity Futures Trading Commission, (CFTC)/U.S. Securities Exchange Commission (SEC), Findings Regarding the Market Events of May 6, 2010, 30.09.2010, S. 1, 9 ff.

152

Anonymous, Was den US-Börsencrash im Mai verursachte, Handelsblatt online vom 01.10.2010. Zu einem aktuellen Fall etwa auch Rohrbeck/Schulz, Ein sehr exotischer Crash, Zeit Online vom 14.03.2018.

153

Kuls, Debakel für die Aufsicht, FAZ online vom 22.04.2015.

154

Vgl. Technical Commitee of the International Organization of Securities Commission, Regulatory Issues Raised by the Impact of Technological Changes on Market Integrity and Efficiency, Oktober 2011, S. 11 ff., 28f.: vgl. ErwGrd 59 S. 3 RL 2014/65/EU.

155

Zunächst schätzte der öffentliche Diskurs das systemische Risiko für die Kapitalmärkte der Europäischen Union für geringer als in den USA ein, da die Mitgliedstaaten nicht so stark miteinander verbunden seien wie dort, Kindermann/Coridaß, ZBB 2014, 178 (179). Seitdem die Kommission am 30. September 2015 ihren Aktionsplan für eine Kapitalmarktunion (COM(2015) 468 final) mitteilte und aktiv vorantrieb, ist das Sorgenbewusstein indes gewachsen.

156

Technical Commitee of the International Organization of Securities Commission, Regulatory Issues Raised by the Impact of Technological Changes on Market Integrity and Efficiency, Oktober 2011, S. 13.

157

Lerch, Algorithmic Trading and High Frequency Trading, in: Veil (Hrsg.), European Capital Markets Law, 2. Aufl., 2017, S. 553 (562, Rn. 21); Koller, in: Assmann/Schneider/Mülbert (Hrsg.), 7. Aufl., 2019, § 80 WpHG, Rn. 103; zum WpHG a.F. vgl. Kobbach, BKR 2013, 233.

158

Technical Commitee of the International Organization of Securities Commission, Regulatory Issues Raised by the Impact of Technological Changes on Market Integrity and Efficiency, Oktober 2011, S. 13.

159

Technical Commitee of the International Organization of Securities Commission, Regulatory Issues Raised by the Impact of Technological Changes on Market Integrity and Efficiency, Oktober 2011, S. 13. Zur Diskussion um „Flash Boys“ siehe bspw. Jaskulla, BKR 2013, 221 (221 ff.); Kasiske, WM 2014, 1933 (1933 ff.); Kobbach, BKR 2013, 233 (233 ff.); Mattig, WM 2014, 1940 (1940 ff.); Möslein, ZIP 2018, 204 (211 f.); Schultheiß, WM 2013, 596 (596 ff.).

160

ErwGrd 62 S. 5 RL 2014/65/EU. Ausführlich hierzu Lerch, Algorithmic Trading and High Frequency Trading, in: Veil (Hrsg.), European Capital Markets Law, 2. Aufl., 2017, S. 553 (560 ff., Rn. 15 ff.).

161

Deutsche Bundesbank, Monatsbericht Oktober 2016, 37 (60 f.).

162

Deutsche Bundesbank, Monatsbericht Oktober 2016, 37 (37 ff.).

163

BGBl. 2013, Teil I Nr. 23, S. 1162.

164

European Securities and Markets Authority, Leitlinien, 24.02.2012.

165

RL 2014/65/EU.

166

Verordnung (EU) Nr. 596/2014 vom 16.04.2014, ABl. Nr. L 173 v. 12.06.2014, S. 1.

167

RL 2014/57/EU vom 16.04.2014, ABl. Nr. L 173, v. 12.06.2014, S. 179.

168

Delegierte Verordnung (EU) Nr. 2017/589 vom 19.07.2016, ABl. Nr. L 87 v. 31.03.2017, S. 417; Delegierte Verordnung (EU) 2017/565 vom 25.04.2016, ABl. Nr. L 87 v. 31.03.2017, S. 1; und Delegierte Verordnung (EU) 2017/588 vom 14.07.2016, ABl. Nr. L 87 v. 31.03.2017, S. 411.

169

BGBl 2016, Teil I, Nr. 31, S. 1514.

170

BGBl 2017, Teil I, Nr. 39, S. 1693.

171

Koller, in: Assmann/Schneider/Mülbert (Hrsg.), 7. Aufl., 2019, § 80 WpHG, Rn. 113. Die BaFin stellt auf ihrer Website ein Formular zur Verfügung, welches die Pflichtangaben kennzeichnet. Hierzu zählen neben dem Namen des Pflichtigen auch die Anschrift, der LEI-Code sowie eine Ansprechperson für Rückfragen.

172

Algorithmische Händler, die nicht hochfrequent und ohne Dienstleistungscharakter Eigenhandel betreiben, unterliegen keiner Erlaubnispflicht. Das ergibt sich im Umkehrschluss aus § 32 Abs. 1 S. 1 i. V. m. § 1 Abs. 1a KWG. Der Normgeber geht davon aus, dass solche Geschäfte gegenüber dem Hochfrequenzhandel ein geringes Risiko aufweisen.

173

Vgl. § 32 Abs. 1 S. 1 i. V. m. § 1 Abs. 1a S. 2 Nr. 4 lit. d KWG.

174

Eine (kraft § 32 Abs. 1 S. 1 KWG erlaubnispflichtige) „Finanzdienstleistung“ liegt im Falle des Hochfrequenzhandels nunmehr auch dann vor, wenn ein Hochfrequenzhändler Finanzinstrumente auf eigene Rechnung kauft oder verkauft, (auch) ohne dass eine Dienstleistung für einen anderen vorliegt. Wer ohne Erlaubnis Finanzdienstleistungen erbringt, den bedroht das Gesetz mit einer Freiheitsstrafe bis zu fünf Jahren oder mit Geldstrafe (§ 54 Abs. 1 Nr. 2 Var. 2 KWG).

175

Zu den verschiedenen Instrumenten, um staatliche Überwachungsaufgaben zu erfüllen, und ihrem abgestuften Einsatz entsprechend dem jeweiligen Gefahrenpotenzial siehe Eifert, § 19 – Regulierungsstrategien, in: Hoffmann-Riem/Schmidt-Aßmann/Voßkuhle (Hrsg.), Grundlagen des Verwaltungsrechts Bd. I, 2. Aufl., 2012, Rn. 30.

176

Hierzu gehören insbesondere Anforderungen an das Anfangskapital (§ 33 Abs. 1 S. 1 Nr. 1 lit. c KWG), vorhandenes Eigenkapital und Liquidität (§§ 10 ff. KWG); Risikomanagement (§ 25a KWG) sowie die Prüfung des Jahresabschlusses (§§ 28 ff. KWG).

177

ErwGrd 63 S. 3 f. RL 2014/65/EU.

178

Vgl. die Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Dr. Gerhard Schick, Dr. Danyal Bayaz, Lisa Paus, weiterer Abgeordneter und der Fraktion BÜNDNIS 90/DIE GRÜNEN, BT-Drs. 19/4030, S. 2.

179

Vgl. Art. 34, 35 RL 2014/65/EU; § 53b KWG.

180

ErwGrd 67 S. 1 und 4 RL 2014/65/EU; ähnlich Gebauer, in: Assmann/Schneider/Mülbert (Hrsg.), 7. Aufl., 2019, § 72 WpHG, Rn. 65; Kumpan, in: Baumbach/Hopt (Hrsg.), HGB, 38. Aufl., 2018, § 16 BörsG, Rn. 1a.

181

Gebauer, in: Assmann/Schneider/Mülbert (Hrsg.), 7. Aufl., 2019, § 72 WpHG, Rn. 66.

182

§ 74 Börsenordnung für die Frankfurter Wertpapierbörse, Stand: 05.12.2018 i. V. m. Hessisches Ministerium für Wirtschaft, Energie, Verkehr und Landesentwicklung, Hinweise zur Erfüllung der Verpflichtung zur Kennzeichnung von Handelsalgorithmen, S. 6 Nr. 6, S. 7 Nr. 7.

183

Art. 29 DelVO (EU) 2017/589 i. V. m. Art. 17 Abs. 2 RL 2014/65/EU.

184

Vgl. Art. 17 Abs. 2 UAbs. 4 und 5, Abs. 3 und 4, Art. 4 Abs. 1 Nr. 39 RL 2014/65/EU.

185

ErwGrd 59 S. 3 und ErwGrd 64 RL 2014/65/EU; so auch Koller, in: Assmann/Schneider/Mülbert (Hrsg.), 7. Aufl., 2019, § 80 WpHG, Rn. 103; Binder, in: Staub (Hrsg.), HGB, 5. Aufl., 2017, Organisationsformen an Marktteilnehmer und Marktinfrastrukturen, S. 517, Rn. 77 und Fn. 281 m. w. N.; zu den zuvor auf Grund des Hochfrequenzhandelsgesetzes eingeführten Pflichten aus § 33 Abs.1a WpHG a. F. Kobbach, BKR 2013, 233 (237); Kindermann/Coridaß, ZBB 2014, 178 (182 ff.).

186

Zu den Anforderungen gehören auch Maßnahmen, um dem Markt ausreichend Liquidität zuzuspielen: Art. 17 Abs. 3 RL 2014/65/EU schafft Anreizmechanismen dafür, dass der Markt stärker von den Vorteilen der Hochfrequenz- und algorithmischen Händler als Liquiditätsbereitsteller profitiert. So müssen die Händler für die Dauer eines bestimmten Zeitraums grundsätzlich fortlaufend Liquidität bereitstellen, wenn sie am Markt als Market Maker fungieren, vgl. § 80 Abs. 4 und 5 WpHG.

187

Art. 1–4 DelVO (EU) 2017/589.

188

Vgl. Art. 1 lit a–b DelVO (EU) 2017/589.

189

Vgl. Art. 1 DelVO (EU) 2017/589.

190

Art. 2 Abs. 1 DelVO (EU) 2017/589.

191

Zu den Anforderungen an die Anzahl, Kenntnisse und Kompentenzen der informationstechnischen Mitarbeiter siehe Art. 3 DelVO (EU) 2017/589. Sie müssen auch auf die Dokumentation ausgelagerter oder beschaffter Hard- und Software zugreifen können, vgl. Art. 4 Abs. 2 DelVO (EU) 2017/589; so auch Koller, in: Assmann/Schneider/Mülbert (Hrsg.), 7. Aufl., 2019, § 80 WpHG, Rn. 107 mit Fn 10.

192

Damit ist die „Kill-Funktion“ (Art. 12 DelVO (EU) 2017/589) gemeint: Sie kann jeden Auftrag, der zwar erteilt, aber noch nicht ausgeführt ist, sofort stornieren. Um Missbrauch zu vermeiden, sind die Aufträge vollständig rückverfolgbar (Art. 12 Abs. 2 und 3 DelVO (EU) 2017/589).

193

Vgl. Art. 2 Abs. 2 DelVO (EU) 2017/589.

194

Art. 4 Abs. 1 DelVO (EU) 2017/589.

195

Art. 8 lit. a und b DelVO (EU) 2017/589.

196

Art. 8 lit. c DelVO (EU) 2017/589.

197

Art. 8 lit. d DelVO (EU) 2017/589.

198

Ebenfalls umfasst sind algorithmische Handelssysteme und algorithmische Handelsstrategien, vgl. Art. 5 Abs. 1 DelVO (EU) 2017/589.

199

Art. 8 lit. a–d DelVO (EU) 2017/589.

200

Art. 5 DelVO (EU) 2017/589.

201

Vgl. Art. 7 Abs. 1 UAbs. 2 DelVO (EU) 2017/589.

202

Es sollen explizit auch besonders anspruchsvolle Situationen simuliert werden (Art. 5 Abs. 4 lit. a, b und DelVO (EU) 2017/589).

203

Art. 6 Abs. 1 DelVO (EU) 2017/589.

204

Damit ist das System gemeint, das Käufer und Verkäufer auf dem Handelsplatz zusammenführt.

205

Art. 6 Abs. 2 DelVO (EU) 2017/589.

206

Art. 9 Abs. 1 DelVO (EU) 2017/589, Art. 9 Abs. 2–5 DelVO (EU) 2017/589 konkretisieren die Anforderungen an den Validierungsbericht.

207

Art. 10 DelVO (EU) 2017/589.

208

Art. 10 lit. a und b DelVO (EU) 2017/589.

209

Art. 15 Abs. 1 und Art. 17 Abs. 1 S. 1 DelVO (EU) 2017/589.

210

Art. 13 Abs. 2 und Art. 16 Abs. 1 DelVO (EU) 2017/589.

211

Flankierend müssen sie Drosselmechanismen installieren (Art. 15 Abs. 3 DelVO (EU) 2017/589) und Obergrenzen für Markt- und Kreditrisiken festlegen (Art. 15 Abs. 4 DelVO (EU) 2017/589).

212

Art. 14 Abs. 1 DelVO (EU) 2017/589.

213

Art. 14 Abs. 2 S. 1 DelVO (EU) 2017/589.

214

Sog. „Kill-Funktion“; Art. 12 Abs. 1 DelVO (EU) 2017/589.

215

Hierzu vertiefend Koller, in: Assmann/Schneider/Mülbert (Hrsg.), 7. Aufl., 2019, § 80 WpHG, Rn. 114.

216

Hierzu zählen: Zeitpunkt, Inhalt der Änderung, ausführende und genehmigende Person(en), vgl. Art. 5 Abs. 7 lit. a–d DelVO (EU) 2017/589.

217

Art. 5 Abs. 7 DelVO (EU) 2017/589.

218

Art. 14 Abs. 1 DelVO (EU) 2017/589.

219

Art. 17 Abs. 3 DelVO (EU) 2017/589.

220

Art. 28 und Anhang II Tabelle 2 und 3 DelVO (EU) 2017/589.

221

Kumpan, in: Baumbach/Hopt (Hrsg.), HGB, 38. Aufl., 2018, § 26a BörsG, Rn. 1.

222

RegE HFHG BT-Drs. 17/11631 S. 17.

223

Gebauer, in: Assmann/Schneider/Mülbert (Hrsg.), 7. Aufl., 2019, § 72 WpHG, Rn. 43.

224

Gebauer, in: Assmann/Schneider/Mülbert (Hrsg.), 7. Aufl., 2019, § 72 WpHG, Rn. 43.

225

Seit die Pflichten bestehen, hat die BaFin auf den Handelsplätzen, welche sie beaufsichtigt, keine Verstöße festgestellt; auf den Börsen, welche die Börsenaufsichtsbehörden der Länder beaufsichtigen, gab es zumindest keine „nennenswerten“ Verstöße. Vgl. die Antwort der Bundesregierung auf eine Kleine Anfrage der Abgeordneten Dr. Gerhard Schick, Dr. Danyal Bayaz, Lisa Paus, weiterer Abgeordneter und der Fraktion BÜNDNIS 90/DIE GRÜNEN, BT-Drs. 19/4030, S. 4.

226

Sie bezeichnet den kleinstmöglichen Abstand zwischen zwei Preisgrößen für ein Finanzinstrument im Auftragsbuch (sog. „Tick-Größe“ bzw. Notierungssprung), ErwGrd 8 DelVO (EU) 2017/588.

227

RegE HFreqHG, BT-Drs. 17/11631, S. 16.

228

Näheres zu den „Tick-Größen“: ErwGrd 8, Art. 2 sowie Anhang zur DelVO (EU) 2017/588.

229

„Kurs“ meint das Liquiditätsband und die Preisspanne innerhalb des Liquiditätsbands, vgl. Art. 2 DelVO (EU) 2017/588. Die Geschäftsführung der Frankfurter Wertpapierbörse sieht bei stücknotierten Wertpapieren, wie z. B. Aktien, grundsätzlich einen Notierungsprung von 0,01 Euro vor, welcher sich auf 0,001 verringert, sofern der Kurswert der Aktie kleiner oder gleich 0,25 Euro ist, vgl. § 73 Abs. 4 BörsO für die Frankfurter Wertpapierbörse, Stand: 05.12.2018.

230

So auch Kumpan, in: Baumbach/Hopt (Hrsg.), HGB, 38. Aufl., 2018, § 26b BörsG, Rn. 1.

231

Vgl. zu § 31f Abs. 1 Nr. 8 WphG a.F. etwa Kobbach, BKR 2013, 233 (239).

232

Vgl. §§ 100 f. BörsO für die Frankfurter Wertpapierbörse, Stand: 05.12.2018.

233

Von diesem Recht macht die Frankfurter Börse etwa zwei- bis dreimal im Jahr Gebrauch, Samir Ibrahim, Digitalisiertes Börsengeschäft, Deutschlandfunk.de vom 27.10.2014.

234

Dazu umfassend Jaskulla, BKR 2013, 221 (229 ff.).

235

Die Vorschriften setzen die Vorgaben des Art. 17 RL 2014/65/EU um.

236

Sie hat ihren Fokus bislang stattdessen primär darauf gelegt, die Jahresberichte und Organisationspflichten zu kontrollieren. Siehe dazu die Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Dr. Gerhard Schick, Dr. Danyal Bayaz, Lisa Paus, weiterer Abgeordneter und der Fraktion BÜNDNIS 90/DIE GRÜNEN, BT-Drs. 19/4030 S. 5 Frage 9, S. 6 Frage 11.

237

Das gilt insbesondere für die Übung, Aufträge einzugeben, nur um sie sofort wieder zu stornieren. Umfassend dazu, insbesondere zu den unterschiedlichen Praktiken, Anschütz/Kunzelmann, Handels- und handlungsgestützte Manipulation, in: Meyer/Rönnau/Veil (Hrsg.), Handbuch zum Marktmissbrauchsrecht, 2018, S. 337 ff., Rn. 39–42.

238

Alle drei Varianten umfassen auch im Fall (i) und (ii) bzw. insbesondere im Fall (iii), dass Handelsteilnehmer Kauf- oder Verkaufsaufträge einstellen und dadurch das Auftragsbuch überfrachten oder beeinträchtigen.

239

Art. 13 Abs. 8 DelVO (EU) 2017/589.

240

Das Verbot ist auch auf multilaterale Handelssysteme des Freiverkehrs anwendbar (§ 48 Abs. 3 S. 2 BörsG). Siehe dazu Kobbach, BKR 2013, 233 (238).

241

Zum Vorschlag, den Einsatz eines Risikomanagementsystems zur Pflicht zu erheben, siehe unten D. III. 1. c) cc).

242

Siehe dazu unten D. III. 1. b).

243

Siehe unten D. II. 2. a) aa).

244

Zu der Reichweite einer Zulassungskontrolle und der Idee eines unionsweiten Registers D. II. 3.

245

Dazu unten D. III. 1. c) bb).

246

Bullok, US Stock Market Surveillance System Goes Live, Financial Times Online vom 16.11.2018.

247

Dazu gehört bislang alleine die Pflicht der algorithmischen Händler, Echtzeitüberwachungsprogramme zu verwenden, vgl. Art. 16 DelVO (EU) 2017/589.

248

Zur Forderung nach einer Schnittstelle und weiteren Mitwirkungspflichten unten D. III. 1. b) bb).

Titel: C. Algorithmen und lernfähige Softwareanwendungen als Risikotechnologie – Regulierungsstrategien klassischer Risikoverwaltung als Blaupause
verfasst von: Prof. Dr. Mario Martini
Verlag: Springer Berlin Heidelberg
Buch: Blackbox Algorithmus – Grundfragen einer Regulierung Künstlicher Intelligenz
Print ISBN: 978-3-662-59009-6

Electronic ISBN: 978-3-662-59010-2

Copyright-Jahr: 2019
DOI: https://doi.org/10.1007/978-3-662-59010-2_3

Springer Professional

Zusammenfassung

Bitte loggen Sie sich ein, um Zugang zu Ihrer Lizenz zu erhalten.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Springer Professional "Technik"

Springer Professional "Wirtschaft"