Top

Published in:

2019 | OriginalPaper | Chapter

E. Zusammenfassung der Schlussfolgerungen

Author : Prof. Dr. Mario Martini

Published in: Blackbox Algorithmus – Grundfragen einer Regulierung Künstlicher Intelligenz

Publisher: Springer Berlin Heidelberg

Activate our intelligent search to find suitable subject content or patents.

search-config

AI-assisted search

Off

Zusammenfassung

Algorithmen, die im Räderwerk moderner Softwareanwendungen werkeln, sind zu zentralen Steuerungsressourcen der digitalen Gesellschaft avanciert. Ihre Klassifikationen treffen wichtige Differenzierungsentscheidungen in Lebensbereichen, die für Menschen mitunter existenzielle Bedeutung aufweisen – von der Kreditvergabe über Kaufentscheidungen, die Meinungsbildung und Strafverfolgung bis hin zur Job- und Partnersuche. Die Entwickler und Anbieter komplexer IT-Produkte treten immer häufiger nicht lediglich als Kammerdiener auf, sondern als die neuen Hausherren eines digitalen Imperiums, das der Gesellschaft in die Feder diktiert, was relevant und wichtig ist, und sie nach ihren Gestaltungsvorstellungen umprogrammiert. Die Öffentlichkeit beobachtet das zusehends mit Sorge. Denn „wird der Diener zum Herrn, vergisst er die Vergangenheit und Zukunft“ (mongolisches Sprichwort) – und er verspielt womöglich die Werte der Gegenwart.

Dont have a licence yet? Then find out more about our products and how to get one now:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

über 102.000 Bücher
über 537 Zeitschriften

aus folgenden Fachgebieten:

Automobil + Motoren
Bauwesen + Immobilien
Business IT + Informatik
Elektrotechnik + Elektronik
Energie + Nachhaltigkeit
Finance + Banking
Management + Führung
Marketing + Vertrieb
Maschinenbau + Werkstoffe
Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

inform now

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

über 67.000 Bücher
über 390 Zeitschriften

aus folgenden Fachgebieten:

Automobil + Motoren
Bauwesen + Immobilien
Business IT + Informatik
Elektrotechnik + Elektronik
Energie + Nachhaltigkeit
Maschinenbau + Werkstoffe

Jetzt Wissensvorsprung sichern!

inform now

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

über 67.000 Bücher
über 340 Zeitschriften

aus folgenden Fachgebieten:

Bauwesen + Immobilien
Business IT + Informatik
Finance + Banking
Management + Führung
Marketing + Vertrieb
Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

inform now

previous chapter D. Bausteine einer Regulierung algorithmenbasierter Systeme auf der Zeitachse

Dazu sowie insgesamt zum Fazit bereits die Kurzzusammenfassung bei Martini, JZ 2017, 1017 (1025).

Dazu Mayer-Schönberger, APuZ 2015, 14 (16 f.).

Die kognitiven Fähigkeiten algorithmenbasierter Assistenzsysteme sind Begrenzungen unterworfen, aufgrund derer sie Gesichtspunkte sachgerechter Einzelfalldifferenzierung und -gerechtigkeit nur unzureichend erfassen. Eine Softwareanwendung kann nur diejenigen Faktoren in ihre Argumentations- und Entscheidungsfindung einfließen lassen, für die sie über eine Sensorik verfügt. Alle anderen Einzelfallparameter gehören jedenfalls bei einer Closed-World-Assumption-Programmierung nicht zur Umwelt des lernfähigen Systems; vgl. dazu etwa Kirn/Müller-Hengstenberg, MMR 2014, 225 (228).

Dazu bereits oben B. I. 2. a).

Martini, Big Data, in: Hill/Martini/Wagner (Hrsg.), Digitale Lebenswelt, 2015, S. 97 (133) sowie bereits oben B. I. 2. c).

Dazu im Einzelnen B. III.

Vgl. etwa Bowles, After Cambridge Analytica, Privacy Experts Get to Say ‚I Told You So‘, New York Times online vom 12.04.2018.

Dazu im Einzelnen C.

Dazu im Einzelnen D. I. 2.

Das Risiko bestimmt sich aus der Eintrittswahrscheinlichkeit und der Schadensschwere. Zur Schadensschwere tragen insbesondere die Art und das Ausmaß des Schadens bei. Besonders schwer wiegen nachhaltige, irreparable Schäden sowie Beeinträchtigungen, die besondere Kategorien personenbezogener Daten berühren (Art. 9 DSGVO) – ferner Auswirkungen auf eine Vielzahl Betroffener sowie Ausstrahlungen auf andere Grundrechte jenseits des Rechts auf informationelle Selbstbestimmung (insbesondere die Meinungsfreiheit und die Versammlungsfreiheit).

Siehe dazu im Einzelnen oben D. II. 1. b) cc).

Siehe dazu oben D. II. 2. a) aa) sowie Martini, JZ 2017, 1017 (1020).

Dazu D. II. 2. a) aa) (2).

Siehe dazu im Einzelnen D. II. 2. a) bb).

Es sollte aber Ausnahmen für sicherheitsempfindliche, umgehungsanfällige oder aus ähnlichen Gründen geheimhaltungsbedürftige Anwendungen geben.

Siehe insbesondere § 9 Abs. 1 Nr. 5 ThürIFG.

So muss das Finanzamt nicht bekannt geben, ab welchem konkreten Grenzwert für bestimmte Eingaben das Risikomanagementsystem einen Fall an einen menschlichen Entscheider aussteuert, sondern nur, dass eine solche Funktionalität im digitalen System grundsätzlich vorgesehen ist. § 88 Abs. 5 S. 4 AO untersagt es nämlich, Einzelheiten der Risikomanagementsysteme zu veröffentlichen, „soweit dies die Gleichmäßigkeit und Gesetzmäßigkeit der Besteuerung gefährden könnte“.

Siehe dazu oben D. II. 2. a) bb).

Dazu im Einzelnen D. II. 2. b).

Sie erlegt Behörden auf, Verwaltungsakten eine Erläuterung beizugeben, welche die tatsächlichen und rechtlichen Beweggründe offenlegt, die zu der Entscheidung geführt haben.

Trägt eine Partei Indizien für eine Ungleichbehandlung vor, trifft die andere Partei aber die Beweislast (§ 22 AGG). Sie muss sich durch eine Begründung entlasten, wenn sie negative Rechtsfolgen (wie Schadensersatz oder Entschädigung) vermeiden will.

Dazu B. II. 2. a).

Dazu im Einzelnen oben D. II. 2. b) aa).

Siehe dazu D. II. 2. b) bb) (1).

Siehe dazu D. II. 2. b) bb) (2) (b).

Siehe dazu D. II. 2. b) bb) (2) (c).

Siehe dazu D. II. 2. b) bb) (2) (d).

Siehe oben D. II. 2. c).

Allerdings wäre eine solche Ausweitung der Pflicht des Art. 35 DSGVO auf mitgliedstaatlicher Ebene regulatorisch nicht ohne Weiteres möglich. Die DSGVO regelt die Folgenabschätzung grundsätzlich unionsweit abschließend.

Dazu im Einzelnen D. II. 2. c).

Siehe oben D. II. 2. d).

Dabei handelt es sich um eine normative Frage, bei deren Beantwortung ein oftmals abwägendes und kontextbezogenes Vorgehen notwendig ist, das Softwareanwendungen (bislang) kaum simulieren können.

Siehe oben D. II. 4. b) aa).

Dazu D. II. 4. a) aa) (2).

Die Bezeichnung „TÜV“ ist dabei metaphorisch zu verstehen und notwendig etwas schief. Sie bezeichnet (jedenfalls) nicht notwendig eine private Prüfeinheit nach dem Vorbild des Technischen Überwachungsvereins. Vielmehr umschreibt sie eine Kontrollstelle, die in der Lage ist, auf der Grundlage staatlicher Hoheitsmacht Einblick in die Verarbeitungsprozesse algorithmenbasierter Systeme zu nehmen und diese zu kontrollieren. Ob das gelingt, hängt entscheidend davon ab, ob die Kontrollstelle für diese Aufgaben technisch, organisatorisch und personaltechnisch hinreichend ertüchtigt ist.

Siehe oben D. II. 3. a).

Siehe oben D. II. 3.

Dazu bereits Martini, JZ 2017, 1017 (1022).

Vgl. oben D. III. 1. b) aa) (2).

Siehe dazu bereits D. II. 2. b) bb) (3) sowie D. III. 1. b).

Siehe oben D. III. 1. c).

Vgl. § 63a Abs. 1 S. 1 AMG sowie oben C. IV.

Siehe oben D. III. 1 c) cc).

Dazu bereits Martini, JZ 2017, 1017 (1022).

Siehe dazu im Einzelnen D. III. 2.

Dazu oben D. IV. 1. b).

Siehe oben D. IV. 1. c) bb).

Siehe dazu D. IV. 2.

Dazu oben D. IV. 3. a).

Dazu im Einzelnen D. II. 2.

Siehe oben D. IV. 3. b).

Siehe oben D. IV. 3. d).

Siehe oben D. IV. 3. c) bb).

Siehe oben D. IV. 3. c) aa).

Dazu oben D. VI. 2. b).

Martini, JZ 2017, 1017 (1025).

Vgl. insb. die RL 2000/43/EG, 2000/78/EG, 2004/113/EG und 2006/54/EG.

Vgl. zum Wettbewerbsrecht vor allem die Art. 101 ff. AEUV sowie die aufgrund von Art. 103 Abs. 1 AEUV erlassenen Rechtsakte; vgl. zum Lauterkeitsrecht etwa die RL 2005/29/EG, der der EuGH vollharmonisieren Charakter zugeschrieben hat, EuGH (Plus Warenhandelsgesellschaft), Urt. v. 14.01.2010, ECLI:EU:C:2010:12, Rn. 41.

Dazu D. II. 4. c).

Dazu insbesondere D. IV. 3. a) bb).

Vgl. z. B. die unionsrechtliche Vorgabe des Schadensersatzanspruchs Art. 82 Abs. 1 DSGVO.

Siehe D. III. 2.

Dazu D. IV. 2.

Luhmann, Vertrauen, 5. Aufl., 2014, S. 1 ff.

Vgl. dazu auch die Einführung „Algorithmen als DNA der digitalen Zukunft“ (oben A.).

Schiller, „Die Künstler“, Verse 443–445.

Title: E. Zusammenfassung der Schlussfolgerungen
Author: Prof. Dr. Mario Martini
Publisher: Springer Berlin Heidelberg
Book: Blackbox Algorithmus – Grundfragen einer Regulierung Künstlicher Intelligenz
Print ISBN: 978-3-662-59009-6

Electronic ISBN: 978-3-662-59010-2

Copyright Year: 2019
DOI: https://doi.org/10.1007/978-3-662-59010-2_5

Springer Professional

Zusammenfassung

Please log in to get access to your license.

Dont have a licence yet? Then find out more about our products and how to get one now:

Springer Professional "Wirtschaft+Technik"

Springer Professional "Technik"

Springer Professional "Wirtschaft"