Skip to main content
main-content

Über dieses Buch

Dieses Buch liefert eine rechtswissenschaftliche Analyse der Chancen und Gefahren algorithmenbasierter Verfahren. Algorithmen, die im Maschinenraum moderner Softwareanwendungen werkeln, sind zu zentralen Steuerungsinstanzen der digitalen Gesellschaft avanciert. Immer nachhaltiger beeinflussen sie unser Leben. Ihre Funktionsweise gleicht aber teilweise einer Blackbox. Die in ihr schlummernden Risiken zu bändigen, fordert die Rechtsordnung heraus. Das Buch beleuchtet die gesellschaftlichen Gefahren einer zunehmenden gesellschaftlichen Steuerung durch Algorithmen und entwickelt erste Regulierungsideen, mit deren Hilfe sich die Wertschöpfungspotenziale automatisierter digitaler Prozesse mit den Grundwerten der Rechtsordnung versöhnen lassen.

Inhaltsverzeichnis

Frontmatter

A. Algorithmen als DNA der digitalen Zukunft

Zusammenfassung
Intelligente Maschinen, welche die Lebenserwartung eines Menschen exakt prognostizieren, gehören zum Standardrepertoire der Science-Fiction-Welt – so auch im dystopischen Hollywood-Film „Gattaca“ aus dem Jahre 1997: Schon im Kreißsaal gibt die Schwester bekannt, mit welcher Wahrscheinlichkeit das Neugeborene im Laufe seines Lebens etwa an Depression oder ADHS erkrankt, und prognostiziert seine Lebenserwartung. Alles, was sie braucht, um diese „Büchse der Pandora“ zu öffnen, ist ein Tropfen Blut – den Rest berechnet eine Software.
Mario Martini

B. Regulierungsbedarf

Zusammenfassung
Je mehr sich unsere Gesellschaft den Algorithmen einer Big-Data-Welt und den Steuerungsmaximen eines „Internet der Dinge“ anvertraut, in dem (Alltags-)Geräte selbsttätig interagieren und die Effizienzkraft technischer Assistenten und Anwendungen zur vollen Entfaltung bringen, umso mehr begibt sie sich in deren Abhängigkeit: Das Erkenntnismittel „Algorithmus“ eröffnet seinen Werkmeistern in den IT-Laboren der digitalen Ökonomie einerseits die Chance, eine tiefschürfende Datenauswertung vorzunehmen und Entscheidungsabläufe in einer Weise zu steuern, die mitunter über die menschlichen Erkenntnisgrenzen hinausgeht. Andererseits bergen die neuen Technologien die Gefahr eines individuellen und kollektiven Kontrollverlustes.
Mario Martini

C. Algorithmen und lernfähige Softwareanwendungen als Risikotechnologie – Regulierungsstrategien klassischer Risikoverwaltung als Blaupause

Zusammenfassung
Algorithmen sind wie Seziermesser im digitalen Operationsbesteck: Lege artis eingesetzt vermitteln sie der Menschheit segensreiche Fortschritte – in den falschen Händen hingegen können sie Lebenschancen zerstören: Ein medizinisches Expertensystem kann einerseits ungeahnte Zusammenhänge aufdecken, die einem Arzt verborgen geblieben wären. Es kann andererseits aber buchstäblich als Sargnagel wirken, wenn sich Künstliche Intelligenz ein falsches sensorisches Bild von dem Krankheitszustand des Patienten macht, das wiederum ein Mensch für bare Münze nimmt und eine Fehlentscheidung trifft.
Mario Martini

D. Bausteine einer Regulierung algorithmenbasierter Systeme auf der Zeitachse

Zusammenfassung
Auf die Herausforderungen, die im Gefolge moderner algorithmenbasierter Alltagsanwendungen auf die Gesellschaft zurollen, sind die normativen Vorgaben für digitale Informations- und Kommunikationstechnologien noch nicht gut vorbereitet. Die technische Entwicklung läuft dem Recht in scheinbar immer größerer Geschwindigkeit vo raus.
Mario Martini

E. Zusammenfassung der Schlussfolgerungen

Zusammenfassung
Algorithmen, die im Räderwerk moderner Softwareanwendungen werkeln, sind zu zentralen Steuerungsressourcen der digitalen Gesellschaft avanciert. Ihre Klassifikationen treffen wichtige Differenzierungsentscheidungen in Lebensbereichen, die für Menschen mitunter existenzielle Bedeutung aufweisen – von der Kreditvergabe über Kaufentscheidungen, die Meinungsbildung und Strafverfolgung bis hin zur Job- und Partnersuche. Die Entwickler und Anbieter komplexer IT-Produkte treten immer häufiger nicht lediglich als Kammerdiener auf, sondern als die neuen Hausherren eines digitalen Imperiums, das der Gesellschaft in die Feder diktiert, was relevant und wichtig ist, und sie nach ihren Gestaltungsvorstellungen umprogrammiert. Die Öffentlichkeit beobachtet das zusehends mit Sorge. Denn „wird der Diener zum Herrn, vergisst er die Vergangenheit und Zukunft“ (mongolisches Sprichwort) – und er verspielt womöglich die Werte der Gegenwart.
Mario Martini

Backmatter

Weitere Informationen

Premium Partner

    Bildnachweise