Handbuch KI-Verordnung

FAQ zum EU AI Act

verfasst von: Paul Voigt, Nils Hullen

Verlag: Springer Berlin Heidelberg

Enthalten in: Springer Professional "Wirtschaft+Technik" , Springer Professional "Technik" , Springer Professional "Wirtschaft"

Inhaltsverzeichnis

Über dieses Buch

Dieses Praxishandbuch bietet eine verständliche und praxisnahe Einführung in die Regulierung von Künstlicher Intelligenz in der EU. Im Q&A-Stil werden praxisrelevante Fragen zur KI-Verordnung aufgegriffen und lösungsorientiert beantwortet. Das Buch richtet sich explizit auch an Nicht-Juristen. Es bietet Hinweise auf bereits existierende Standards, Normen und Frameworks und erklärt deren Relevanz, um frühzeitig die Einhaltung der Anforderungen der KI-Verordnung zu ermöglichen.

Die KI-VO regelt umfassend und sektorübergreifend die Anforderungen an KI-Systeme. Sie gilt für große Unternehmen ebenso wie für Startups, für NGOs und für Behörden. Dieses Handbuch orientiert sich in erster Linie an den Bedürfnissen von Unternehmen jeder Größe, die KI-Systeme entwickeln oder nutzen.

Schon mit Inkrafttreten der KI-VO im Sommer 2024 stellen sich zahlreiche Fragen bei der Umsetzung ihrer Vorgaben. Ab wann und für welche Arten von KI gilt die KI-VO? Welche Pflichten treffen KI-Systeme und KI-Modelle? Für welche Risikoklassen gibt es besondere Compliance-Anforderungen? Welche Vorgaben müssen erfüllt sein, um KI-Systeme in der EU anbieten zu können? Welche Bußgelder drohen bei Verstößen?

Auf diese und viele weitere Fragen bietet das Handbuch zur KI-Verordnung Antworten, um die Anforderungen der KI-Verordnung zu verstehen. Das kompakte Handbuch unterstützt Praktiker mit juristischem, technischem oder Compliance-Hintergrund dabei, KI-Lösungen schon heute rechtssicher umzusetzen.

Inhaltsverzeichnis

Frontmatter

1. Anwendungsbereich und allgemeine Vorgaben

Zusammenfassung

Die innere Logik und Struktur der KI-VO ist wesentlich durch den „Neuen Rechtsrahmen“ (New Legislative Framework) geprägt. Daher wird dieses Konzept des EU-Gesetzgebers bereits zu Beginn des allgemeinen Teils dieses Handbuchs dargestellt (siehe Abschn. 1.1).

Paul Voigt, Nils Hullen

2. Welche KI-Praktiken sind verboten?

Zusammenfassung

Im Rahmen des risikobasierten Ansatzes der KI-VO sind die Verbote bestimmter KI-Praktiken das schärfste Schwert. Nur KI-Systeme, die besonders schädlich für zentrale Werte der EU sind, sollen verboten werden. Sie stehen nach Vorstellung der KI-VO im unauflösbaren Widerspruch zur Achtung der Menschenwürde, zur Freiheit, Gleichheit, Demokratie und Rechtsstaatlichkeit und zu den Grundrechten.

Paul Voigt, Nils Hullen

3. Welche Vorgaben gelten für Hochrisiko-KI-Systeme?

Zusammenfassung

Der größte Teil der Regelungen der KI-VO betrifft Hochrisiko-KI-Systeme. Im Folgenden wird zuerst dargestellt, unter welchen Bedingungen ein KI-System als hochriskant im Sinne der KI-VO gilt (siehe Abschn. 3.1). Dann folgt eine Darstellung der Anforderungen an Hochrisiko-KI-Systeme (siehe Abschn. 3.2). Anschließend werden die Pflichten der verschiedenen Akteure beim Inbetriebnehmen oder Inverkehrbringen von Hochrisiko-KI-Systemen dargestellt (siehe Abschn. 3.3, 3.4, 3.5).

Paul Voigt, Nils Hullen

4. Für welche KI-Systeme gelten spezielle Transparenzanforderungen?

Zusammenfassung

Die KI-VO enthält bestimmte Transparenzpflichten für KI-Systeme. unabhängig davon, ob diese KI-Systeme hochriskant sind oder nicht. Es kommt nur darauf an, ob das jeweilige KI-System in einer bestimmten Art und Weise eingesetzt wird.

Paul Voigt, Nils Hullen

5. Welche Vorgaben gelten für GPAI-Modelle?

Zusammenfassung

GPAI-Modelle (siehe Abschn. 1.2.6), d. h. solche mit allgemeinem Verwendungszweck wie große generative KI-Modelle (genAI) und Large Language Models (LLMs), unterliegen besonderen Regelungen der KI-VO. KI-Modelle, die eine Vielzahl verschiedener Einsatzmöglichkeiten bieten, sind an sich keine KI-Systeme, von denen ein erhöhtes Risiko ausgehen würde (Erwägungsgrund 97). Dennoch hat sich der Gesetzgeber zum Erlass besonderer Pflichten, die Anbieter von GPAI-Modellen treffen, entschieden, da solche GPAI-Modelle in vielen KI-Systemen zum Einsatz kommen. Wenn sie einem weiteren Fine-tuning unterzogen und/oder um Nutzerschnittstellen ergänzt werden, können sie gegebenenfalls auch in Hochrisiko-KI-Systemen eingesetzt werden.

Paul Voigt, Nils Hullen

6. Wie wird die Einhaltung der KI-VO geprüft und überwacht?

Zusammenfassung

Die KI-VO enthält ein umfangreiches Durchsetzungsregime, das sich im Wesentlichen aus zwei Teilen zusammensetzt. Zum einen werden Hochrisiko-KI-Systeme vor ihrem Inverkehrbringen bzw. ihrer Inbetriebnahme in einem Konformitätsbewertungsverfahren geprüft (siehe Abschn. 6.1). Zum anderen werden alle KI-Systeme und GPAI-Modelle – insbesondere nach ihrer Bereitstellung – durch Aufsichtsbehörden überwacht (siehe Abschn. 6.2). Um die Einhaltung der KI-VO zusätzlich zu erleichtern und zu fördern, enthält die KI-VO zudem besondere Verfahrensvorgaben zum Testen von KI-Systemen unter Realbedingungen, bevor diese in Betrieb genommen oder in Verkehr gebracht werden (siehe Abschn. 6.3).

Paul Voigt, Nils Hullen

7. Welche weiteren rechtlichen Vorgaben gibt es für KI?

Zusammenfassung

In der KI-VO sind an vielen Stellen und für viele Vorgaben zusätzliche Konkretisierungen und Ergänzungen durch Sekundärrechtsakte und andere Instrumente vorgesehen. Diese werden in Tab. 7.1 überblicksweise dargestellt. Genannt wird jeweils

Paul Voigt, Nils Hullen

Backmatter

Titel: Handbuch KI-Verordnung
verfasst von: Paul Voigt
Nils Hullen
Verlag: Springer Berlin Heidelberg
Electronic ISBN: 978-3-662-69571-5
Print ISBN: 978-3-662-69570-8
DOI: https://doi.org/10.1007/978-3-662-69571-5