Was bedeutet das KI-Gesetz für die Autoindustrie?

Mit dem neuen KI-Gesetz will die EU weltweit Vorreiter sein. Anwendungen mit künstlicher Intelligenz sollen künftig reguliert werden, Innovation aber trotzdem möglich bleiben. Was bedeutet das für die Autoindustrie? 

×

Grünes Licht für das KI-Gesetz (engl. AI Act): Das EU-Parlament hat den Weg frei gemacht für schärfere Regeln für künstliche Intelligenz (KI) in der Europäischen Union. Die Parlamentarier stimmten heute in Straßburg mehrheitlich für das Gesetz. Nach Angaben des Parlaments handelt es sich um das weltweit erste KI-Gesetz.

Mit der Zustimmung des Parlaments kann das Regelwerk nun in Kraft treten. Zuvor hatten Unterhändler von Europaparlament und EU-Ländern im Dezember nach langen Verhandlungen eine Einigung über eine Regulierung erzielt. Anfang Februar stimmten auch Vertreter der EU-Staaten dem Vorschlag formell zu, der noch offiziell ausstehende Ratsbeschluss gilt als Formalie. Das Gesetz gilt für alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure sowohl innerhalb als auch außerhalb der EU, teilte die Europäische Kommission mit. 

EU-Regelwerk für KI spaltet

Die EU-Regeln sollen die Gefahren der Computertechnik beherrschbar machen. Die EU-Kommission hatte das Gesetz im April 2021 vorgeschlagen. Demnach sollen KI-Systeme in verschiedene Risikogruppen eingeteilt werden. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen sein. Die Hoffnung ist, dass die Regeln weltweit Nachahmer finden.

Jedoch kommt von zwei Seiten Kritik. Die einen halten die Regeln für zu streng, die anderen für zu lasch. Die Wirtschaft befürchtet, die künftige EU-Verordnung werde Innovationen hemmen sowie die Entwicklung und Einführung innovativer KI-Anwendungen in Europa verlangsamen. Aus Sicht von Verbraucherschützern würden die Regeln Verbrauchern keinen ausreichenden Schutz bieten. Für andere blieben viele der neuen KI-Vorschriften unklar.

Welche Regelungen umfasst der AI Act?

Dem Rat der Europäischen Union zufolge umfasst die Vereinbarung unter anderem folgende Elemente:

• Begriffsbestimmungen und Anwendungsbereich: Die Definition eines KI-Systems passt sich an die OECD-Richtlinien an. Darüber hinaus soll das KI-Gesetz nicht für Systeme gelten, die ausschließlich militärischen oder verteidigungspolitischen Zwecken dienen. Ausgenommen sind auch KI-Systeme, die ausschließlich für Forschung und Innovation verwendet werden, sowie Personen, die KI aus nichtgewerblichen Gründen nutzen.
• Risiko-Klassifizierung von KI-Systemen: Die Vereinbarung enthält eine horizontale Schutzebene und legt Transparenzpflichten für KI-Systeme fest. KI-Anwendungen, deren Risiko als unannehmbar gilt, werden in der EU verboten. Unter dieses Verbot sollen etwa kognitive Verhaltensmanipulation, Emotionserkennung oder Sozialkreditsysteme fallen. Betreiber von Hochrisiko-KI-Systemen werden verpflichtet, vor der Inbetriebnahme eines KI-Systems diese zu prüfen und zu bewerten sowie eine Folgenabschätzung in Bezug auf die Grundrechte durchzuführen. Hochrisiko-KI-Systeme – zum Beispiel für autonome Fahrzeuge, kritische Infrastruktur oder medizinische Geräte – sind Systeme, die eine erhebliche Bedrohung für die Gesundheit, Sicherheit oder die Grundrechte des Einzelnen darstellen können.
• Ausnahmen für die Strafverfolgung: Es gibt spezielle Regelungen für Strafverfolgungsbehörden für die Verwendung von KI. Diesen Behörden ist es vorbehaltlich bestimmter Schutzvorkehrungen erlaubt, im öffentlichen Raum biometrische Fernidentifizierung einzusetzen.
• Neue Governance-Architektur: Auf EU-Ebene wird bei der Kommission ein Amt für künstliche Intelligenz ("KI-Amt") eingerichtet. Seine Aufgabe wird es sein, die am weitesten fortgeschrittenen KI-Modelle zu überwachen; daneben soll es Normen und Testverfahren fördern und die gemeinsamen Vorschriften in allen Mitgliedstaaten durchsetzen. Ein wissenschaftliches Gremium unabhängiger Sachverständiger wird das KI-Amt zu GPAI-Modellen beraten. Ein KI-Ausschuss soll als Koordinierungsplattform und beratendes Gremium für die Kommission fungieren, ein Beratungsforum dem KI-Ausschuss technisches Fachwissen zur Verfügung stellen.
• Sanktionen: Die Geldbußen für Verstöße gegen das KI-Gesetz wurden als Prozentsatz des weltweiten Jahresumsatzes des zuwiderhandelnden Unternehmens im vorangegangenen Geschäftsjahr beziehungsweise als im Voraus festgelegter Betrag festgelegt, je nachdem, welcher Betrag höher ist. Für KMU und Start-ups sind verhältnismäßigere Obergrenzen vorgesehen.
• Maßnahmen zur Innovationsförderung: Um Innovationen zu fördern, können KI-Systeme unter realen Bedingungen getestet werden, wenn bestimmte Bedingungen und Schutzvorkehrungen erfüllt werden. Für kleinere Unternehmen sind festgelegte Ausnahmeregelungen vorgesehen.

VDA befürchtet ein Ausbremsen von Innovation

Künstliche Intelligenz stellt für die deutsche und europäische Industrie eine Schlüsseltechnologie dar. Längst wird KI auch in der Automobilindustrie eingesetzt, die Anwendungsbereiche sollen künftig zunehmen. Im Bereich des automatisierten Fahrens ist die Branche vor allem auf den Einsatz von KI angewiesen. "Umso bedauerlicher ist, dass die europäische KI-Verordnung die Entwicklung und Anwendung von KI im Fahrzeug in Europa zu erschweren droht", erklärte der Verband der Automobilindustrie (VDA) im Juli 2023.

Die Grundidee des AI Acts sei ein sogenannter horizontaler Regulierungsrahmen, so der VDA in einem Positionspapier vom Juli 2023. Die Vorgaben sollen branchenübergreifend für mehrere Sektoren gelten. Die Autoindustrie sei zwar vom AI Act ausgenommen, gleichwohl sollen die Regelungen zukünftig in die EU-Verordnung für die Genehmigung von Kraftfahrzeugen übernommen werden.

Konkret ziele die EU-Kommission auf die Einführung eines delegierten Rechtsakts ab. Dieser Rechtsakt soll die EU-Verordnung 2018/858 über die Typgenehmigung und Marktüberwachung von Kraftfahrzeugen ergänzen. Hierdurch könnte sichergestellt werden, dass KI-Anwendungen im Fahrzeug weiterhin sektoriell reguliert bleiben. Der VDA begrüßt die Einführung dieses delegierten Rechtsaktes, der auf bereits bestehende Normen und Standards für KI verweist und diese für anwendbar erklärt, da der Einsatz von KI im Auto sehr komplex und schwer mit Produkten anderer Branchen zu vergleichen sei. Allerdings sei dieser Prozess mit hohem bürokratischem Aufwand verbunden.

Hochrisiko-Definition zu weit gefasst, aufwändige Zertifizierung 

Kritisch sah der VDA bereits im Positionspapier die Definition von KI-Systemen und mahnte Anpassungsbedarf an. Die Definition würde auch rein technische Prozesse ohne Gefährdungspotenzial – wie etwa in der Entwicklung, Fertigung oder Überwachung von Produkten und Systemen – als "Hochrisiko-KI-System" klassifizieren. Eine entsprechende Klassifizierung könnte dazu führen, dass pauschal alle KI-Systeme im und um das Fahrzeug als "hochriskant" eingestuft würden.

Wiederum müssen KI-Systeme, die als hochriskant eingestuft werden, verpflichtende Sicherheitsanforderungen erfüllen. Aus Sicht des TÜV-Verbands ist es wichtig, dass bestimmte hochriskante KI-Systeme zwingend von einer unabhängigen Prüfstelle geprüft werden müssen. Solche Bewertungen bedeuten jedoch abermals einen erheblichen zusätzlichen Aufwand und hohe Kosten.

Nächste Schritte

Für die Mitgliedsstaaten bedeutet die Zustimmung des EU-Parlaments zum KI-Gesetz nun, dass sie zunächst schrittweise verbotene Systeme außer Betrieb nehmen müssen. Nach zwei Jahren sollen alle Punkte des Gesetzes vollständig umgesetzt sein.

Die Mitgliedstaaten müssen etwa Sanktionen beschließen, wenn Unternehmen die Vorschriften nicht einhalten. Dies können Geldstrafen sein. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.