9. Vorschläge für KI-Regulierungsansätze des BSI

Das Kapitel beleuchtet die regulatorischen Anforderungen des EU AI Acts und deren Umsetzung durch nationale Behörden. Bis August 2025 müssen die Mitgliedsstaaten nationale Behörden benennen, die die Umsetzung der KI-VO überwachen. Diese Behörden sind für die Benennung unabhängiger Prüfstellen, die Marktüberwachung und die Förderung von Innovation und Wettbewerb verantwortlich. In Deutschland kommen verschiedene Institutionen wie die Bundesnetzagentur, Datenschutzbehörden oder das BSI als potenzielle Aufsichtsbehörden in Betracht. Der EU AI Act legt detaillierte Rahmenbedingungen für die nationalen Behörden fest, darunter die Einrichtung unabhängiger und unparteiischer Behörden, die Kommunikation mit der EU-Kommission und die Sicherstellung ausreichender Ressourcen und Kompetenzen. Ein zentraler Aspekt ist die Cybersicherheit und die Vertraulichkeit der Aufgaben der nationalen Behörden. Das Kapitel untersucht auch die Rolle des BSI und dessen bestehende Frameworks, wie den BSI-IT-Grundschutz, um eine sinnvolle Regulierung von KI-Systemen zu ermöglichen. Es werden Vorschläge erarbeitet, wie bestehende Risikoprozesse um KI-Aspekte erweitert werden können. Das BSI arbeitet derzeit an einer aktualisierten Version des AIC4, um technologie-spezifische Anforderungen für verschiedene KI-Anwendungen zu berücksichtigen. Zudem wird ein horizontaler Standard für Hochrisiko- und GPAI-KI-Systeme entwickelt, um die Anforderungen des EU AI Acts zu operationalisieren und zu zertifizieren. Das Kapitel analysiert auch die Integration der ISO/IEC 42001 als nationalen Standard zur Einführung eines KI-Management-Systems und die Entwicklung neuer KI-Grundschutzbausteine. Diese Bausteine sollen die Schnittstellen zwischen Security und weiteren Dimensionen der KI-Sicherheit definieren und eine standardisierte Bewertung von KI-Systemen ermöglichen. Zudem wird die Notwendigkeit von Personenzertifizierungen und Kompetenzfeststellungen für die Umsetzung des EU AI Acts diskutiert. Das Kapitel bietet eine umfassende Analyse der regulatorischen Anforderungen und Vorschläge für deren Umsetzung, die sowohl theoretische als auch praktische Aspekte berücksichtigen.