2. Grundlagen der Vertrauenswürdigkeit von KI

Das Kapitel bietet eine fundierte Einführung in die zentralen Aspekte der KI-Sicherheit und legt den Fokus auf die Vertrauenswürdigkeit von KI-Systemen. Es erläutert umfassend die Begrifflichkeiten und regulatorischen Rahmenbedingungen im Bereich der künstlichen Intelligenz und bietet eine prägnante Einführung in die Taxonomie der KI sowie die Arten und Eigenschaften von Machine Learning Algorithmen. Ein klarer Geltungsbereich wird festgelegt, der sowohl systemische als auch organisatorische Aspekte der KI-Vertrauenswürdigkeit berücksichtigt, um Risiken effektiv zu identifizieren und adäquate Maßnahmen zu entwickeln. Die Bedeutung der Vertrauenswürdigkeit von KI wird diskutiert, wobei regionale Unterschiede und der europäische Ansatz verglichen werden. Zudem wird die Differenzierung zwischen klassischer und generativer KI aus einer Sicherheitsperspektive vorgenommen, um ein tiefgreifendes Verständnis für die jeweiligen Risiken und Schutzmaßnahmen zu fördern. Das Kapitel schließt mit einem Überblick über verschiedene Governance-Modelle entlang des Three-Lines-of-Defence-Modells. Es beleuchtet die verschiedenen KI-Typen und deren Regulierung, von der Automatisierung einfacher Aufgaben bis hin zur Theorie von Maschinen, die menschliche Intelligenz übertreffen könnten. Die drei Kategorien – Artificial Narrow Intelligence (ANI), Artificial General Intelligence (AGI) und Artificial Superintelligence (ASI) – werden detailliert beschrieben, wobei die spezifischen Herausforderungen und regulatorischen Anforderungen hervorgehoben werden. Die rasante Entwicklung der KI erfordert flexible und zukunftsorientierte Regulierungen, um den Fortschritt sicher und ethisch verantwortungsvoll zu gestalten. Das Kapitel bietet eine solide Grundlage für den formalen Aufbau und die Einsatzumgebungen von KI-Anwendungen und diskutiert die Bedeutung der Vertrauenswürdigkeit von KI im Kontext der aktuellen und zukünftigen regulatorischen Landschaft.