2. Grundlagen der Vertrauenswürdigkeit von KI

In diesem Kapitel erfolgt eine fundierte Einführung in die zentralen Aspekte der KI-Sicherheit. Ziel ist es, Leserinnen und Lesern ohne Vorkenntnisse zur Regulierung von künstlicher Intelligenz eine fundierte Basis zu vermitteln, um die weiterführenden Inhalte des Buches zu verstehen. Das Kapitel erörtert umfassend die Begrifflichkeiten und regulatorischen Rahmenbedingungen im Bereich der künstlichen Intelligenz. Es folgt eine kurze und prägnante Einführung in die Taxonomie der KI sowie Arten und Eigenschaften von Machine Learning Algorithmen. Es legt einen klaren Geltungsbereich fest, der sowohl systemische als auch organisatorische Aspekte der KI-Vertrauenswürdigkeit berücksichtigt. Dies ist essenziell, um Risiken effektiv zu identifizieren und adäquate Maßnahmen zu entwickeln. Das Kapitel bietet eine solide Grundlage in Bezug auf den formalen Aufbau und die Einsatzumgebungen von KI-Anwendungen. Es erklärt die Bedeutung der Vertrauenswürdigkeit von KI, diskutiert regionale Unterschiede und vergleicht diese mit dem europäischen Ansatz. Darüber hinaus werden die unterschiedlichen Sicherheitseigenschaften von KI im Vergleich zu Operational Technology (OT) und Informationstechnologie (IT) beleuchtet. Es wird eine Differenzierung zwischen klassischer und generativer KI aus einer Sicherheitsperspektive vorgenommen, um ein tiefgreifendes Verständnis für die jeweiligen Risiken und Schutzmaßnahmen zu fördern. Das Kapitel schließt mit einem Überblick verschiedener Governance-Modelle entlang des Three-Lines-of-Defence-Modell.