3. Risiken von KI

Das Kapitel untersucht die Risiken von Künstlicher Intelligenz und deren Bewertung, wobei ein besonderer Fokus auf der Differenzierung zwischen klassischen KI-Anwendungen und Foundation Models liegt. Es wird erläutert, warum eine kontextspezifische Risikobetrachtung für Foundation Models erforderlich ist, da diese nicht für spezifische Anwendungsfälle entwickelt wurden. Die Bewertung der Vertrauenswürdigkeit von KI-Systemen wird anhand eines standardisierten, risikobasierten Ansatzes dargestellt, der sowohl technische als auch organisatorische Aspekte berücksichtigt. Herausforderungen bei der Darstellung der Risikotaxonomie für KI werden detailliert beleuchtet, wobei das AI Risk Repository des MIT als zentrale Ressource vorgestellt wird. Dieses Repository bietet eine systematische und umfassende Klassifizierung von KI-Risiken, die sowohl in der Praxis als auch in der Theorie anwendbar ist. Zudem wird die Bedeutung der Produkt- und Organisationsperspektive bei der Umsetzung von Vertrauenswürdigkeitsanforderungen diskutiert, wobei die Notwendigkeit kontinuierlicher Überwachung und menschlicher Aufsicht betont wird. Das Kapitel schließt mit einer differenzierten Betrachtung der technischen und organisatorischen Kontrollen zur Risikominderung ab.