18. Herausforderungen der KI

Künstliche Intelligenz ist nur so gut wie die Daten, mit denen sie trainiert wird. Systematische Verzerrungen in den Daten, auch Bias genannt, können dramatische Folgen haben. Die US-Armee plante den Einsatz neuronaler Netze zur automatischen Erkennung getarnter Panzer, aber das Netz schnitt unter realen Bedingungen nicht besser ab als der Zufall. Aufgrund einer Datenverzerrung lernte das Netzwerk, zwischen sonnigen und bewölkten Tagen zu unterscheiden anstatt zwischen getarnten Panzern und Wäldern. KI-Systeme können gezielt manipuliert werden, z. B. durch Adversarial Examples oder Patches, die die Erkennungsleistung von Bildklassifikatoren beeinträchtigen und damit z. B. für autonome Fahrzeuge ein ernsthaftes Problem darstellen können. Reproduzierbarkeitskrise, Alchemie- und Black-Box-Problem können die Zuverlässigkeit und Vertrauenswürdigkeit von KI-Systemen negativ beeinflussen. Gary Marcus nennt zehn Schwächen des derzeitigen Deep Learning, darunter Probleme beim Transferlernen und der Datenineffizienz. Die Neurowissenschaften können helfen, diese Schwächen zu überwinden, indem sie Inspiration für neue Architekturen liefern und die Entwicklung verbesserter Lernmethoden unterstützen.