IBM hat eine neue Technologie vorgestellt, die einen besseren Einblick in Künstliche Intelligenz ermöglichen soll. Vertrauen zu schaffen und die Möglichkeiten von "KI" besser ausnutzen zu können, sind die Ziele.
Versteckt und intransparent: In den Tiefen von Rechenzentren arbeiten Algorithmen der Künstlichen Intelligenz meist in einer Blackbox. Neue Programme sollen KI nun transparenter für den Anwender machen.
gorodenkoff / Getty Images / iStock
Bei den jetzt vorgestellten Technologien handelt es sich um einen cloudbasierten Software-Service von IBM. Diese Software soll Verzerrungen in Algorithmen Künstlicher Intelligenz erkennen und dadurch dem Nutzer erklären können, wie eine KI Entscheidungen trifft. Mit dem Dienst sollen Unternehmen bei der Verwaltung verschiedener KI-Systeme von unterschiedlichen Anbietern unterstützt werden. Entwickelt wurden die Funktionen von IBM Research in Zusammenarbeit mit dem Engineering-Team von Watson.
Die Entwicklungen befassen sich mit den Prinzipien der Erklärbarkeit, Fairness und Ursprung in KI-Diensten, und ihre Freigabe sei ein wichtiger Schritt zur Entwicklung vertrauenswürdiger KI-Dienste, heißt es vom Konzern aus Armonk, New York. Man wolle die Blackbox KI transparenter machen.
"IBM war branchenführend bei der Festlegung von Vertrauens- und Transparenzprinzipien für die Entwicklung neuer KI-Technologien", wird Beth Smith, General Manager of Watson AI bei IBM in einer Mitteilung des Unternehmens zitiert. "Es ist an der Zeit, Prinzipien in die Praxis umzusetzen. Wir geben den Unternehmen, die KI einsetzen und dem größten potenziellen Risiko durch fehlerhafte Entscheidungen ausgesetzt sind, neue Transparenz und Kontrolle."
63 Prozent der Unternehmen fehlt das Know-how für KI-Anwendungen
Diese Entwicklungen gehen dem Konzern zufolge auf Untersuchungen des IBM Institute for Business Value zurück, die zeigen, dass 82 Prozent der Unternehmen KI-Implementierungen in Betracht ziehen, 60 Prozent jedoch Haftungsfragen fürchten und 63 Prozent nicht über das interne Know-how verfügen, um die Technologie selbstbewusst zu verwalten.
Die Technologie in der IBM-Cloud arbeitet mit Modellen, die auf einer Vielzahl von Machine-Learning-Frameworks und KI-Building-Umgebungen wie Watson, Tensorflow, SparkML, AWS SageMaker und AzureML basieren.
Der Software-Service könne auch so programmiert werden, dass er die Entscheidungsfaktoren eines jeden Geschäftsablaufs überwacht und an die spezifische organisatorische Nutzung angepasst werden kann. Auch die Dokumentation (zum Beispiel nach DSGVO-Vorgaben) soll integriert sein.
IBM Research stellt in der Open-Source-Community ein Toolkit zur Verfügung, dass KI-Bias (Systematische Fehler und Verzerrungen in Schätzfunktionen einer KI) erkennen und verringern soll.