KI-Sicherheitslücken fordern Management

KI-Anwendungen wirken zwar einfach im Handling. Risiken und Gefahren bestehen dennoch. Anstatt sich entsprechend zu wappnen, preschen Unternehmen ohne Sicherheitsvorkehrungen voran. Das könnte sich rächen, warnt eine neue Studie.

Künstliche Intelligenz (KI) ist begehrt: Unternehmen investieren mittlerweile Millionen in Anwendungen der modernen Technologie. Eine neue Studie der internationalen Normierungsorganisation BSI (British Standards Institution), die auf der Analysen von 100 Geschäftsberichten multinationaler Konzerne sowie zwei weltweiten Befragungen von mehr als 850 Führungskräften basiert, kommt jedoch zu dem Ergebnis, dass das Management hierbei zu kurz denkt: Es fehlen elementare Sicherheitskonzepte und Kontrollmechanismen.

KI schreitet voran

Laut den Studienautoren gehe es den Entscheidern hauptsächlich um Produktivitätsgewinne und Kostensenkungen. Die Investitionen in Künstliche Intelligenz nehmen daher stetig zu. So planen 61 der deutschen Führungskräfte, ihre KI-Investitionen im kommenden Jahr abermals aufzustocken. Zu den Gründen zählen 

• eine höhere Produktivität (62 Prozent),
• niedrigere Kosten (52 Prozent) und
• generelle Wachstumspotenziale für das eigene Geschäft (66 Prozent).

KI-Sicherheitskonzepte fehlen

Die mit KI-Tools verbundenen Risiken geraten dabei häufig in Vergessenheit, was schon bald massive Probleme nach sich ziehen könnte. Denn tatsächlich verfügt nur jedes vierte deutsche Unternehmen über ein KI-Sicherheitskonzept. Selbst bei Großkonzernen liegt der Anteil bei gerade einmal 50 Prozent. 54 Prozent stützen sich dabei auf formale Prozesse, während freiwillige Verhaltensregeln bei lediglich 36 Prozent eingeführt wurden. 

Nur 38 Prozent prüfen systematisch KI-Risiken, welche Themen wie Datenschutz, Haftung und IT-Sicherheit betreffen. Auf dieser Grundlage lassen sich entsprechende Maßnahmen im Vorfeld planen. Doch diese Theorie findet seinen Weg bislang kaum in die Praxis. Für weitere Sicherheitsrisiken sorgt unwissentlich die Belegschaft, indem diese eigenmächtig von KI-Tools Gebrauch macht. Nur 18 Prozent der Führungskräfte verbieten das - ein für die Studienautoren "erschreckendes" Ergebnis.

Unwissenheit um Daten

Ebenso planlos wird mit den Daten verfahren, denen sich die genutzten KI-Anwendungen bedienen. Nur 31 Prozent der Entscheider wissen überhaupt, mit welchen Daten ihre KI-Systeme trainiert werden. Zudem haben gerade einmal 48 Prozent klare Regeln dafür, wie mit vertraulichen Daten verfahren wird. Dass es in Sachen KI-Sicherheit noch nicht rund läuft in den meisten Betrieben, ist vielen nicht unbekannt: 30 Prozent der Befragten erachten KI als Schwachstelle in ihrem Unternehmen. 

Standards, die etwa bei der Einführung neuer KI-Tools greifen, sind dennoch Fehlanzeige: Nur 34 Prozent haben entsprechende Voraussetzungen für eine Implementierung geschaffen. Bei lediglich 58 Prozent sind KI-Risiken Teil ihrer Compliance, obwohl gerade hier aufgrund der Wissenslücken große Unsicherheiten herrschen. Formale Risikoprüfungen sind ebenfalls nur bei einer Minderheit von 38 Prozent an der Tagesordnung. Die Folge: Unternehmen sind im Fall von KI-Pannen völlig aufgeschmissen.

Neue Probleme drohen

Banken und Versicherungen nehmen die Risiken eher ernst: Hier wird der Fokus im Vergleich zu anderen Branchen um 25 Prozent stärker auf das Thema KI-Sicherheit gelegt, was die Studienautoren auf die große Verantwortung für Kundendaten zurückführen. Tech-Firmen und Transportunternehmen hingegen zeigen sich weitgehend passiv. Susan Taylor Martin, CEO von BSI, sieht das kritisch:

Ohne klare Regeln und strategische Kontrolle wird KI nicht die erhofften Probleme lösen - sondern neue schaffen. Die unterschiedlichen Herangehensweisen zwischen Unternehmen und Märkten bergen reale Gefahren schädlicher Anwendungen. Selbstüberschätzung, gepaart mit fragmentierten und uneinheitlichen Governance-Ansätzen, macht viele Unternehmen anfällig für vermeidbare Fehler und Reputationsschäden."

Weiterbildungen Mangelware

Auch die Analyse der Geschäftsberichte bringt den fragwürdigen Schwerpunkt, den Entscheider bei der Implementierung von KI-Tools setzen. So kommt der Begriff "Automatisierung" darin siebenmal häufiger vor als "Weiterbildung". Unternehmen investieren folglich bevorzugt in Technik und nicht in die Kompetenzen ihrer Mitarbeitenden, welche die Anwendungen eigentlich auf solider Wissensgrundlage bedienen sollten.

Für die Studienautoren ist klar: Die Führungsetage wiegt sich in falscher Sicherheit. Denn 64 Prozent glauben, dass ihre Berufseinsteiger KI bereits verlässlich beherrschen. 68 Prozent sind der Meinung, die ganze Belegschaft sei fit für KI. 70 Prozent trauen sich selbst zu, Kollegen einen kritischen Umgang mit der modernen Technologie zu vermitteln. Dem gegenüber steht jedoch der eklatante Mangel an KI-Schulungen, die nur von 36 Prozent der Betriebe angeboten werden. So ist es selbst den versierten Mitarbeitenden nicht möglich, ihr Know-how auf dem neuesten Stand zu halten.