Ob uns smarte Assistenten wie Alexa, Cortana & Co. eines Tages in Roboter-Gestalt begegnen?
jim / Fotolia
Als "Blade Runner" 1982 erstmals in die Kinos kam, schien die im Jahr 2019 angesiedelte Zukunftsvision noch in weiter Ferne. In einem von Umweltzerstörung gezeichneten Los Angeles leben zahlreiche Roboter ("Replikanten"), die sich äußerlich nicht mehr von ihren menschlichen Zeitgenossen unterscheiden. Als die Replikanten beginnen, Gefühle zu entwickeln, kommt es zu einer gefährlichen Eigendynamik.
Heute trennen uns vom Jahr 2019 gerade einmal vierzehn Monate und tatsächlich sehen wir uns mit Fragestellungen zu künstlicher Intelligenz ("Artificial Intelligence", AI) konfrontiert, die dem Konsumenten in Form von Software, Algorithmen und digitalen Robotern (Bots) begegnet. Ist KI imstande, sich zu verselbstständigen? Verschwimmen die Grenzen zwischen Mensch und Maschine derart, dass wir irgendwann nicht mehr wissen, mit wem wir es zu tun haben? Können wir uns den digitalen Assistenten wirklich anvertrauen? Ohne verlässliche Standards erobert KI wohl erstmal nicht die Herzen der Konsumenten.
Für den durchschlagenden Erfolg von KI braucht es mehr als zaghaftes Interesse, Gleichgültigkeit und Skepsis, die sich in Deutschland derzeit ungefähr die Waage halten, so das Ergebnis einer aktuellen Studie der Digitalagentur Syzygy. 57 Prozent der Befragten ist es egal, ob Marken ihre Angebote, Anzeigen und Empfehlungen mittels KI auf die Bedürfnisse der Zielgruppe abstimmen. 43 Prozent sehen es jedoch kritisch, wenn Unternehmen im Kundenservice auf Mitarbeiter verzichten und stattdessen durch KI ersetzen. Im Zuge dessen finden 87 Prozent, dass es sämtlichen Anwendungen verboten sein sollte, sich als Mensch auszugeben und damit ihre digitale Identität zu verschleiern. Eine große Mehrheit von 88 Prozent hält es deshalb für richtig, wenn künftig ein rechtlich verbindlicher Verhaltenskodex eingeführt wird.
Unkontrollierter Wettbewerbseifer
Tatsächlich wird KI immer intelligenter, was die schnelle, und dadurch zum Teil unkontrollierte, Weiterentwicklung von beispielsweise Bots vorantreibt. "Diese Intelligenz hat zwei Facetten. Zum einen kann sie im positiven Sinne die User Experience durch hohe Antwort- und Kommunikationsqualität erhöhen. Zum anderen kann diese Intelligenz auch manipulativ genutzt werden. Damit entsteht eine Art Wettrüsten: Wer kann die AI schneller und besser für seine Zwecke nutzen?", schreibt Springer-Autor Peter Gentsch im Kapitel "Conversational Commerce: Bots, Messaging, Algorithmen und Artificial Intelligence", das in seinem neuesten Buch zu KI in Sales, Marketing und Service erschienen ist (Seite 103).
Hier liegt es vor allem an den größten Playern der Szene, Google, Amazon, Facebook und Apple, die KI ihrer Bots nicht blind vor Wettbewerbseifer aufzurüsten. Andernfalls droht nicht nur, dass die Technologie unkontrollierbar wird, sondern auch, dass Hacker gefährliche Sicherheitslücken entdecken könnten. Ein gesetzlicher KI-Verhaltenskodex scheint in diesem Licht langfristig unverzichtbar.
KI-Verhaltenskodex einführen
Bevor es zur gesetzlichen Verpflichtung kommt, raten die Studienautoren den Marketern, freiwillige Leitlinien zu entwickeln, die bestimmte Ethik-Standards erfüllen. Dafür hält die Studie vier Maxime bereit, an der sich Unternehmen orientieren können. Die Regel "Täusche nicht" läuft auch unter dem Namen "Blade Runner", denn genau wie in der Geschichte des Films, gilt es in der realen Welt, dass sich Bots nicht als Mensch tarnen. Auch die Maxime "Füge keinen Schaden zu" erinnert an den Sci-Fi-Streifen. Demnach dürfen KI-Technologien ihre Nutzer nicht manipulieren, betrügen oder schädigen. "Baue Vertrauen auf" zielt darauf ab, das Image von KI-gestütztem Marketing zu verbessern. Neben Transparenz, Ehrlichkeit und Fairness kommt es gut an, wenn KI selbst aktiv gegen Missbrauchsfälle vorgeht. Bots, die die Regel "Sei hilfreich" befolgen, beweisen den Konsumenten, dass sie ihre Bedürfnisse bestmöglich befriedigen. Sämtliche übermittelte Informationen müssen dafür wahrheitsgetreu und unvoreingenommen sein.
Bot-to-Bot-Kommunikation
Skurrilerweise müssen sich Verhaltensregeln künftig nicht nur in der Kommunikation zwischen Bot und Mensch etablieren, sondern auch das Zusammentreffen von Bots unterschiedlicher Entwickler regeln. Denn betrachtet man den aktuelle Trend, sollen sich Bots zunehmend selbstständig im Internet bewegen und handeln. "In letzter Konsequenz würde das bedeuten, dass sich auf den Marktplätzen von morgen nur noch Bots begegnen, die entsprechend von Konsumenten und Unternehmen gefüttert worden sind", überlegt Gentsch. "Sicherlich mag das etwas futuristisch erscheinen. Schaut man sich allerdings heutige Realtime-Bidding- und Finanz-Trading-Systeme an, erscheint dieses Szenario gar nicht mehr so weit. Jedenfalls bei Weitem nicht so weit, wie die fantasiegeladenen Science-Fiction-Szenarien, in denen die AI die Herrschaft über die Menschheit übernimmt" (Seite 105).
Aktuell ist Blade Runner als Neuverfilmung im Kino zu sehen und liefert spektakuläre Bilder einer KI-getriebenen Gesellschaft von morgen. All diejenigen, die mit futuristischer Fiktion nichts anfangen können, müssen wohl abwarten, was die wirkliche Zukunft bringt.