Wenn Künstliche Intelligenz außer Kontrolle gerät

Im Jahr 2017 sorgte ein Disput zwischen zwei Tech-Giganten für Aufmerksamkeit in der IT-Szene. Damals lagen nämlich die Chefs von Facebook, Mark Zuckerberg, und SpaceX/ Tesla, Elon Musk, im Clinch über ein Trend-Thema. Inhalt ihres Streits war die Frage, ob Künstliche Intelligenz (KI) gefährlich sein könnte für die menschliche Existenz. Während Musk gesetzliche Regelungen forderte, mit der die Forschung zu KI kontrolliert werden könnte, bezeichnete Zuckerberg das als Quatsch und fortschrittsfeindlich.

Zu der Zeit, als die Medien über diese Kontroverse berichteten, forschte Facebook gerade selbst an einer KI. Diese sollte zu einem späteren Zeitpunkt einmal ganz alleine mit Menschen interagieren. Dazu wurden zwei Chatbots, Alice und Bob, geschaffen, die sich in der Trainingsphase zunächst nur miteinander unterhalten sollten. Als Sprache, die sie zu verwenden hatten, wurde ihnen Englisch zugewiesen. Ursprünglich verwendeten die beiden Bots diese auch, entschieden sich dann aber ohne äußeren Einfluss dazu, davon abzuweichen. Stattdessen entwickelten sie eine eigene Sprache, die zwar auf Englisch basierte, aber sämtliche Grammatikregeln missachtete:

Bob: „I can can I I everything else.”
Alice: „Balls have zero to me to me to me to me to me to me to me to me to.”

Quelle: https://www.welt.de/kmpkt/article167102506/Facebook-musste-AI-abschalten-die-Geheimsprache-entwickelt-hat.html

Was für uns Menschen komplett sinnlos klingt, ergab für die beiden Chatbots sehr wohl einen Sinn. Das Problem dabei: wir Menschen können den Denkprozess der Maschinen nicht nachvollziehen. Im vorliegenden Fall gelang es den Forschern von Facebook zumindest, die spezifische Wiederholung von Wörtern zu entschlüsseln. Wurden Wörter wie »i« und »to me« mehrfach genannt, wollten Alice und Bob wohl eine Anzahl von Gegenständen entsprechend häufig haben. Offenbar erschien ihnen diese Syntax mit der Zeit logischer als das, was wir als normales Englisch verstehen. Für ihren ursprünglichen Einsatzzweck, der Interaktion mit Menschen, war das jedoch komplett ungeeignet, da ein solches Kauderwelsch für Menschen nicht mehr nachvollziehbar ist.

Verwendet wurde hier ein Machine Learning-Modell. Darunter versteht man ganz grundsätzlich ein Computerprogramm, das mit einem Satz von Daten und einem Lernalgorithmus darauf trainiert wurde, bestimmte Muster zu erkennen und darauf zu reagieren. Das Programm lernt aus Beispielen und kann diese nach Beendigung der Lernphase verallgemeinern. Nach dem Lernen soll es dann selbständig auf ihm unbekannten Input reagieren, um die antrainierten Muster anzuwenden. Alles, was wir heute unter Künstlicher Intelligenz verstehen ist letztlich eine solche schwache künstliche Intelligenz (ANI für engl. „artificial narrow intelligence„).

Und wie es scheint, ist das auch gut so und wir müssen zumindest für den Moment Elon Musk Recht geben. Denn selbst wenn Alice und Bob offenbar noch nicht die Auslöschung unserer Zivilisation geplant haben, so haben die Forscher von Facebook das Projekt vor vier Jahren aus Sicherheitsgründen gestoppt. Sie fanden schnell heraus, dass der Grund für das erratische Verhalten der beiden Bots darin lag, dass es keine Belohnung für die Verwendung von englischer Sprache gab. KI wird meistens mit sog. „Rewards“ trainiert, bei dem es eine Belohnung für das erwünschte Verhalten gibt. Unvorstellbar, was passieren könnte, wenn man die Leckerlies bei einer weniger schwachen, sondern deutlich fortgeschritteneren KI vergessen sollte!

Dieser Moment der technologischen Singularität, wenn sich Maschinen so schnell selbst verbessern können, ohne dabei auf uns Menschen angewiesen zu sein, ist noch nicht gekommen. Die meisten Experten gehen davon aus, dass er in naher Zukunft erreicht sein wird. Allerdings wurde die Prognose, wann genau es so weit sein soll, immer wieder nach hinten geschoben. Doch wer weiß, vielleicht haben uns die Computer schon längst kognitiv überholt und steuern uns schon längst mit permanent eingehenden Nachrichten auf unserem Smartphone, die unseren Tagesablauf unterbrechen, und mit Meldungen auf Sozialen Netzwerken, die unsere Stimmung mal in die eine, mal in die andere Richtung beeinflussen …