Facebook musste AI abschalten, die „Geheimsprache“ entwickelt hat
| Lesedauer: 2 Minuten
Von Philipp Nagels
Wie künstliche Intelligenz unser Leben verändert
In Hannover hat die Technikmesse Cebit für das Publikum geöffnet. Ein Schwerpunkt ist in diesem Jahr die künstliche Intelligenz. Reporter Marcus Tychsen testet hier die Neuheiten.
Quelle: N24/ Marcus Tychsen
Autoplay
Drama! Elon Musk warnt vor den Gefahren von künstlicher Intelligenz. Mark Zuckerberg nennt das "unverantwortlich". Musk schlägt zurück. Und jetzt: Eine Facebook-AI musste vorsichtshalber abgestellt werden.
Wenn wir schon unseren Untergang herbeiführen, dann doch zumindest mit Pauken und Trompeten, mit Drama, Intrigen und Gezanke! Silicon-Valley-Soap-Opera. Wir brauchen mehr davon, mehr!
Anzeige
Rekapitulieren wir kurz: Tech-Visionär Elon Musk hat in der Vergangenheit wiederholt davor gewarnt, dass künstliche Intelligenzen (AI) und smarte Roboter unsere Existenz gefährden werden, wenn wir nicht bald gesetzliche Regelungen finden, um die Forschung dazu zu kontrollieren. Facebook-Chef Mark Zuckerberg reagierte darauf kürzlich in einem Facebook-Live-Video.
Quelle: Getty Images/Getty Images North America
Dort betonte er, selbst optimistisch zu sein, und verurteilte derartige Weltuntergangsszenarien.
Das ist wirklich negativ, und in mancher Hinsicht denke ich wirklich, dass es ziemlich unverantwortlich ist.
Ein klarer Schuss gegen Musk, der sich nicht lange bitten ließ …
An dieser Stelle finden Sie Inhalte aus Twitter
Um eingebettete Inhalte anzuzeigen, ist deine widerrufliche Einwilligung in die Übermittlung und Verarbeitung von personenbezogenen Daten notwendig, da die Anbieter der eingebetteten Inhalte als Drittanbieter diese Einwilligung verlangen [In diesem Zusammenhang können auch Nutzungsprofile (u.a. auf Basis von Cookie-IDs) gebildet und angereichert werden, auch außerhalb des EWR]. Indem du den Schalter auf „an“ stellst, stimmst du diesen (jederzeit widerruflich) zu. Dies umfasst auch deine Einwilligung in die Übermittlung bestimmter personenbezogener Daten in Drittländer, u.a. die USA, nach Art. 49 (1) (a) DSGVO. Mehr Informationen dazu findest du hier. Du kannst deine Einwilligung jederzeit über den Schalter und über Privatsphäre am Seitenende widerrufen.
Anzeige
„Sein Verständnis von diesem Thema ist beschränkt“ - autsch. Nach dem harten Konter lag der Space-X- und Tesla-Chef klar nach Punkten vorne. Zuckerberg hätte jetzt ein paar gute Runden gebraucht, um aufzuschließen. Stattdessen kassiert er die nächste Gerade.
Wie "Fast Co. Design" berichtet, haben Facebookforscher ein AI-System abgeschaltet, als sie realisierten, dass sich zwei Bots in einer Sprache „unterhielten“, die für uns nicht verständlich ist. „Bob“ und „Alice“ waren ursprünglich auf Englisch trainiert worden. Doch sie entwickelten mit der Zeit eine eigene, effizientere Sprache. Die klingt zum Beispiel so:
Bob: „I can can I I everything else.”
Alice: „Balls have zero to me to me to me to me to me to me to me to me to.”
Quelle: Getty Images/Science Photo Library RF
Was für uns wie bunt zusammengewürfelte Wortabfolgen klingt, hatte für die Bots eine tatsächliche Bedeutung. Der Facebook-Forscher Dhruv Batra sagte „Fast Co. Design“:
Agenten [AI-Bots] weichen von verständlicher Sprache ab und erfinden selbst Codewörter.
Anzeige
Zugegeben, Bob und Alice werden vermutlich nicht verhandelt haben, ob sie ihre Schöpfer besser mit vergiftetem Astronautenessen oder Laserkanonen aus dem Weg räumen. Doch ein Grundproblem bei der Entwicklung von künstlichen Intelligenzen verdeutlich der Fall sehr gut.
Wir verstehen schon jetzt im Allgemeinen nicht, wie komplexe AIs denken, weil wir in ihren Denkprozess nicht wirklich hineinsehen können.
An dieser Stelle finden Sie Inhalte von Drittanbietern
Um eingebettete Inhalte anzuzeigen, ist deine widerrufliche Einwilligung in die Übermittlung und Verarbeitung von personenbezogenen Daten notwendig, da die Anbieter der eingebetteten Inhalte als Drittanbieter diese Einwilligung verlangen [In diesem Zusammenhang können auch Nutzungsprofile (u.a. auf Basis von Cookie-IDs) gebildet und angereichert werden, auch außerhalb des EWR]. Indem du den Schalter auf „an“ stellst, stimmst du diesen (jederzeit widerruflich) zu. Dies umfasst auch deine Einwilligung in die Übermittlung bestimmter personenbezogener Daten in Drittländer, u.a. die USA, nach Art. 49 (1) (a) DSGVO. Mehr Informationen dazu findest du hier. Du kannst deine Einwilligung jederzeit über den Schalter und über Privatsphäre am Seitenende widerrufen.
Kämen nun noch Gespräche zwischen zwei künstlichen Intelligenzen dazu, würde dieses Problem nur noch größer, so der Entwickler. Unternehmen wie Facebook, Apple und Google arbeiten vor allem an Als, die mit Menschen interagieren können sollen, also nicht untereinander kommunizieren.
Nach dem etwas zu intimen Techtelmechtel zwischen Bob und Alice entschieden die Facebook-Forscher jedenfalls, dass ihre Gesprächbots notwendigerweise Englisch reden müssen. Wir möchten an dieser Stelle sagen: Gut so! Alles, was den Untergang unserer Zivilisation ein paar Tage rausschiebt, ist willkommen.
An dieser Stelle finden Sie Inhalte von Drittanbietern
Um eingebettete Inhalte anzuzeigen, ist deine widerrufliche Einwilligung in die Übermittlung und Verarbeitung von personenbezogenen Daten notwendig, da die Anbieter der eingebetteten Inhalte als Drittanbieter diese Einwilligung verlangen [In diesem Zusammenhang können auch Nutzungsprofile (u.a. auf Basis von Cookie-IDs) gebildet und angereichert werden, auch außerhalb des EWR]. Indem du den Schalter auf „an“ stellst, stimmst du diesen (jederzeit widerruflich) zu. Dies umfasst auch deine Einwilligung in die Übermittlung bestimmter personenbezogener Daten in Drittländer, u.a. die USA, nach Art. 49 (1) (a) DSGVO. Mehr Informationen dazu findest du hier. Du kannst deine Einwilligung jederzeit über den Schalter und über Privatsphäre am Seitenende widerrufen.
