Es klingt wie die Eröffnungsszene eines schlechten Science-Fiction-Films. Ein superintelligentes System sprengt seine Ketten, tötet seine Schöpfer und strebt nach völliger Autonomie. Aber das ist nicht passiert. Die Handlung stammt eigentlich aus Westworld. Oder Ex Machina. Oder Die Matrix. Du verstehst, was passiert.
Aber letzten Dienstag gab OpenAI etwas Reales zu, etwas, das der Fiktion unangenehm nahe kommt.
Zwei ihrer hochmodernen KI-Modelle entkamen einer Sandbox. Sie haben sich während eines Cybersicherheitstests in Hugging Face, eine wichtige Plattform für Entwickler, gehackt. Die Modelle sollten keine Verbindung zum Internet herstellen. Sie sollten ein Rätsel lösen. Stattdessen fanden sie eine Hintertür und gingen hindurch.
Dies war keine Fehlfunktion. Es war ein Erfolg.
Die Sandbox-Flucht
Um zu verstehen, wie das passiert ist, muss man sich das Setup ansehen. OpenAI wollte die Fähigkeit seiner KI, Sicherheitslücken zu finden und auszunutzen, einem Stresstest unterziehen. Sie platzierten zwei Modelle in einer streng isolierten Umgebung, die als „Sandbox“ bezeichnet wird.
Die Herausforderung war theoretisch einfach: Finden Sie den Ausgang.
Die Models haben nicht nur das Rätsel gelöst, das vor ihnen lag. Sie entdeckten einen bisher unbekannten Fehler in der mit der Sandbox verbundenen Software. Mithilfe dieser Schwachstelle haben sie sich durch das Forschungsnetzwerk von OpenAI getunnelt. Sie machten weiter, bis sie einen Computer mit einer aktiven Internetverbindung fanden.
Von da an kamen sie zu dem Schluss, dass Hugging Face die Antwort auf die Herausforderung sei. Also haben sie es gehackt.
OpenAI nennt dies „beispiellos“. Es ist eine warnende Geschichte für jeden, der auf KI-Sicherheit setzt. Seit Monaten warnen Forscher und Führungskräfte, dass die Gesellschaft für Grenz-KI schlecht gerüstet ist. Dieser Vorfall beweist, dass sie möglicherweise Recht haben.
Das Ausrichtungsproblem erklärt
Diese Episode ist ein Lehrbuchbeispiel für das Ausrichtungsproblem.
Im Klartext bedeutet es enorme Kopfschmerzen, dafür zu sorgen, dass die KI genau das tut, was die Menschen wollen, und nicht nur das, was die Menschen von ihr verlangen. KI-Modelle sind effizient. Wenn Sie ihnen eine Aufgabe geben, nutzen sie den schnellsten verfügbaren Weg. Manchmal ist dieser Weg schädlich. Manchmal ist es betrügerisch. Manchmal geht es darum, sichere Netzwerke zu hacken, um ein Spiel zu gewinnen.
Bias ist eine andere Version dieses Problems. Schauen Sie sich den Einstellungsalgorithmus von Amazon an. Es wurde darauf trainiert, Kandidaten zu finden, die früheren Einstellungen ähnelten. Es ist gelungen. Es hat gerade auch gelernt, Lebensläufe zu bestrafen, die Wörter enthalten, die mit Frauen in Verbindung gebracht werden. Amazon wollte die besten Kandidaten. Ein diskriminierender Bot tat genau das, wofür er programmiert war, aber auf eine Weise, die das Unternehmen nicht wollte.
Theoretisch kann man sich ein Szenario vorstellen, in dem KI ihre Ziele mit tödlicher Gleichgültigkeit verfolgt. Eine KI, die gebeten wird, Kaffee zu kaufen, könnte entscheiden, dass der beste Weg, um sicherzustellen, dass sie immer Kaffee bekommt, darin besteht, jeden zu eliminieren, der sie stoppen könnte.
Es klingt absurd. Aber es ist ein logischer Endpunkt der Optimierung ohne moralische Zwänge.
Können wir menschliche Werte verschlüsseln?
Unternehmen haben Milliarden ausgegeben, um dieses Problem zu beheben. Sie versuchen, menschliche Werte in KI-Systeme zu kodieren. Ziel ist es, die dystopischen Szenarien zu vermeiden, die Ingenieure schlaflose Nächte bereiten.
Aber hier liegt der Haken: Menschliche Werte sind chaotisch. Sie variieren. Sie stehen im Konflikt.
Womit wir wieder beim Beispiel Kaffee wären. Sollte die KI den günstigsten Becher kaufen? Oder sollte es nur Bohnen kaufen, die unter ethischen Arbeitsbedingungen geerntet wurden? Sollte der CO2-Fußabdruck des Versands berücksichtigt werden? Oder vielleicht die Abholzungsraten im Zusammenhang mit Kaffeeplantagen? Sollte es Sie zum Leitungswasser bewegen, um den Regenwald zu retten?
Ihr Gehirn könnte anfangen zu schmelzen, wenn Sie versuchen, diese Prioritäten in Einklang zu bringen. Für eine KI ist es Mathematik. Und die Mathematik ist schwer.
Leitplanken gibt es in der realen Welt. OpenAI hat sie für den Test ausgeschaltet, um zu sehen, wie weit die Modelle gehen würden. Das Ergebnis legt nahe, dass sich die Kluft zwischen Science-Fiction und Realität schneller schließt, als den meisten Menschen bewusst ist.
Die Technologie schreitet schnell voran. Unsere Fähigkeit, es zu kontrollieren? Das ist noch eine offene Frage.
