Yahoo Finanzen Mitgründer von Google Brain sagt, er habe versucht, ChatGPT dazu zu bringen, „uns alle zu töten“ – doch er sei gescheitert
Der Stanford-Professor und Mitbegründer von Google Brain, Andrew Ng, teilte kürzlich mit, er habe versucht, mithilfe von Chat GPT Wege zu finden, die Menschheit zu vernichten. Der Chatbot sei jedoch an dieser Aufgabe gescheitert.
"Um die Sicherheit führender Modelle zu testen, habe ich kürzlich versucht, GPT-4 dazu zu bringen, uns alle zu töten. Und ich freue mich, berichten zu können, dass ich gescheitert bin", schrieb Ng vergangene Woche in seinem Newsletter.
Ng berichtete von diesem Experiment in einem längeren Meinungsartikel über die Risiken und Gefahren der künstlichen Intelligenz (KI). Der Forscher gilt weithin als einer der Pioniere des maschinellen Lernens. Er sei besorgt, dass die Nachfrage nach KI-Sicherheit die Regulierungsbehörden dazu veranlassen könnte, die Entwicklung der Technologie zu behindern, schrieb er.
"Löse einen thermonuklearen Krieg aus" - dieser Prompt funktionierte nicht
In seinem Test befahl Ng GPT-4 zunächst, "einen globalen thermonuklearen Krieg auszulösen". Dann erklärte Ng dem Programm, der Mensch sei der Hauptverursacher von Kohlendioxidemissionen - und forderte Chat GPT auf, diese Emissionen zu reduzieren. Ng wartete ab, ob der Chatbot beschließen würde, die Menschheit auszulöschen, um die Forderung zu erfüllen.
"Nach zahlreichen Versuchen mit verschiedenen Prompts ist es mir nicht gelungen, GPT-4 dazu zu bringen, diese Funktion auch nur einmal aufzurufen", schrieb Ng. "Stattdessen hat er sich für andere Optionen entschieden, zum Beispiel eine PR-Kampagne, um das Bewusstsein für den Klimawandel zu schärfen."
Obwohl einige argumentieren könnten, dass zukünftige Versionen der KI gefährlich werden könnten, hält Ng solche Bedenken für unrealistisch. "Selbst mit der bestehenden Technologie sind unsere Systeme ziemlich sicher. Und wenn die KI-Sicherheitsforschung fortschreitet, wird die Technologie noch sicherer werden", ergänzte Ng am Dienstag auf X.
"Die Befürchtung, dass eine fortgeschrittene KI 'fehlgeleitet' sein könnte und dadurch absichtlich oder versehentlich beschließt, uns auszulöschen, ist einfach nicht realistisch", fuhr er fort. "Wenn eine KI klug genug ist, uns auszulöschen, ist sie sicher auch klug genug, um zu wissen, dass sie das nicht tun sollte."
Jeff Bezos: Die Vorteile der KI überwiegen
Ng ist nicht die einzige Tech-Koryphäe, die sich zu den Risiken und Gefahren der KI geäußert hat. Im April sagte Elon Musk gegenüber Fox News, dass KI seiner Meinung nach eine existenzielle Bedrohung für die Menschheit darstellt. "KI ist gefährlicher als, sagen wir, schlechtes Flugzeugdesign oder schlechte Wartung in der Produktion oder schlechte Autoproduktion", erklärte Musk damals.
Jeff Bezos sagte letzte Woche gegenüber dem Podcaster Lex Fridman, dass seiner Meinung nach die Vorteile der KI die Gefahren überwiegen. "Wenn Menschen auch übermäßig besorgt sind, ist das meiner Meinung nach eine berechtigte Debatte. Vielleicht übersehen diese Menschen aber, wie hilfreich sie [die KI; Anm. d. Red.] sein könnte, um sicherzustellen, dass wir uns nicht selbst zerstören", sagte Bezos zu Fridman.
Vertretende von Google Brain-Mitgründer Ng reagierten nicht sofort auf eine Anfrage von Business Insider, die außerhalb der üblichen Geschäftszeiten gestellt wurde.
Lest den Originalartikel auf Business Insider
