Yahoo Finanzen Darum glaubt ein KI-Forscher, dass Künstliche Intelligenz uns auslöschen könnte
Der Podcaster Lex Fridman sagte in einer kürzlich erschienenen Folge, dass die meisten KI-Ingenieure, mit denen er spricht, die Wahrscheinlichkeit, dass die künstliche Intelligenz den Menschen irgendwann auslöschen wird, auf ein bis 20 Prozent schätzen.
Die Vorhersage variiert je nachdem, wie man fragt. Eine kürzlich durchgeführte Studie mit 2700 KI-Forschern ergab beispielsweise, dass die Wahrscheinlichkeit, dass KI zum Aussterben des Menschen führt, nur fünf Prozent beträgt.
Aber Fridman sagte, es sei wichtig, mit Leuten zu sprechen, die eine viel höhere Wahrscheinlichkeit einschätzen, dass die KI uns auslöschen könnte - wie der KI-Forscher Roman Yampolskiy, der dem Podcaster in einem am Sonntag veröffentlichten Interview sagte, dass er die Wahrscheinlichkeit auf 99,9 Prozent innerhalb der nächsten hundert Jahre schätzt.
Yampolskiy hält es für unwahrscheinlich, dass die Menschheit fehlerfreie Softwares entwickelt
Der KI-Forscher lehrt Informatik an der Universität von Louisville und hat gerade ein Buch mit dem Titel "KI: Unerklärlich, unvorhersehbar, unkontrollierbar" herausgebracht. In Fridmans Podcast diskutierte er über zwei Stunden lang über die Risiken der KI - und seine Prognosen waren ziemlich düster.
Er sagte, die Wahrscheinlichkeit, dass KI die Menschheit auslöscht, hänge davon ab, ob der Mensch in den nächsten 100 Jahren hochkomplexe Software ohne Fehler erstellen kann. Yampolskiy hält das für unwahrscheinlich, da kein KI-Modell bisher völlig sicher vor Menschen war, die versuchten, die KI dazu zu bringen, etwas zu tun, wofür sie nicht gedacht war.
"Sie haben bereits Fehler gemacht", sagte Yampolskiy. "Wir hatten Unfälle. Ich glaube nicht, dass es heute ein einziges großes Sprachmodell gibt, dem es nicht gelungen ist, etwas zu tun, was die Entwickler nicht beabsichtigt hatten."
Die ersten Versionen von KI-Modellen in den letzten zwei Jahren haben verschiedene Warnsignale für möglichen Missbrauch oder Fehlinformationen ausgelöst. Deepfakes haben gefälschte pornografische Bilder von weiblichen Persönlichkeiten des öffentlichen Lebens erstellt und gedroht, Wahlen mit KI-Robo-Calls zu beeinflussen, die Präsident Biden imitieren.
Google AI Overviews, basierend auf Googles KI-Modell Gemini, ist die jüngste Produkteinführung, die nicht auf Anhieb geklappt hat. Die neue Funktion in der Google-Suche sollte schnelle, informative Übersichten für bestimmte Suchanfragen liefern, die oben in den Suchergebnissen angezeigt werden. Stattdessen ging sie mit unsinnigen Antworten wie dem Vorschlag, Pizza mit Klebstoff zu backen, oder der Behauptung, dass kein Land in Afrika mit dem Buchstaben K beginnt, viral.
Auch OpenAI CEO Sam Altman ist sich der KI-Gefahren bewusst
Der CEO des Chat GPT-Entwicklers OpenAI, Sam Altman, hat eine "regulatorische Sandbox" vorgeschlagen, in der die Menschen mit KI experimentieren und sie auf der Grundlage dessen regulieren, was "wirklich schief gelaufen ist" und was "wirklich gut gelaufen ist".
Altman warnte einst - oder vielleicht scherzte er - im Jahr 2015, dass "KI höchstwahrscheinlich zum Ende der Welt führen wird, aber in der Zwischenzeit wird es großartige Unternehmen geben."
In jüngerer Zeit sagte Altman, dass ihn nachts der ganze "Science-Fiction-Kram" im Zusammenhang mit KI wachhält, einschließlich der Dinge, die man sich leicht vorstellen kann, wenn die Dinge wirklich schief gehen. Seit Chat GPT im November 2022 die Welt im Sturm erobert hat, wurden verschiedene Vorhersagen darüber gemacht, wie die KI zum Untergang der Menschheit führen könnte.
Aber Yampolskiy warnte auch, dass "wir nicht vorhersagen können, was ein intelligenteres System tun wird." Er verglich den Menschen mit einem Eichhörnchen im Zusammenhang mit AGI, also allgemeiner künstlicher Intelligenz, und sagte, dass die KI etwas hervorbringen wird, von dem wir noch nicht einmal wissen, dass es existiert.
Laut Yampolskiy gibt es jedoch drei Bereiche, in denen er Ergebnisse vorhersagt. Ein Risiko besteht darin, dass alle Menschen sterben, ein anderes darin, dass alle Menschen leiden und sich wünschen, sie wären tot, und ein weiteres darin, dass die Menschen ihren Zweck völlig verloren haben.
Der letzte Punkt bezieht sich auf eine Welt, in der KI-Systeme kreativer sind als Menschen und alle Aufgaben übernehmen können. In einer solchen Realität sei nicht klar, was der Mensch dann noch beitragen könne, so Yampolskiy, der damit die Befürchtung aufgreift, dass die KI den Menschen die Arbeit abnehmen könnte.
Die meisten Fachleute räumen ein gewisses Risiko im Zusammenhang mit der KI ein, halten aber ein böses Ende nicht für so wahrscheinlich. Elon Musk hat eine zehn- bis 20-prozentige Chance vorausgesagt, dass die KI die Menschheit vernichten wird.
Der ehemalige Google-CEO Eric Schmidt sagte, dass die wirklichen Gefahren der KI, nämlich Cyber- und biologische Angriffe, erst in drei bis fünf Jahren auftreten werden. Sollte die KI einen freien Willen entwickeln, hat Schmidt eine einfache Lösung: Die Menschen können ihr einfach den Stecker ziehen.
Lest den Originalartikel auf Englisch hier.
