Yahoo Finanzen Forscher, der von OpenAI entlassen wurde, hat einen 165-seitigen Aufsatz über KI verfasst – das sind die wichtigsten Punkte
In den vergangenen Monaten haben mehrere Mitarbeiter OpenAI verlassen, weil sie Bedenken hinsichtlich des Engagements des Unternehmens für die Sicherheit hatten. Abgesehen von prägnanten Ausstiegsankündigungen auf X haben sie nicht begründet, warum sie über den Entwicklungsansatz von OpenAI oder die Zukunft von KI besorgt sind.
Das hat sich Anfang dieser Woche geändert, als Leopold Aschenbrenner, ein Forscher, der im April von OpenAI entlassen wurde, seine Gedanken über die KI-Revolution in einer 165-seitigen Abhandlung veröffentlichte.
Ein Insider der KI-Entwicklung berichtet:
Aschenbrenner arbeitete im sogenannten "Super Alignment Team" von OpenAI, das dafür zuständig ist, die Risiken von KI abzuschwächen. Aschenbrenner sagte, OpenAI habe ihn gefeuert, weil er Informationen über die Bereitschaft des Unternehmens für eine künstliche allgemeine Intelligenz weitergegeben habe.
Aschenbrenner seinerseits sagte, die von ihm weitergegebenen Informationen seien "völlig normal" gewesen und OpenAI habe möglicherweise nur nach einem Grund gesucht, ihn zu entlassen. Er war einer von mehreren Mitarbeitern, die sich weigerten, einen Brief zu unterschreiben, in dem sie die Rückkehr von CEO Sam Altman forderten, nachdem der Vorstand Altman letztes Jahr kurzzeitig entlassen hatte.
Aschenbrenners Aufsatz scheint keine sensiblen Details über OpenAI zu enthalten. Stattdessen basiert er, wie Aschenbrenner auf der Widmungsseite schreibt, auf "öffentlich zugänglichen Informationen, meinen eigenen Ideen, allgemeinem Fachwissen oder Klatsch aus San Francisco".
Business Insider hat den Essay in das GPT-4-Modell von OpenAI hochgeladen. Wir haben es gebeten, die Arbeit zusammenzufassen und die wichtigsten Erkenntnisse zu vermitteln. Wir haben den Bot auch freundlich gebeten, seine Zusammenfassung klar und präzise zu halten.
So fasst Chat GPT den Essay in 57 Wörtern zusammen:
Chat GPT fasste den Aufsatz in 57 Worten zusammen, die Aschenbrenners Ansichten über die Entwicklung der KI umreißen.
"Leopold Aschenbrenners Essay diskutiert das transformative Potenzial von künstlicher allgemeiner Intelligenz (AGI) und Superintelligenz und prognostiziert bedeutende Fortschritte in der KI-Technologie in der nahen Zukunft. Aschenbrenner, der früher mit OpenAI in Verbindung stand, skizziert, wie die Entwicklung von aktuellen KI-Modellen wie GPT-4 zu AGI aufgrund von Trends bei der Rechenleistung und der Effizienz von Algorithmen viel schneller erfolgen könnte als erwartet."
Chat GPT bietet vier wichtige Erkenntnisse aus Aschenbrenners Aufsatz:
Rasanter Fortschritt in der KI
"Aschenbrenner argumentiert, dass sich die KI-Entwicklung in einem noch nie dagewesenen Tempo beschleunigt. Er sagt voraus, dass KI-Modelle bis 2027 die Fähigkeiten menschlicher KI-Forscher und -Ingenieure erreichen könnten, was zu einer Intelligenzexplosion führen könnte, bei der KI die menschliche Intelligenz übertrifft."
Wirtschaftliche und sicherheitspolitische Implikationen
"Der Aufsatz hebt die immensen wirtschaftlichen und sicherheitspolitischen Auswirkungen dieser Fortschritte hervor. Aschenbrenner weist darauf hin, dass Billionen von Dollar in die Entwicklung von Infrastruktur investiert werden, die für die Unterstützung dieser KI-Systeme erforderlich ist, also in Grafikprozessoren, Rechenzentren und die Energieerzeugung. Er betont auch, wie wichtig es ist, diese Technologien zu sichern, um Missbrauch zu verhindern, insbesondere durch staatliche Akteure wie die Kommunistische Partei Chinas."
Technische und ethische Herausforderungen
"Technische und ethische Herausforderungen: Der Aufsatz erörtert die erheblichen Herausforderungen bei der Kontrolle von KI-Systemen, die intelligenter sind als Menschen, und bezeichnet dies als 'Superalignment'-Problem. Die Bewältigung dieses Problems wird entscheidend sein, um katastrophale Folgen zu verhindern."
Vorhersagen und Auswirkungen auf die Gesellschaft
"Aschenbrenner weist darauf hin, dass nur wenige Menschen das Ausmaß des Wandels, den KI mit sich bringen wird, wirklich verstehen. Er erörtert das Potenzial von KI, Branchen umzugestalten, die nationale Sicherheit zu verbessern und neue ethische und Governance-Herausforderungen zu stellen."
Das ist noch nicht alles:
Wie Aschenbrenner schreibt, gibt es wahrscheinlich nur ein paar hundert Menschen, die meisten von ihnen in den KI-Laboren in San Francisco, die sich über die aktuelle Lage in der Branche bewusst sind. Diese Menschen werden wahrscheinlich den besten Einblick in die Art und Weise haben, wie KI die kommenden Jahre umgestalten wird.
Aschenbrenner, als einer von ihnen, scheint zu glauben, dass KI eine entscheidende Rolle in der nationalen Sicherheit spielen wird.
Im Anschluss an unsere ursprüngliche Aufforderung baten wir Chat GPT, die Vorhersagen Aschenbrenners in seinem Essay zusammenzufassen.
ChatGPT fasste sie folgendermaßen zusammen.
AGI bis 2027: "Aschenbrenner sagt voraus, dass Künstliche allgemeine Intelligenz (AGI) bis 2027 auffallend plausibel ist, und verweist auf den raschen Fortschritt von GPT-2 zu GPT-4, bei dem KI-Modelle in nur vier Jahren von Vorschulniveau zu den Fähigkeiten eines intelligenten Oberschülers aufgestiegen sind. Er rechnet mit einem ähnlichen Sprung in den kommenden Jahren auf der Grundlage kontinuierlicher Verbesserungen der Rechenleistung und der algorithmischen Effizienz."
Superintelligenz nach AGI: "Nach der AGI rechnet der Autor mit einer 'Intelligenzexplosion', bei der KI rasch von menschlichen zu übermenschlichen Fähigkeiten fortschreitet. Es wird erwartet, dass dieser Übergang durch die Fähigkeit von KI-Systemen, ihre eigene Forschung und Entwicklung zu automatisieren und zu beschleunigen, vorangetrieben wird."
Billionen-Dollar-KI-Cluster: "Wirtschaftlich gesehen geht Aschenbrenner davon aus, dass der KI-Sektor einen Anstieg der Investitionen in Billionen-Dollar-Rechencluster erleben wird, da sich Unternehmen und Regierungen auf die Auswirkungen von AGI und Superintelligenz vorbereiten."
Nationale und globale Sicherheitsdynamik: "Es gibt Vorhersagen über intensive nationale Sicherheitsmaßnahmen, die ergriffen werden, um KI-Entwicklungen zu steuern und zu kontrollieren. Der Wettbewerb, insbesondere mit der chinesischen Regierung, könnte sich verschärfen und möglicherweise zu einem 'totalen Krieg' führen, wenn er nicht richtig geführt wird."
Superalignment-Herausforderungen: "Eine der kritischsten Vorhersagen ist der Kampf mit der 'Superalignment'-Problematik – die Herausforderung, die superintelligente KI mit menschlichen Werten und Interessen in Einklang zu bringen. Es wird erwartet, dass dieses Problem eine der zentralen Hürden sein wird, wenn KI das Niveau der menschlichen Intelligenz erreicht und übertrifft."
Gesellschaftliche und wirtschaftliche Umwälzungen: "Aschenbrenner erwartet, dass KI tiefgreifende Auswirkungen auf die Gesellschaft und die Wirtschaft haben wird und möglicherweise zu einer Umstrukturierung von Branchen und des Arbeitsmarktes führen wird, da KI in der Lage sein wird, Aufgaben zu übernehmen, die derzeit von Menschen erledigt werden."
Die Projektbeteiligung der US-Regierung: "Prognosen zufolge wird sich die US-Regierung bis etwa 2027-2028 durch ein spezielles AGI-Projekt in erheblichem Maße an der KI-Entwicklung beteiligen, wahrscheinlich aufgrund der strategischen Bedeutung der KI-Technologie."
Technologische Mobilisierung: "Er rechnet mit einer Mobilisierung technologischer und industrieller Ressourcen ähnlich wie in historischen Kriegszeiten, wobei KI und die sie unterstützende Infrastruktur zu den Prioritäten der nationalen Politik gehören werden."
Hier sind die Prompts, die wir verwendet haben:
Rolle: Verhalte dich wie ein Redakteur. Aufgabe: Lies den beigefügten Aufsatz des ehemaligen OpenAI-Forschers Leopold Aschenbrenner. Anweisungen:
Lest den Originalartikel auf Business Insider
