Yahoo Finanzen Ex-OpenAI-Mitarbeiter spricht darüber, warum er gefeuert wurde: "Ich habe für Unruhe gesorgt"
Ein ehemaliger OpenAI-Forscher erzählte, wie er sich durch das Schreiben und Teilen von Dokumenten über die Sicherheit im Unternehmen "einige Federn rupfte" und schließlich gefeuert wurde. Leopold Aschenbrenner hat laut Linkedin im Alter von 19 Jahren seinen Abschluss an der Columbia University gemacht. Er arbeitete im Superalignment-Team von OpenAI. Im April wurde er wegen "undichter Stellen" gefeuert. In einem am Dienstag veröffentlichten Interview mit dem Podcaster Dwarkesh Patel sprach er über diese Erfahrung.
Aschenbrenner sagte, er habe nach einem "größeren Sicherheitsvorfall", den er in dem Interview nicht näher erläuterte, ein Memo geschrieben und es mit einigen Vorstandsmitgliedern von OpenAI geteilt. In dem Memo schrieb er, dass die Sicherheitsvorkehrungen des Unternehmens beim Schutz vor dem Diebstahl "wichtiger algorithmischer Geheimnisse von ausländischen Akteuren" ungeheuerlich unzureichend seien, so Aschenbrenner. Der KI-Forscher teilte das Memo zuvor mit anderen bei OpenAI, "die es größtenteils als hilfreich empfanden", fügte er hinzu.
Die Personalabteilung habe ihn später vor dem Memo gewarnt, sagte Aschenbrenner. Sie habe ihm gesagt, dass es "rassistisch" und "unkonstruktiv" sei, sich über die Spionage der Kommunistischen Partei Chinas zu sorgen. Ein OpenAI-Anwalt fragte ihn später nach seinen Ansichten über KI und AGI. Er wollte wissen, ob Aschenbrenner und das Superalignment-Team "loyal gegenüber dem Unternehmen" seien, wie der KI-Forscher es ausdrückte.
OpenAI feuerte ihn wegen eines Brainstorming-Dokuments
Aschenbrenner behauptete, das Unternehmen habe daraufhin seine digitalen OpenAI-Artefakte durchsucht. Kurz darauf wurde er gefeuert. Das Unternehmen behauptete, er habe vertrauliche Informationen weitergegeben und sei bei der Untersuchung nicht kooperativ gewesen. Außerdem habe er eine vorherige Abmahnung durch die Personalabteilung erhalten, nachdem er das Memo mit den Vorstandsmitgliedern geteilt hatte.
Aschenbrenner sagte, die fragliche undichte Stelle beziehe sich auf ein "Brainstorming-Dokument über Bereitschaft, Sicherheit und Sicherheitsmaßnahmen", die für künstliche allgemeine Intelligenz (AGI) benötigt würden. Die habe er mit drei externen Forschern geteilt, um Feedback zu erhalten. Er sagte, dass er das Dokument vor der Weitergabe auf sensible Informationen hin überprüft habe. Für das Unternehmen sei es "völlig normal", diese Art von Informationen für Feedback weiterzugeben.
Aschenbrenner sagte, dass OpenAI eine Zeile über die "Planung für AGI bis 2027-2028 und keine Zeitvorgaben für die Vorbereitung" als vertraulich betrachtet. Er sagte, er habe das Dokument ein paar Monate nach der Ankündigung des Superalignment-Teams verfasst, in dem von einem vierjährigen Planungshorizont die Rede war.
OpenAI-Mitarbeiter wünschen sich mehr Transparenz
Im Juli 2023 veröffentlichte OpenAI eine Ankündigung des Superalignment-Teams. Das Unternehmen sagte darin, sein Ziel sei es, "die zentralen technischen Herausforderungen des Superintelligenz-Alignments in vier Jahren zu lösen".
"Ich dachte nicht, dass dieser Planungshorizont sensibel ist", sagte Aschenbrenner in dem Interview. "Sie wissen, dass es die Art von Dingen ist, die Sam die ganze Zeit öffentlich sagt", sagte er. Damit bezog er sich auf CEO Sam Altman.
Ein Sprecher von OpenAI wiederum sagte im Gespräch mit Business Insider, dass die Bedenken, die Aschenbrenner intern und gegenüber dem Vorstand geäußert hat, "nicht zu seiner Trennung geführt haben".
"Während wir sein Engagement für den Aufbau einer sicheren AGI teilen, sind wir mit vielen der Behauptungen, die er seitdem über unsere Arbeit aufgestellt hat, nicht einverstanden", sagte der OpenAI-Sprecher.
Aschenbrenner ist einer von mehreren ehemaligen Mitarbeitern, die sich kürzlich über Sicherheitsbedenken bei OpenAI geäußert haben. Kürzlich unterzeichnete eine Gruppe von neun aktuellen und ehemaligen OpenAI-Mitarbeitern einen Brief. In ihm forderten sie mehr Transparenz in KI-Unternehmen und Schutz für diejenigen, die Bedenken über die Technologie äußern.
Lest den Originalartikel auf Business Insider
