Yahoo Finanzen Deutscher OpenAI-Manager wirft Sam Altman vor, "schillernde Produkte" über Sicherheit zu stellen – und kündigt
Ein ehemaliger leitender Angestellter für Sicherheit bei OpenAI hat alles offengelegt. Am Dienstagabend vergangene Woche kündigte Jan Leike, ein leitender Angestellter des Unternehmens für Künstliche Intelligenz, mit einem unverblümten Posting auf X seinen Rücktritt an: "Ich habe gekündigt."
Jetzt, drei Tage später, teilte Leike mehr über seinen Ausstieg mit – und sagte, dass OpenAI die Sicherheit nicht ernst genug nimmt. "In den letzten Jahren sind Sicherheitskultur und -prozesse gegenüber schillernden Produkten in den Hintergrund getreten", schrieb Leike am Freitag in einem langen Thread auf X.
In seinen Beiträgen sagte Leike, er sei OpenAI beigetreten, weil er dachte, es sei der beste Ort der Welt, um zu erforschen, wie man eine Künstliche allgemeine Intelligenz (AGI), die schneller als ein Mensch denken kann, "lenken und kontrollieren" kann.
"Ich bin jedoch schon seit geraumer Zeit mit der OpenAI-Führung über die Kernprioritäten des Unternehmens uneins, bis wir schließlich eine Bruchstelle erreicht haben", schrieb Leike.
Die ehemalige OpenAI-Führungskraft sagte, das Unternehmen solle sich vor allem auf die Themen "Sicherheit, Überwachung, Bereitschaft, Schutz, Robustheit gegenüber Gegnern, (Super-)Alignment, Vertraulichkeit, gesellschaftliche Auswirkungen und verwandte Themen" konzentrieren.
Aber Leike sagte, dass sein Team – das daran arbeitet, wie man KI-Systeme mit dem Besten für die Menschheit in Einklang bringt – bei OpenAI "gegen den Wind segelt".
"Es ist längst überfällig, dass wir uns mit den Auswirkungen von AGI ernsthaft auseinandersetzen", schrieb er und fügte hinzu: "OpenAI muss ein AGI-Unternehmen werden, bei dem Sicherheit an erster Stelle steht."
Leike beendete seinen Beitrag mit einer Notiz an die OpenAI-Mitarbeiter, in der er sie aufforderte, die Sicherheitskultur des Unternehmens zu verändern. "Ich zähle auf euch. Die Welt verlässt sich auf euch", sagte er.
Rücktritte im Sicherheitsteam von OpenAI
Sowohl Leike als auch Ilya Sutskever, der andere Leiter des Superalignment-Teams, verließen OpenAI am Dienstag innerhalb weniger Stunden.
In einer Erklärung auf X lobte Altman Sutskever als "mit Abstand einen der größten Köpfe unserer Generation, ein führendes Licht in unserem Bereich und einen lieben Freund".
"OpenAI wäre ohne ihn nicht das, was es ist", schrieb Altman: "Obwohl er etwas persönlich Bedeutsames hat, an dem er arbeiten wird, bin ich für immer dankbar für das, was er hier getan hat, und ich werde mich dafür einsetzen, die Mission, die wir gemeinsam begonnen haben, zu Ende zu bringen."
Altman äußerte sich nicht zum Rücktritt von Leike.
Am Freitag berichtete „Wired“, dass OpenAI das KI-Risikoteam des Paares aufgelöst hat. Die Forscher, die sich mit den Gefahren der KI beschäftigten, werden laut Wired nun in andere Bereiche des Unternehmens integriert.
OpenAI reagierte nicht auf Anfragen von Business Insider.
OpenAI veröffentlichte vor Kurzem "GPT-4o"
Das KI-Unternehmen, das kürzlich ein neues großes Sprachmodell GPT-4o vorstellte, wurde in den letzten Wochen durch hochkarätige Umbesetzungen erschüttert.
Zusätzlich zu den Abgängen von Leike und Sutskever haben laut „The Information“ auch Diane Yoon, Vice President of People, und Chris Clark, Leiter des Bereichs Nonprofit und strategische Initiativen, das Unternehmen verlassen. Und letzte Woche berichtete BI, dass zwei weitere Forscher, die an der Sicherheit arbeiten, das Unternehmen verlassen haben.
Einer dieser Forscher schrieb später, er habe das Vertrauen verloren, dass OpenAI sich "in der Zeit von AGI verantwortungsvoll verhalten würde".
Lesen Sie den Originalartikel auf Business Insider
