Yahoo Finanzen Ex-Vorstände von OpenAI sagen, dass man dem Unternehmen nicht zutrauen sollte, sich selbst zu regieren
Zwei ehemalige Vorstandsmitglieder von OpenAI haben erklärt, dass man Unternehmen aus dem Bereich der künstlichen Intelligenz nicht zutrauen kann, sich selbst zu kontrollieren. Stattdessen sei eine Regulierung durch Dritte notwendig, um sie zur Verantwortung zu ziehen.
Helen Toner und Tasha McCauley waren Vorstandsmitglieder bei OpenAI. Doch dann traten sie im November inmitten des chaotischen Vorstoßes zur Absetzung von CEO Sam Altman zurück. Altman wurde wenige Tage nach seiner Entlassung schnell wieder als CEO eingesetzt. Fünf Monate später kehrte er in den Vorstand zurück.
In einem am Sonntag veröffentlichten Meinungsartikel für "The Economist" schrieben Toner und McCauley, dass sie zu ihrer Entscheidung stehen, Altman zu entlassen. In diesem Zuge zitieren sie Aussagen von Führungskräften, dass der Mitbegründer eine „toxische Kultur des Lügens“ geschaffen habe. Sein Verhalten könne zudem "als psychologischer Missbrauch" bezeichnet werden.
Seit Altman im März in den Vorstand zurückgekehrt ist, stand OpenAI hinsichtlich seines Engagements für Sicherheit in der Kritik. Außerdem wurde das Unternehmen für die Verwendung einer KI-Stimme bei Chat GPT-4o kritisiert, die der Schauspielerin Scarlett Johansson unheimlich ähnlich klang. Mit Altman an der Spitze, so schrieben Toner und McCauley, könne man OpenAI nicht mehr zutrauen, sich selbst zu kontrollieren.
„Wir sind auch der Meinung, dass die Entwicklungen seit seiner Rückkehr in das Unternehmen – einschließlich der Wiederaufnahme in den Vorstand und dem Weggang von auf Sicherheit bedachten Talenten – nichts Gutes für das OpenAI-Experiment der Selbstverwaltung verheißen“, schrieben sie.
Toner und McCauley argumentierten, dass Regierungen eingreifen und „jetzt einen wirksamen Regulierungsrahmen“ schaffen müssten. Nur so könne OpenAI seinen erklärten Auftrag zum Nutzen der „gesamten Menschheit“ erfüllen.
Politische Entscheidungsträger müssen "unabhängig" von KI-Unternehmen wie OpenAI handeln
Toner und McCauley relativieren ihre Forderung nach staatlicher Regulierung allerdings auch. Sie räumten ein, dass schlecht konzipierte Gesetze möglicherweise „Wettbewerb und Innovation“ behindern könnten, indem sie kleinere Unternehmen belasten.
„Es ist von entscheidender Bedeutung, dass die politischen Entscheidungsträger bei der Entwicklung neuer Vorschriften unabhängig von führenden KI-Unternehmen handeln“, erklären sie. „Sie müssen wachsam sein gegenüber Schlupflöchern, regulatorischen ‚Burggräben‘, die frühe Marktteilnehmer vom Wettbewerb abschirmen, und dem Potenzial für regulatorische Vereinnahmung“.
Im April kündigte das US-Ministerium für Innere Sicherheit die Einrichtung eines Gremiums für die Sicherheit künstlicher Intelligenz an. Es soll Empfehlungen für die "sichere Entwicklung und den Einsatz von KI" in den kritischen Infrastrukturen der USA geben. Zu den 22 Mitgliedern des Gremiums gehören neben Altman auch die Chefs anderer großer Technologieunternehmen. Dazu zählen zum Beispiel Nvidia-CEO Jensen Huang und Alphabet-CEO Sundar Pichai.
Obwohl das Sicherheitsgremium auch Vertreter von gemeinnützigen Tech-Firmen umfasst, sind Führungskräfte von gewinnorientierten Unternehmen überrepräsentiert. KI-Ethiker, die mit "Ars Technica" sprachen, äußerten die Befürchtung, dass der übergroße Einfluss gewinnorientierter Unternehmen zu einer Politik führen könnte, die die Industrie gegenüber der Sicherheit bevorzugt.
"Wenn wir uns alle einig sind, dass es uns wichtig ist, die Menschen im Hinblick auf den Einsatz von KI zu schützen, dann denke ich, dass wir uns einig sind, dass es wichtig ist, Menschen am Tisch zu haben, die sich darauf spezialisiert haben, den Menschen über die Technologie zu stellen", sagte Margaret Mitchell zu "Ars Technica". Sie ist KI-Ethik-Expertin bei Hugging Face.
Das Ministerium für Innere Sicherheit in den USA reagierte nicht auf eine Bitte um Stellungnahme.
Axel Springer, der Mutterkonzern von Business Insider, hat eine globale Vereinbarung getroffen, die es OpenAI erlaubt, seine Modelle auf die Berichterstattung seiner Medienmarken zu trainieren.
