Werbung
Deutsche Märkte öffnen in 49 Minuten
  • Nikkei 225

    37.564,21
    +125,60 (+0,34%)
     
  • Dow Jones 30

    38.239,98
    +253,58 (+0,67%)
     
  • Bitcoin EUR

    62.591,78
    +286,96 (+0,46%)
     
  • CMC Crypto 200

    1.401,94
    -12,81 (-0,91%)
     
  • Nasdaq Compositive

    15.451,31
    +169,30 (+1,11%)
     
  • S&P 500

    5.010,60
    +43,37 (+0,87%)
     

KI-Experten haben einen offenen Brief unterzeichnet, in dem sie vor einem gefährlichen KI-Wettlauf warnen – Elon Musk ist einer von ihnen

Neben Elon Musk und Steve Wozniak haben auch Pinterest-Mitgründer Evan Sharp und der CEO von Stability AI, Emad Mostaque, den offenen Brief unterschrieben. - Copyright: Susan Walsh/AP
Neben Elon Musk und Steve Wozniak haben auch Pinterest-Mitgründer Evan Sharp und der CEO von Stability AI, Emad Mostaque, den offenen Brief unterschrieben. - Copyright: Susan Walsh/AP

Schwergewichte der künstlichen Intelligenz fordern eine Pause bei der Entwicklung fortgeschrittener KI. Neben Elon Musk, Apple-Mitgründer Steve Wozniak, dem Mitgründer von Pinterest, Evan Sharp, und dem CEO von Stability AI, Emad Mostaque, haben alle einen offenen Brief unterzeichnet, der vom Future of Life Institute herausgegeben wurde. Die gemeinnützige Organisation setzt sich dafür ein, existenzielle Risiken durch leistungsstarke Technologien zu verringern.

Der Brief warnt davor, dass KI-Systeme wie OpenAIs GPT-4 "bei allgemeinen Aufgaben mit dem Menschen konkurrieren können" und eine potenzielle Gefahr für die Menschheit und die Gesellschaft darstellen. Er fordert die KI-Labors auf, die Ausbildung von Technologien, die leistungsfähiger sind als GPT-4, für sechs Monate auszusetzen. Währenddessen sollen die Gefahren der neuen Technologie angemessen bewertet werden.

Branchenexperten wie Yoshua Bengio, der manchmal als einer der "Paten der KI" bezeichnet wird, und der einflussreiche Computerwissenschaftler Stuart Russell haben sich ebenfalls hinter das Schreiben gestellt. Zum Zeitpunkt der Veröffentlichung scheinen keine Vertreter von OpenAI das Schreiben unterzeichnet zu haben.

In dem Brief werden Bedenken über die Verbreitung von Fehlinformationen, das Risiko der Automatisierung für den Arbeitsmarkt und die Möglichkeit eines Kontrollverlusts über die Zivilisation geäußert. Wir haben euch die wichtigsten Punkte zusammengefasst.

Außer Kontrolle geratene KI

Die Non-Profit-Organisation spricht von der Möglichkeit, dass Entwickler die Kontrolle über leistungsstarke neue KI-Systeme und deren beabsichtigte Auswirkungen auf die Zivilisation verlieren könnten. Es wird behauptet, dass die Unternehmen die Entwicklung von KI-Technologien vorantreiben, die so weit fortgeschritten sind, dass nicht einmal die Entwickler sie "verstehen, vorhersagen oder zuverlässig kontrollieren können".

WERBUNG

In dem Brief heißt es: "Sollten wir den Verlust der Kontrolle über unsere Zivilisation riskieren? Solche Entscheidungen dürfen nicht an nicht-gewählte Tech-Führer delegiert werden."

Ein "gefährlicher Wettlauf"

Das Schreiben warnt davor, dass sich die KI-Unternehmen in einem "außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz" neuer fortschrittlicher Systeme befinden. In den letzten Monaten schien die virale Popularität von OpenAIs ChatGPT andere Unternehmen dazu zu bringen, ihre eigenen KI-Produkte zu veröffentlichen.

Die Unternehmen werden aufgefordert, die Früchte eines "KI-Sommers" zu ernten. Währenddessen soll die Gesellschaft die Chance bekommen, sich an die neue Technologie anzupassen – anstatt auf einen jähen "Sturz" zuzulaufen.

KI-Automatisierung und Fehlinformationen

In dem Schreiben werden mehrere Risiken der neuen Technologie hervorgehoben, darunter die Möglichkeit, dass nicht-menschliche Köpfe uns schließlich "zahlenmäßig überlegen, überlisten, überflüssig machen und ersetzen werden".

Die Autoren schreiben außerdem, dass KI-Systeme bei einigen Aufgaben mit dem Menschen konkurrieren können, und es werden Bedenken im Hinblick auf Fehlinformationen und die Automatisierung der Arbeit geäußert: "Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten? Sollen wir alle Jobs automatisieren, auch die, die uns erfüllen?"

Chat GPT
Chat GPT

Sechsmonatige Pause

In dem offenen Brief wird eine sechsmonatige Pause von der Entwicklung von KI-Systemen gefordert, die leistungsfähiger sind als die bereits auf dem Markt befindlichen.

Die Autoren fordern die Entwickler auf, mit den politischen Entscheidungsträgern zusammenzuarbeiten, um KI-Governance-Systeme zu schaffen. Und sie betonen die Notwendigkeit von Regulierungsbehörden sowie von KI-"Wasserzeichen", die den Menschen helfen, zwischen menschlichen und von KI erstellten Inhalten zu unterscheiden. In dem Schreiben wird auch auf die Notwendigkeit von "gut ausgestatteten Institutionen" hingewiesen, um mit den durch KI verursachten wirtschaftlichen und politischen Störungen fertig zu werden.

In dem offenen Brief heißt es, die Pause solle ein Schritt zurück von einem "gefährlichen Wettlauf" um fortschrittliche Technologien sein und nicht ein vollständiger Stopp der allgemeinen KI-Entwicklung.

Lesen Sie den Originalartikel auf Business Insider