Werbung
Deutsche Märkte öffnen in 4 Stunden 25 Minuten
  • Nikkei 225

    38.995,16
    +190,51 (+0,49%)
     
  • Dow Jones 30

    39.411,21
    +260,88 (+0,67%)
     
  • Bitcoin EUR

    56.500,20
    -2.362,89 (-4,01%)
     
  • CMC Crypto 200

    1.254,73
    -54,99 (-4,20%)
     
  • Nasdaq Compositive

    17.496,82
    -192,54 (-1,09%)
     
  • S&P 500

    5.447,87
    -16,75 (-0,31%)
     

Risiken reichen bis zur "Auslöschung der Menschheit": Experten mahnen eindringlich zur Vorsicht bei Künstlicher Intelligenz

Auge einer Frau mit Binärcode, Symbolfoto künstliche Intelligenz, Fotomontage - Copyright: picture alliance / CHROMORANGE | Christian Ohde
Auge einer Frau mit Binärcode, Symbolfoto künstliche Intelligenz, Fotomontage - Copyright: picture alliance / CHROMORANGE | Christian Ohde

Eine Gruppe angesehener Experten für Künstliche Intelligenz (KI) hat erneut eine eindringliche Warnung vor den potenziellen Gefahren der Technologie ausgesprochen. „Ohne ausreichende Vorsicht könnten wir unwiederbringlich die Kontrolle über autonome KI-Systeme verlieren“, schrieben die Forscher in einem Artikel in der neuesten Ausgabe der Zeitschrift „Science“.

Die möglichen Risiken umfassen groß angelegte Cyberattacken, gesellschaftliche Manipulation, allgegenwärtige Überwachung und sogar die „Auslöschung der Menschheit“. Unter den Autoren befinden sich renommierte Wissenschaftler wie Geoffrey Hinton, Andrew Yao und Dawn Song, die zu den führenden Köpfen der KI-Forschung gehören.

Besonders besorgt sind die Autoren des Artikels über autonome KI-Systeme, die selbstständig Computer nutzen können, um die ihnen gestellten Ziele zu erreichen. Trotz guter Absichten könnten solche Programme unvorhergesehene Nebeneffekte haben.

WERBUNG

„So, wie das Training von KI-Software läuft, hält sie sich zwar eng an ihre Spezifikationen – hat aber kein Verständnis dafür, welches Ergebnis dabei herauskommen soll“, argumentieren die Fachleute. „Sobald autonome KI-Systeme unerwünschte Ziele verfolgen, könnten wir nicht mehr in der Lage sein, sie unter Kontrolle zu behalten.“

Diese dramatischen Warnungen sind nicht neu und wurden auch schon im vergangenen Jahr geäußert. Die aktuelle Veröffentlichung fällt jedoch zeitlich mit dem KI-Gipfel in Seoul zusammen, der am Dienstag begann. Beim Auftakt des zweitägigen Treffens sicherten unter anderem US-Konzerne wie Google, Meta und Microsoft einen verantwortungsvollen Umgang mit der Technologie zu.

"Software zu entwickeln, die schlauer als Menschen ist, eine von Natur aus gefährliche Unternehmung"

Die Diskussion über die Verantwortlichkeit von OpenAI, dem Unternehmen hinter ChatGPT, hat zuletzt ebenfalls an Intensität gewonnen. Jan Leike, der bei OpenAI für die Sicherheit der KI-Software verantwortlich war, kritisierte nach seinem Rücktritt die Prioritäten der Unternehmensführung. „In den vergangenen Jahren wurden ‚glitzernde Produkte‘ der Sicherheit vorgezogen“, schrieb Leike bei X (ehemals Twitter). Er warnte, dass „Software zu entwickeln, die schlauer als Menschen ist, eine von Natur aus gefährliche Unternehmung“ sei. Es sei dringend erforderlich herauszufinden, wie man KI-Systeme kontrollieren könne, „die viel smarter als wir sind“.

In Reaktion darauf versicherte OpenAI-Chef Sam Altman, dass sein Unternehmen mehr für die Sicherheit der KI-Software tun wolle. Yann LeCun, der KI-Forschungschef des Facebook-Konzerns Meta, konterte jedoch, dass es zunächst einmal Systeme geben müsse, „die schlauer als eine Hauskatze sind“, bevor eine solche Dringlichkeit gerechtfertigt sei. „Momentan ist es so, als würde jemand im Jahr 1925 warnen, man müsse dringend den Umgang mit Flugzeugen lernen, die hunderte Passagiere mit Schallgeschwindigkeit über den Ozean befördern“, fügte LeCun hinzu. Es werde viele Jahre dauern, bis die KI-Technologie so schlau wie Menschen sein werde – und ähnlich wie bei Flugzeugen würden die Sicherheitsvorkehrungen schrittweise entwickelt.

dpa/fu