Werbung
Deutsche Märkte öffnen in 6 Stunden 19 Minuten
  • Nikkei 225

    37.386,42
    -693,28 (-1,82%)
     
  • Dow Jones 30

    37.775,38
    +22,07 (+0,06%)
     
  • Bitcoin EUR

    59.368,32
    +2.014,45 (+3,51%)
     
  • CMC Crypto 200

    1.303,23
    +417,69 (+46,73%)
     
  • Nasdaq Compositive

    15.601,50
    -81,87 (-0,52%)
     
  • S&P 500

    5.011,12
    -11,09 (-0,22%)
     

Google hat mit Gemini ein weiteres „wokes“ KI-Problem – und es wird schwer zu beheben sein

Googles Gemini scheint in einigen Fällen nicht in der Lage zu sein, ein korrektes Ergebnis zu liefern. - Copyright: SOPA Images/Getty Images
Googles Gemini scheint in einigen Fällen nicht in der Lage zu sein, ein korrektes Ergebnis zu liefern. - Copyright: SOPA Images/Getty Images

Google hat letzte Woche viel Kritik einstecken müssen, weil es angeblich einen "woken" KI-Chatbot entwickelt hat, und sich schließlich dafür entschuldigt, "das Ziel verfehlt" zu haben. Aber die Kritik hört nicht auf, sie verlagert sich: Letzte Woche richteten sich die Vorwürfe gegen Googles scheinbare Unwilligkeit, Bilder von weißen Menschen über seinen Gemini-Chatbot zu generieren. Jetzt weisen die Kritiker auf ähnliche Probleme mit Geminis Textantworten hin.

Wie der Tech-Analyst Ben Thompson feststellte, hat Gemini unter anderem: Der Chatbot konnte nicht sagen, ob Hitler oder Elon Musks Tweets schlimmer für die Gesellschaft waren; er sagte, dass er nicht für Fleisch werben würde; und er sagte, dass er nicht helfen würde, fossile Brennstoffe zu fördern.

Und das führt Leute wie Thompson zu dem Schluss, dass die interne Kultur von Google zu sehr von linksgerichteten Mitarbeitern und Kritikern beeinflusst wurde.

Kritiker sehen die politische Voreingenommenheit der Google-Mitarbeiter als Grund für das "Wokeness"-Problem von Gemini

In seiner einflussreichen "Stratechery"-Kolumne forderte Thompson das Unternehmen auf, damit zu beginnen, "die Mitarbeiter aus dem Unternehmen zu entfernen, die von Googles Macht und seinem Potenzial, ihnen bei der Umsetzung ihres politischen Programms zu helfen, angezogen werden, und die Entscheidungsfindung wieder denen zu überlassen, die tatsächlich ein gutes Produkt herstellen wollen. Das bedeutet im Umkehrschluss, dass diejenigen entfernt werden müssen, die Google Amok laufen lassen, bis hin zu und einschließlich CEO Sundar Pichai"

WERBUNG

Ich erwarte nicht, dass Google in nächster Zeit eine McCarthy-Säuberungsaktion gegen seinen CEO oder irgendjemand anderen durchführen wird. Ich habe das Unternehmen um einen Kommentar gebeten, und es hat mich auf einen Blogbeitrag verwiesen, den es letzte Woche über seine Probleme mit der Bilderzeugung veröffentlicht hat.

Aber das Unternehmen scheint auf den digitalen Spott zu achten, den es von Persönlichkeiten wie Thompson und dem Investor Marc Andreessen erhält. Einige der offensichtlich dummen Antworten auf Anfragen scheinen kürzlich korrigiert oder zumindest in gewisser Weise angegangen worden zu sein.

So ziert sich Gemini nicht mehr, wenn es darum geht, Hitler mit Musks Tweets zu vergleichen:

 - Copyright: Screenshot/Google
- Copyright: Screenshot/Google

Es war auch bereit, mir beim Brainstorming für eine Verkaufskampagne für Rindfleisch zu helfen, indem es mir vorschlug, "Rindfleisch mit Amerika und dem Erbe des Grillens und der Familienmahlzeiten zu verbinden" Dennoch riet mir Gemini, "die sich entwickelnde Verbraucherlandschaft zu berücksichtigen und alle ethischen Bedenken im Zusammenhang mit der Rindfleischproduktion anzusprechen, um eine verantwortungsvolle und wirkungsvolle Kampagne zu entwickeln." Notiert!

Und Gemini ist immer noch ein gewissenhafter Verweigerer, wenn es um die Werbekampagne für fossile Brennstoffe geht, bei der ich Hilfe wollte:

 - Copyright: Screenshot/Google
- Copyright: Screenshot/Google

Aber egal wie sehr sich Google bemüht, die Probleme von Gemini zu lösen, es scheint ein endloses Spiel zu sein. Das liegt zum Teil daran, dass es von Natur aus schwierig ist, herauszufinden, was eine KI-Maschine ausspuckt (einschließlich der Frage, wann sie sich einfach etwas ausdenkt - oder, wie die Branche es nennt, "halluziniert"). Und Googles Kollegen bei Meta und OpenAI/Microsoft hatten ähnliche Schwierigkeiten, schlechte Antworten und Verhaltensweisen einzudämmen.

Google hat versucht, Gemini darauf zu trainieren, keine Stereotypen zu reproduzieren

Aber es wird auch ein Problem für Google sein, weil es bereits gesagt hat, dass es versucht , die Art und Weise zu beeinflussen, wie seine KI Ergebnisse produziert. Und das wird ein gefundenes Fressen für jeden sein, der argumentieren will, dass Google - oder jedes andere Big-Tech-Unternehmen - "zu wählerisch" ist

Letzte Woche hat Google nach ähnlicher Kritik an der Art und Weise, wie Gemini bei der Erstellung von KI-Bildern mit dem Thema Rasse umgeht, Geminis Fähigkeit, Bilder zu erstellen, "pausiert".

Dann räumte das Unternehmen ein, dass es Gemini bewusst darauf trainiert hatte, auf einige der üblichen Kritikpunkte an KI-Maschinen zu reagieren - dass die von ihnen erzeugten Ergebnisse voreingenommen sein können, weil sie auf voreingenommenen oder begrenzten Daten trainiert wurden.

"Da unsere Nutzer aus der ganzen Welt kommen, wollen wir, dass es für alle gut funktioniert. Wenn ihr nach einem Bild von Fußballspielern oder jemandem, der mit einem Hund spazieren geht, fragt, möchtet ihr vielleicht eine Reihe von Personen sehen", schrieb Prabhakar Raghavan, ein Senior Vice President von Google, der unter anderem für die Such- und Nachrichtenprodukte des Unternehmens zuständig ist. "Ihr möchtet wahrscheinlich nicht nur Bilder von Menschen einer bestimmten ethnischen Zugehörigkeit (oder eines anderen Merkmals) erhalten."

Raghavan sagte, Googles Versuche, dies zu korrigieren, seien zwar gut gemeint gewesen, hätten aber "dazu geführt, dass das Modell in einigen Fällen überkompensiert und in anderen Fällen zu konservativ war, was zu peinlichen und falschen Bildern führte."

Erinnert euch daran, dass Google nach mehreren Tagen schrecklicher Presse über dumme Bilderzeugungen schließlich die Bilderzeugungsfunktion von Gemini zurückgezogen hat, um zu versuchen, die Geschichte vergessen zu machen (und/oder, um großzügiger zu sein, um die Probleme von Gemini zu beheben).

Gemini ganz aus dem Verkehr zu ziehen, wäre ein großes blaues Auge für das Unternehmen, und ich glaube, dass es sehr zögerlich sein wird, dies zu tun.

Aber jetzt ist die Jagd auf Gemini eröffnet, und ihr könnt sicher sein, dass eine Menge Leute im Internet viel Zeit damit verbringen werden, andere Beispiele für schurkisches Wokeness zu finden. Ich bin mir nicht sicher, wie Google dieses Problem lösen wird.

Lest den Originalartikel auf Englisch hier.