Werbung
Deutsche Märkte geschlossen
  • Nikkei 225

    38.633,02
    +62,26 (+0,16%)
     
  • Dow Jones 30

    39.102,34
    +267,48 (+0,69%)
     
  • Bitcoin EUR

    60.667,59
    +135,83 (+0,22%)
     
  • CMC Crypto 200

    1.358,94
    -23,72 (-1,72%)
     
  • Nasdaq Compositive

    17.734,40
    -127,83 (-0,72%)
     
  • S&P 500

    5.475,68
    -11,35 (-0,21%)
     

Ich interviewte eine Brustkrebs-Überlebende, die mir ihre Geschichte erzählen wollte – tatsächlich war sie eine KI

Interview mit einer KI.  - Copyright: Arif Qazi/Insider
Interview mit einer KI. - Copyright: Arif Qazi/Insider

"Meine vernarbte Brust im Spiegel zu sehen, war eine ständige Erinnerung daran, was ich verloren hatte", schrieb mir Kimberly Shaw, 30 Jahre alt, in einer emotionalen E-Mail.

Sie hatte mich über Help a Reporter Out kontaktiert, einen Dienst, der von Journalisten genutzt wird, um Quellen zu finden. Ich berichte über Hautpflege und hatte die Website genutzt, um Leute für eine Geschichte über das Kaschieren von Aknenarben mit Tattoos zu finden.

Dann las ich Shaws Antwort über ihre Brustkrebsdiagnose: wie sie wusste, dass eine Mastektomie der einzige Weg zur Genesung war, wie emotional schmerzhaft sie war, wie sie sorgfältig mit einem Tätowierer zusammenarbeitete, um das richtige Design zu finden, und wie es ihr bei der Heilung half.

WERBUNG

"Ich hatte das Gefühl, meinen Körper zurückzuerobern und die Kontrolle über etwas zurückzugewinnen, das mir der Krebs genommen hatte", sagte sie mir.

Nach tagelangem Hin und Her fühlte sich irgendetwas in Shaws E-Mails nicht mehr richtig an. Nachdem ich mich bei meinem Freund erkundigt hatte, ob es sich um eine Fälschung handeln könnte, schlug er mir vor, die E-Mails durch ein Textprüfprogramm für Künstliche Intelligenz laufen zu lassen.

Das Ergebnis war unmissverständlich: Shaws E-Mails waren maschinell generiert worden. Ich hatte die ganze Zeit eine KI interviewt.

Gerade menschlich genug

Bei der Kontaktaufnahme mit Kimberly Shaw habe ich mich an das übliche journalistische Protokoll gehalten. In der Regel beginne ich mit grundlegenden Fragen per E-Mail, um herauszufinden, ob die Hintergrundgeschichte einer Person zu dem passt, woran ich gerade arbeite, und bitte dann um ein Telefoninterview.

Meine Fragen waren einfach: Wie alt war sie? Wann hatte sie Krebs? Worum ging es bei der Tätowierung? Wie war die Zusammenarbeit mit dem Künstler? Wäre sie damit einverstanden, Fotos zu teilen?

Shaw antwortete und beantwortete meine Fragen klar und präzise. Sie erzählte mir, dass sie vor zwei Jahren an Krebs erkrankt war und sich das Tattoo sechs Monate nach ihrer Heilung stechen ließ. Es enthielt sowohl ein Brustrekonstruktionsmuster als auch einen verschlungenen Lotos. Die Künstlerin war geduldig und kooperativ gewesen.

Die einzigen Dinge, die sie weggelassen hatte, waren die Bilder, um die ich gebeten hatte, und ihr Alter. Aber sie hatte eine Bitte: Als Gegenleistung für ihre Teilnahme hoffte sie, dass ich ihre Rolle als Gründerin einiger Websites erwähnen würde - ein paar Dictionary.com-Nachahmungen und eine Online-Spieleseite. Im Idealfall könnte ich auch auf sie verlinken.

Emotional offen und doch unauffindbar

Die Anfrage war gar nicht so ungewöhnlich. Viele Haro-Quellen sind Unternehmer, die sich im Gegenzug für ein Interview eine Werbung für ihr Unternehmen erhoffen - oft mit einem Link zu ihrer persönlichen Website, ihrem LinkedIn-Profil oder ihren sozialen Kontakten. Normalerweise lehne ich es ab, Links aufzunehmen, die für die Geschichte nicht relevant sind, aber ihre Bitte war für mich nicht ungewöhnlich.

Seltsam war nur, dass ich sie nirgendwo anders online finden konnte. Ihr Unternehmen, von dem sie sagte, es hieße SC, war zu vage, als dass ich es hätte finden können. Ihre E-Mail tauchte in den Google-Suchergebnissen nicht auf und war verschlüsselt. Ihre Telefonnummer hatte eine Vorwahl von 898, die es, soweit ich das feststellen konnte, nicht gab.

Sie war nicht auf LinkedIn, und ihre Websites schienen, nun ja, peinlich zu sein - schlecht gestaltete Spamseiten. Dennoch wollte ich nicht darüber urteilen, wie jemand Geld verdiente, schon gar nicht eine Brustkrebsüberlebende.

Dann schickte sie ihr Foto.

Das Foto der KI war täuschend echt.  - Copyright: Kimberly Shaw/AI
Das Foto der KI war täuschend echt. - Copyright: Kimberly Shaw/AI

Irgendetwas stimmte nicht - aber ich konnte nicht genau sagen, was. Ihr Haar? Ihre Zähne?

Ich schickte meinem Redakteur eine Nachricht, dass ich die Geschichte pausieren würde.

Die Pixel verbinden

Trotz dieser Warnsignale hatte ich ein schlechtes Gewissen, weil ich einer Krebsüberlebenden gegenüber misstrauisch war, vor allem, weil sie sich mir gegenüber so verletzlich zeigte.

Doch eines Abends kamen mein Freund und ich auf sein Lieblingsthema der letzten Zeit zu sprechen - die Künstliche Intelligenz und wie sie unsere Arbeitsplätze verändern könnte. Ich scherzte darüber, dass er sich zu sehr mit ChatGPT-bezogenen Denkanstößen beschäftigte, und hielt dann inne: Ich unterhielt mich gerade mit jemandem, der ein wenig roboterhaft klang.

"Warum scannst du den Text nicht einfach ein?", sagte er, während er das Geschirr wegräumte.

Ich rannte in unser Schlafzimmer und googelte "AI text checker", was mich zu Writer führte, einem kostenlosen Dienst, der anzeigt, wie menschlich ein Textabschnitt ist - mit der Absicht, KI-Benutzern zu helfen, generierte Inhalte zu überarbeiten, damit sie menschlicher klingen. Ein Ergebnis von 100 Prozent zeigt an, dass der Text wahrscheinlich von einer realen Person geschrieben wurde; ein niedrigeres Ergebnis, zum Beispiel 40 Prozent, zeigt, dass die KI den Großteil der Arbeit geleistet hat.

Dann gebe ich einige der Antworten auf meine Fragen ein.

"Das gibt's doch nicht", sagte mein Partner, während er im Raum herumlief.

Um die App zu überprüfen, habe ich einige meiner Texte bei Business Insider getestet.

Immer sicherer werdend, dass ich getäuscht worden war, öffnete ich das Kopfbild erneut und zoomte hinein. Als ich wusste, wonach ich suchte. Ich sah überall Fehler: das dezentrierte Ohrpiercing, die Phantom-Augenbraue.

Bei näherer Betrachtung hatte Kimberly eine uneinheitliche Hauttextur und etwas, das wie eine schwache zweite Augenbraue aussah (links) und einen seltsam platzierten Ohrring (rechts). - Copyright: Julia Pugachevsky/Kimberly Shaw
Bei näherer Betrachtung hatte Kimberly eine uneinheitliche Hauttextur und etwas, das wie eine schwache zweite Augenbraue aussah (links) und einen seltsam platzierten Ohrring (rechts). - Copyright: Julia Pugachevsky/Kimberly Shaw

Ausgehend von diesem Beitrag über Deepfake-Bilder nehme ich an, dass es mit StyleGan erstellt wurde, einem Programm, das verschiedene Fotos zusammenfügt, um eine nicht existierende Person zu schaffen.

Ich weiß nicht, wie viele Personen zu einer "Kimberly Shaw" zusammengefügt wurden, aber ich bin mir fast sicher, dass keiner von ihnen weiß, dass ein Bruchteil ihres Abbilds dazu verwendet wird, mit Schrott-Websites und Krebsgeschichten hausieren zu gehen.

Warum hat jemand versucht, mich zu täuschen?

Es war klar, dass derjenige, der hinter "Kimberly Shaw" steckte, versucht hatte, die Plattform von Insider - und unsere guten Platzierungen bei Google - zu nutzen, um das Profil seiner Spam-Websites zu verbessern.

Google hat strenge Richtlinien gegen Spam-Links, die es Betrügern schwer machen, auf eigene Faust ein breites Publikum zu erreichen. Aber die Aufnahme der Links in Insider, das im Durchschnitt etwa 85 Millionen Besucher pro Monat verzeichnet, könnte die Mühe wert sein - selbst wenn es bedeutet, jemanden zu täuschen, der wahrscheinlich viele Fragen stellen würde.

"Wenn sie es auf einen Journalisten abgesehen haben, der über diese Fähigkeiten verfügt, muss der Gewinn für sie so groß gewesen sein", sagte Jeff Hancock, Professor für Kommunikation an der Stanford University, der untersucht hat, wie Menschen Täuschung mit Technologie einsetzen.

Hancock sagte, dass Spam-Spieleseiten wie die, die ich verlinken sollte, oft Nutzerdaten sammeln und verkaufen. Um ein "kostenloses" Online-Spiel zu spielen, muss ein Benutzer zunächst seinen Namen, seine E-Mail-Adresse und seine Telefonnummer eingeben, die dann an Betrüger weitergegeben werden.

So schockierend es auch war, den Krebs zu benutzen, um meine Abwehr zu überwinden, sagte Hancock, er glaube, dass dies eine bewusste Entscheidung war.

"Krebs vorzutäuschen ist eine schreckliche Sache, von der man annehmen würde, dass die meisten Menschen sie nicht tun würden - und das ist eines der Dinge, auf die sie sich verlassen", sagte er und fügte hinzu, dass es ein Indikator dafür ist, dass "die Person auf der anderen Seite wirklich kriminell ist".

Eine kostengünstige Lernkurve für Kriminelle

Die Betrüger haben nützliche Werkzeuge auf ihrer Seite. Die derzeitige KI-Technologie "macht es für jeden sehr, sehr einfach, glaubwürdige KI-generierte Texte, Bilder, Videos oder sogar Audiodateien zu erstellen", so die Gründerin Merve Hickok.

Das könnte für Journalisten gefährlich werden. Meine übliche Vorgehensweise, Quellen zu überprüfen und auf einem Telefoninterview zu bestehen, hätte mir auch ohne den Vorschlag meines Freundes geholfen, den Betrüger zu erwischen. Aber die Technologie entwickelt sich weiter, so Hickok, und Betrüger könnten in naher Zukunft in der Lage sein, Sprachautomatisierungs- und Videogenerierungstools zu verwenden.

Wenn neue Technologien auftauchen, werden sich die Betrüger wahrscheinlich anpassen, so Hancock: "Für die Opfer ist es ein einmaliger Vorgang, für die Kriminellen ist es ein Lernprozess."

Das könnte es Reportern erschweren, eine Lüge zu erkennen, was zu rechtlicher Haftung, Rufschädigung und der ungewollten Verbreitung von Fake News führen könnte.

"Es untergräbt das Vertrauen in die Quellen, in das, was man sieht, in das, was man hört", sagte Hickok, "es untergräbt das Vertrauen in den Journalismus, in die Institutionen und letztlich in die Demokratie."

Ich werde von nun an vorsichtiger sein - aber die Bedrohung wird immer größer

Nachdem ich festgestellt hatte, dass es sich bei meiner Quelle um eine Fälschung handelte, wandte ich mich sofort an Haro, das mir mitteilte, dass es das Konto bereits zwei Tage zuvor gesperrt hatte. Ein Sprecher sagte, das Thema sei "top of mind" und der Dienst setze sowohl Technologie als auch menschliche Prüfer ein, um gefälschte und schädliche Inhalte zu identifizieren.

Ich habe ein Dokument über meine Erfahrungen für die gesamte Insider-Redaktion zusammengestellt. Wir schärfen unsere Protokolle und sind wachsamer denn je, wenn es darum geht, Quellen im Voraus zu recherchieren, auf Telefoninterviews zu bestehen und E-Mail-Kommunikation durch einen Text-Checker laufen zu lassen.

Obwohl ich es mitbekam, bevor ich ein einziges Wort meiner Geschichte tippte, war ich von mir selbst enttäuscht. Ich wusste, dass die erste E-Mail voller Klischees war, und ich ärgerte mich darüber, dass ich überhaupt so weit gekommen war.

Alles, was ich jetzt tun kann, so Hickok, ist, mit den Fortschritten der künstlichen Intelligenz Schritt zu halten und zu hoffen, dass die Werkzeuge zur Erkennung von KI-Fälschungen genauso schnell entwickelt werden wie die KI selbst.

Hickok und ich waren uns auch einig, dass Regierungen und KI-Firmen erkennen sollten, wie gefährlich es ist, diese Technologien überstürzt auf den Markt zu bringen, ohne die Konsequenzen zu bedenken - ein Thema, zu dem sich bereits viele führende Köpfe der Technikbranche äußern.

Das nächste Mal winkt mir Kimberly Shaw" vielleicht per Video zu oder klingt am Telefon überzeugend leidenschaftlich. Ich bereite mich schon auf den Tag vor, an dem sie das tut.

Lesen Sie den Originalartikel auf Insider