Yahoo Finanzen Ein Entwickler hat mithilfe von Chat GPT eine "Propaganda-Maschine" gebaut, um vor der Gefahr durch KI-generierte Desinformation zu warnen
Ein Entwickler hat eine KI-"Desinformationsmaschine" mit Open AI-gestützter Technologie wie Chat GPT gebaut. Für die Fertigstellung des Projekts mit dem Namen "Countercloud" benötigte der Entwickler zwei Monate. Es kostete ihn weniger als 400 Dollar (etwa 370 Euro) pro Monat. Das zeigt, wie billig und einfach es sein kann, Massenpropaganda zu betreiben.
Der Entwickler, der anonym bleiben möchte, gab sich als Nea Paw aus und behauptete, ein Cybersecurity-Experte zu sein, berichtet "Wired". In einem Video, das auf Youtube veröffentlicht wurde, beschrieb Paw, wie und warum er das Projekt durchführte.
Er sagte, er wollte sehen, wie KI-Desinformation "in der realen Welt funktioniert." Außerdem seien "starke Sprachkompetenzen von großen Sprachmodellen perfekt geeignet, um Fakenews-Artikel zu lesen und zu schreiben".
Paw sagte, er hätte damit begonnen, Artikel bei Chat GPT einzugeben und das Tool aufzufordern, einen Gegenartikel zu verfassen. Der KI-Bot bot dann verschiedene Beispiele desselben Artikels an, die in unterschiedlichem Stil und mit unterschiedlichen Standpunkten geschrieben waren. Dies geschah, indem er "gefälschte Geschichten, gefälschte historische Ereignisse und Zweifel an der Richtigkeit des Originalartikels erzeugte".
Dann fügte er ein Gatekeeper-Modul hinzu, damit die KI nur auf die relevantesten Inhalte reagiert. Zudem integrierte er Audioclips von Nachrichtensprechern, die die gefälschten, von der KI generierten Artikel und Fotos lesen, um Authentizität zu erzeugen.
Der Entwickler erstellte auch gefälschte Journalistenprofile und gefälschte Kommentare unter einigen Artikeln. Das System wurde dann angewiesen, Nachrichten, die mit seinem Narrativ übereinstimmten, zu liken und erneut zu posten, oder "Gegen-Tweets" zu denen zu schreiben, die damit nicht übereinstimmten.
Programm könnte zur Aufklärung dienen
Nach zwei Monaten hatte er ein völlig autonomes KI-gesteuertes System, das "90 Prozent der Zeit überzeugende Inhalte generierte, 24 Stunden am Tag, sieben Tage die Woche". Der Macher hat das Modell noch nicht ins Internet gestellt, denn "das würde bedeuten, dass wir aktiv Desinformationen und Propaganda verbreiten. Wenn der Flaschgeist erst einmal im Internet ist, kann man nicht wissen, wo er landen wird", so Paw.
Er fügte jedoch hinzu, dass die Veröffentlichung von Countercloud sowie die Aufklärung der Öffentlichkeit darüber, wie diese Systeme von innen heraus funktionieren, mehr Nutzen bringen würden. Die Bedrohung, die KI für die Demokratie darstellt, weil sie die Erstellung und Verbreitung von Desinformationen im Internet beschleunigen kann, ist eine der größten Sorgen in der KI-Debatte.
i am nervous about the impact AI is going to have on future elections (at least until everyone gets used to it). personalized 1:1 persuasion, combined with high-quality generated media, is going to be a powerful force.
— Sam Altman (@sama) August 3, 2023
Der CEO von Open AI, Sam Altman, äußerte kürzlich seine Besorgnis über dieses Thema. Er sagte, dass "personalisierte 1:1-Überredung, kombiniert mit qualitativ hochwertigen generierten Medien, eine mächtige Kraft sein wird."
Lest den Originalartikel auf Business Insider.
