Das ist atlantisch Intelligence, eine limitierte Serie, in der Der Atlantik’Die führenden Vordenker von AI zum Thema KI werden Ihnen helfen, die Komplexität und Chancen dieser bahnbrechenden Technologie zu verstehen. Hier anmelden.
Seit Jahren befürchten Experten, dass künstliche Intelligenz eine neue Desinformationskrise im Internet auslösen wird. Bild-, Audio- und Video-Generierungstools ermöglichen es Menschen, schnell hochwertige Fälschungen zu erstellen, um sie in sozialen Medien zu verbreiten und Menschen möglicherweise dazu zu verleiten, zu glauben, Fiktion sei eine Tatsache. Aber wie mein Kollege Charlie Warzel schreibt, hat die bloße Existenz dieser Technologie eine zersetzende Wirkung auf die Realität: Es bedarf keines schockierenden, konkreten Vorfalls, damit KI unzählige Herzen und Köpfe in Zweifel zieht.
Charlies Artikel bietet einen Einblick in die Auseinandersetzungen um ein bearbeitetes Foto, das am Sonntag vom Kensington Palace veröffentlicht wurde und Kate Middleton und ihre Kinder zeigt. Das Bild wurde sofort von Beobachtern – und kurz darauf auch von Nachrichtendiensten wie Associated Press – als verdächtig eingestuft und wurde zum neuesten „Beweis“ in einem verschwörerischen Online-Diskurs über Middletons längere Abwesenheit aus der Öffentlichkeit. Es gibt keinen Grund zu der Annahme, dass das Bild vollständig synthetisch ist. Aber im Zeitalter der generativen KI gibt es jedes bisschen Medien könnte Sei. „Es war noch nie einfacher, Beweise zu sammeln, die eine bestimmte Weltanschauung stützen, und eine erfundene Welt rund um kognitive Vorurteile zu politischen oder popkulturellen Themen aufzubauen“, schreibt Charlie. „In diesem Umfeld werden diese neuen technischen Tools zu mehr als nur Realitätsverwischern: Sie sind Chaos-Agenten und bieten neue Möglichkeiten für Bestätigungsverzerrungen, unabhängig davon, ob sie tatsächlich verwendet werden oder nicht.“
— Damon BeresChefredakteur
Kate Middleton und das Ende der Shared Reality
Von Charlie Warzel
Wenn Sie auf der Suche nach einem Bild sind, das die Verwirrung und das Chaos einer Informationsdystopie, bei der Sie Ihre eigene Realität wählen, perfekt zur Geltung bringt, könnten Sie wahrscheinlich nichts Besseres finden als das gestrige Porträt von Catherine, Prinzessin von Wales. Innerhalb nur eines Tages hat sich das Foto von einem hastig veröffentlichten Stück PR-Schadensbegrenzung in eine Art Rorschach-Test verwandelt – eine Kollision zwischen Plausibilität und Verschwörung.
Für die Uneingeweihten: Gestern, zur Feier des Muttertags in Großbritannien, veröffentlichte die königliche Familie auf Instagram ein Porträt von Kate Middleton mit ihren drei Kindern. Aber das war kein gewöhnliches Foto. Berichten zufolge ist Middleton seit Dezember wegen nicht näher bezeichneter gesundheitlicher Probleme aus der Öffentlichkeit verschwunden, was zu einer endlosen Parade von Verschwörungstheorien geführt hat. Königliche Beobachter und Nachrichtenagenturen haben sich natürlich intensiv mit dem Bild beschäftigt und dabei eine Reihe alarmierender Besonderheiten entdeckt. Laut Associated Press „zeigt das Foto eine Unstimmigkeit in der Ausrichtung der linken Hand von Prinzessin Charlotte“ – für mich sieht es so aus, als würde ein Teil des Ärmels der Prinzessin verschwinden. Solche Kuriositäten reichten aus, um AP, Agence France-Presse und Reuters dazu zu veranlassen, Tötungsmeldungen zu veröffentlichen – Warnungen, dass die Nachrichtendienste das Foto nicht mehr verbreiten würden. Die AP stellte fest, dass das Foto offenbar „manipuliert“ worden sei.
Lesen Sie den vollständigen Artikel.
Was Sie als Nächstes lesen sollten
- Was tun gegen die Junkifizierung des Internets?: „Social-Media-Unternehmen bestimmen, wie Milliarden von Menschen das Internet erleben“, schreibt Nathaniel Lubin. „Der Aufstieg synthetischer Inhalte macht ihre Rolle nur noch wichtiger.“
- Warum wir der sanften Gedankenkontrolle der KI widerstehen müssen: „Als ich herauszufinden versuchte, wie das Gemini-Tool von Google denkt, entdeckte ich stattdessen, wie es mich denken lassen will“, schreibt Fred Bauer.
- Wir haben nicht die schlimmsten Fake News gesehen: „Deepfakes sind möglicherweise immer noch bereit, die grundlegende Art und Weise zu korrumpieren, wie wir die Realität verarbeiten – oder was davon übrig bleibt“, schreibt Matteo Wong.
PS
KI könnte eine Rolle dabei spielen, wie Social-Media-Unternehmen im Vorfeld der Wahlen ihre Plattformen überwachen. „Meta hat damit begonnen, große Sprachmodelle anhand seiner Community-Richtlinien zu trainieren, um sie möglicherweise dazu zu nutzen, festzustellen, ob ein Inhalt gegen seine Richtlinien verstößt“, schrieb meine Kollegin Caroline Mimbs Nyce letzte Woche in einem Artikel über die Schritte, die Technologieunternehmen unternehmen könnten um den politischen Extremismus einzudämmen. „Die jüngsten Fortschritte in der KI wirken sich jedoch in beide Richtungen aus; Sie ermöglichen es schlechten Akteuren auch, gefährliche Inhalte einfacher zu erstellen, was die Autoren dazu veranlasste [a recent NYU report on online disinformation] KI als weitere Bedrohung für den nächsten Wahlzyklus zu kennzeichnen.“
– Damon