Diese Technologie wird nicht eingedämmt.
Das ist atlantisch Intelligence, eine achtwöchige Serie, in der Der Atlantik’Die führenden Vordenker von AI zum Thema KI werden Ihnen helfen, die Komplexität und Chancen dieser bahnbrechenden Technologie zu verstehen. (Hat Ihnen jemand diesen Newsletter weitergeleitet? Melden Sie sich hier an.)
Anfang dieser Woche habe ich ChatGPT gefragt, wie man einen Luftbefeuchter reinigt. Dann, frustriert über die Antwort, bat ich das Unternehmen, einen weniger anspruchsvollen Luftbefeuchter zu entwickeln. Das tat es. Aber als ich die KI aufforderte, die Kosten für ein solches Gerät zu schätzen – ein paar hundert Dollar im oberen Preissegment –, beschloss ich, mit dem ursprünglich vorgeschlagenen 30-minütigen Einweichen in weißem Essig zu leben. Die ganze Erfahrung war schnell, einfach und hatte den angenehmen Reiz des Einfallsreichtums: Ich hatte das Gefühl, an einem kreativen Prozess teilgenommen zu haben, anstatt nur etwas nachzuschlagen.
Das Problem ist jedoch, dass ich nie das Gefühl habe, den Ergebnissen eines Chatbots vertrauen zu können. Sie neigen dazu, Dinge zu erfinden und Fakten zu verfälschen. Diese Mängel sind im Kontext einer eigenständigen Website wie ChatGPT schon schlimm genug, aber generative KI breitet sich im Internet aus. In einem neuen Artikel schreibt meine Kollegin Caroline Mimbs Nyce darüber, wie von generativer KI verfasste Inhalte die Google-Suche stören und zu unsinnigen Antworten auf einige grundlegende Fragen führen. Dies ist ein Beweis dafür, dass die Technologie nicht eingedämmt werden kann – dass sie die Welt auf überraschende Weise verändern kann, und zwar nicht immer zum Besseren.
— Damon
Die KI-Suche wird zum Problem, über das sich alle Sorgen machen
Von Caroline Mimbs Nyce
Es gibt keine einfache Möglichkeit, die Summe des Wissens von Google zu erklären. Es wird ständig erweitert. Endlos. Ein wachsendes Netz von Hunderten Milliarden Websites, mehr Daten, als selbst 100.000 der teuersten iPhones zusammengenommen jemals speichern könnten. Aber im Moment kann ich Folgendes sagen: Google ist sich nicht sicher, ob es ein afrikanisches Land gibt, das mit dem Buchstaben beginnt k.
Ich habe die Suchmaschine gebeten, es zu benennen. „Was ist ein afrikanisches Land, das mit K beginnt?“ Als Reaktion darauf hat die Website eine „Featured Snippet“-Antwort erstellt – einen dieser Textabschnitte, den Sie direkt auf der Ergebnisseite lesen können, ohne zu einer anderen Website navigieren zu müssen. Es beginnt so: „Obwohl es in Afrika 54 anerkannte Länder gibt, beginnt keines davon mit dem Buchstaben ‚K‘.“
Das ist falsch. Im Text heißt es weiter: „Am nächsten kommt Kenya, das mit einem ‚K‘-Laut beginnt, tatsächlich aber mit einem ‚K‘-Laut geschrieben wird. Es ist immer interessant, solche neuen Trivia-Fakten zu erfahren.“
Wenn man bedenkt, wie unsinnig diese Antwort ist, überrascht es Sie vielleicht nicht, zu hören, dass das Snippet ursprünglich von ChatGPT geschrieben wurde. Aber Sie werden vielleicht überrascht sein, wie es zu einer hervorgehobenen Antwort in der herausragenden Wissensdatenbank des Internets wurde.
Lesen Sie den vollständigen Artikel.
Was Sie als Nächstes lesen sollten
Die jüngsten Probleme von Google sind ein Zeichen dafür, dass der von einigen Experten erwartete Moment gekommen ist: Medien, die durch generative KI erstellt werden, füllen das Internet in einem solchen Ausmaß, dass einst zuverlässige Tools zu versagen beginnen. Im Moment sind die Auswirkungen gering – aber in den drei unten aufgeführten Geschichten untersuchen wir die viel größeren Herausforderungen, die als nächstes auf uns zukommen könnten.
- Bereiten Sie sich auf die Textpokalypse vor: Die Ära der generativen KI könnte eine Ära endlosen, überladenen Spams sein, schreibt Matthew Kirschenbaum.
- Verschwörungstheorien haben einen neuen besten Freund: Generative KI-Programme wie ChatGPT drohen die Art und Weise, wie Desinformation online verbreitet wird, zu revolutionieren, schreibt Matteo Wong.
- Wir haben nicht die schlimmsten Fake News gesehen: Sogenannte Deepfakes, bei denen ein KI-Programm verwendet wird, um das Gesicht einer Person über das einer anderen zu legen, um irreführende Medien zu erstellen, sind seit Jahren ein Problem. Jetzt sei die Technologie sowohl zugänglicher als auch leistungsfähiger, stellt Matteo fest.
PS
Ich möchte Sie mit einer lockeren Bemerkung verlassen: Laut einer aktuellen Geschichte von Jacob Sweet könnten Burritos genau das Richtige sein, um die Roboterapokalypse zu stoppen. 🌯
– Damon