Einer der größten Bereiche, die es zu beobachten gilt, wird natürlich die generative KI sein, insbesondere wie sie soziale Medien, politische Kampagnen und den Kampf gegen Fehlinformationen bei Wahlen verändert. Dieses Zusammentreffen von neuen Technologien und großen Wahlen findet auch statt, während die Social-Media-Branche große Veränderungen durchmacht, darunter Veränderungen in den Moderationsansätzen, Rechtsstreitigkeiten, Kürzungen bei Vertrauens- und Sicherheitsteams und Plattformumstrukturierungen.
Dies alles dürfte, gelinde gesagt, die Zukunft des Kampfes gegen Fehlinformationen trüben. Es ist ein Thema, das meine Kollegen und ich sehr ernst nehmen und in der Vergangenheit ausführlich behandelt haben. Und kürzlich verfasste der ehemalige Google-Chef Eric Schmidt im MIT Technology Review einen Kommentar, in dem er darlegt, was er als „Paradigmenwechsel für Social-Media-Plattformen“ bezeichnet:
Die Rolle von Facebook und anderen hat unser Verständnis von sozialen Medien als zentralisierte, globale „öffentliche Stadtplätze“ mit einem nie endenden Strom an Inhalten und reibungslosem Feedback geprägt. Doch das Chaos auf Im Streben nach Wachstum haben sich Plattformen die Verstärkung von Emotionen durch aufmerksamkeitsgesteuerte Algorithmen und empfehlungsbasierte Feeds zu eigen gemacht.
Aber das hat den Nutzern die Entscheidungsfreiheit genommen (wir haben keine Kontrolle darüber, was wir sehen) und hat uns stattdessen Gespräche voller Hass und Zwietracht sowie eine wachsende Epidemie psychischer Probleme unter Teenagern hinterlassen … Jetzt, da die KI damit beginnt Da soziale Medien noch giftiger werden, müssen Plattformen und Regulierungsbehörden schnell handeln, um das Vertrauen der Nutzer zurückzugewinnen und unsere Demokratie zu schützen.
Anschließend stellt Schmidt einen Sechs-Punkte-Plan vor, dem Social-Media-Unternehmen folgen können, um der aktuellen Situation gerecht zu werden. Ich habe mich gefreut, als er erwähnte, wie wichtig Provenienzinformationen sind, über die ich bereits einige Male geschrieben habe. Es ist ein aufschlussreicher und nützlicher Artikel, dessen Lektüre ich Ihnen unbedingt ans Herz legen möchte!
Dies ist der letzte Technokrat des Jahres 2023 und ich werde im Januar wieder in Ihrem Posteingang sein. In der Zwischenzeit werden wir in den nächsten Wochen weitere Geschichten darüber veröffentlichen, was die Technologie im Jahr 2024 erwartet, also halten Sie Ausschau danach. Und wenn Sie ein paar vergangene Geschichten nachholen möchten, die Sie vielleicht verpasst haben, hier sind nur einige meiner Favoriten von meinen Kollegen im Jahr 2023:
Was ich diese Woche lese
Was ich diese Woche gelernt habe
Laut einer neuen Studie der gemeinnützigen Organisationen AI Forensics und AlgorithmWatch hat der Bing AI-Chatbot von Microsoft, der in Microsoft Copilot umbenannt wurde, Wahlinformationen in einem Drittel der Fälle falsch verstanden. Will Oremus schreibt in der Washington Post, dass die Studienergebnisse „Befürchtungen verstärken, dass die heutigen KI-Chatbots zu Verwirrung und Fehlinformationen im Zusammenhang mit künftigen Wahlen beitragen könnten, da Microsoft und andere Technologiegiganten darum kämpfen, sie in alltägliche Produkte, einschließlich der Internetsuche, zu integrieren.“ Hier ist eine Erinnerung daran, sich bei Nachrichten nicht auf generative KI zu verlassen!