Dieser Artikel ist Teil des On Tech-Newsletters. Sie können Hier anmelden um es wochentags zu erhalten.
Warum tun wir das, wenn wir in heftige Auseinandersetzungen mit unseren Nachbarn auf Facebook oder in politisch aufgeladene YouTube-Videos verwickelt sind? Das ist die Frage, die mein Kollege Cade Metz uns und den Unternehmen hinter unseren Lieblings-Apps stellen möchte.
Cades jüngster Artikel handelt von Caolan Robertson, einem Filmemacher, der mehr als zwei Jahre lang dazu beigetragen hat, Videos mit rechtsextremen YouTube-Persönlichkeiten zu machen, von denen er sagt, dass sie absichtlich provokativ und konfrontativ waren – und oft täuschend bearbeitet wurden.
Cades Berichterstattung ist eine Gelegenheit, uns schwierige Fragen zu stellen: Ermutigen die Belohnungen der Internet-Aufmerksamkeit die Menschen, das brandgefährlichste Material zu veröffentlichen? Wie sehr sollten wir dem vertrauen, was wir online sehen? Und neigen wir dazu, nach Ideen zu suchen, die unseren Ärger schüren?
Shira: Wie viel Schuld verdient YouTube für Leute wie Robertson, die Videos machen, die Konflikte und soziale Spaltungen betonen – und in einigen Fällen manipuliert wurden?
Cade: Es ist schwierig. In vielen Fällen wurden diese Videos populär, weil sie die Vorurteile einiger Menschen gegenüber Einwanderern oder Muslimen bestätigten.
Aber Caolan und die YouTube-Persönlichkeiten, mit denen er zusammengearbeitet hat, haben auch gelernt, wie man Konflikte spielt oder erfindet. Sie konnten sehen, dass diese Art von Videos sie auf YouTube und anderen Websites auffiel. Und die automatisierten Empfehlungen von YouTube haben auch viele Leute zu diesen Videos geschickt und Caolan dazu ermutigt, mehr davon zu tun.
Einer der Führungskräfte von Facebook vor kurzem schriebZum Teil, dass sein Unternehmen meistens nicht daran schuld ist, Menschen zu provokativem und polarisierendem Material zu drängen. Das ist genau das, was die Leute wollen. Was denkst du?
Es gibt alle möglichen Dinge, die unsere Neigung zu sensationellen oder empörenden Dingen verstärken, einschließlich Talk-Radio, Kabelfernsehen und sozialen Medien. Aber es ist unverantwortlich zu sagen, dass manche Menschen so sind. Wir alle müssen eine Rolle spielen, um nicht das Schlimmste der menschlichen Natur zu schüren, und dazu gehören auch die Unternehmen, die hinter den Apps und Websites stehen, auf denen wir unsere Zeit verbringen.
Ich habe in meiner Berichterstattung über Technologien für künstliche Intelligenz viel darüber nachgedacht. Menschen versuchen zu unterscheiden, was Menschen tun und was Computer tun, als wären sie völlig getrennt. Sie sind nicht. Menschen entscheiden, was Computer tun, und Menschen verwenden Computer auf eine Weise, die ihre Arbeit verändert. Das ist ein Grund, warum ich über Caolan schreiben wollte. Er nimmt uns hinter den Vorhang, um die Kräfte zu sehen – sowohl der menschlichen Natur als auch des technischen Designs -, die beeinflussen, was wir tun und wie wir denken.
Was sollen wir dagegen tun?
Ich denke, das Wichtigste ist, darüber nachzudenken, was wir wirklich online sehen und tun. Wenn ich Angst bekomme, denke ich über neue Technologien nach, einschließlich Deepfakes, die gefälschtes, irreführendes oder empörendes Material in viel größerem Maßstab erzeugen können, als es Menschen wie Caolan jemals könnten. Es wird noch schwieriger zu wissen, was echt ist und was nicht.
Ist es nicht auch gefährlich, wenn wir lernen, etwas zu misstrauen, was wir sehen?
Ja. Einige Leute in der Technologie glauben, dass das wirkliche Risiko von Deepfakes darin besteht, dass Menschen lernen, alles nicht zu glauben – auch was wirklich ist.
Wie steht Robertson dazu, YouTube-Videos zu machen, von denen er glaubt, dass sie polarisierte und irregeführte Menschen sind?
In gewisser Weise bereut er, was er getan hat, oder will sich zumindest davon distanzieren. Aber er verwendet jetzt im Wesentlichen die Taktik, die er angewendet hat, um rechtsgerichtete Videos zu erstellen, um linksgerichtete Videos zu erstellen. Er macht auf der einen politischen Seite dasselbe wie auf der anderen.