Dieser Artikel ist Teil des On Tech Newsletters. Hier ist eine Sammlung von vergangenen Spalten.
In einer Facebook-Gruppe für Gärtner markierten die automatisierten Systeme des sozialen Netzwerks Diskussionen über ein gängiges Gartenwerkzeug manchmal als unangemessene sexuelle Gespräche.
Facebook hat vor Jahren die Konten einiger Indianer eingefroren, weil seine Computer fälschlicherweise glaubten, Namen wie Lance Browneyes seien gefälscht.
Das Unternehmen lehnte wiederholt Anzeigen von Unternehmen ab, die Kleidung für Menschen mit Behinderungen verkaufen, meist in einer Verwechslung, bei der die Produkte mit medizinischer Werbung verwechselt wurden, was gegen seine Regeln verstößt.
Facebook, das sich in Meta umbenannt hat, und andere soziale Netzwerke müssen knifflige Entscheidungen treffen, um die Unterstützung der freien Meinungsäußerung in Einklang zu bringen und unerwünschtes Material wie Bilder von sexuellem Missbrauch von Kindern, gewalttätige Anstiftungen und Finanzbetrug fernzuhalten. Aber das ist in den obigen Beispielen nicht passiert. Das waren Fehler, die von einem Computer gemacht wurden, der nicht mit Nuancen umgehen konnte.
Soziale Netzwerke sind wichtige öffentliche Räume, die zu groß und schnelllebig sind, um von irgendjemandem effektiv verwaltet zu werden. Falsche Anrufe passieren.
Diese unspektakulären Fehler sind nicht so folgenreich wie die Entscheidung, ob Facebook den ehemaligen US-Präsidenten von seiner Website werfen soll. Aber normale Menschen, Unternehmen und Gruppen, die dem öffentlichen Interesse dienen, wie Nachrichtenorganisationen, leiden, wenn soziale Netzwerke ihre Konten sperren und sie keine Hilfe finden oder herausfinden können, was sie falsch gemacht haben.
Das kommt nicht oft vor, aber ein kleiner Prozentsatz von Fehlern bei der Größe von Facebook summiert sich. Das Wall Street Journal hat berechnet, dass Facebook pro Tag etwa 200.000 falsche Anrufe tätigen könnte.
Leute, die soziale Netzwerke recherchieren, sagten mir, dass Facebook – und seine Konkurrenten, obwohl ich mich hier auf Facebook konzentriere – viel mehr tun könnten, um weniger Fehler zu machen und den Schaden zu mindern, wenn es durcheinander kommt.
Die Fehler werfen auch eine größere Frage auf: Sind wir damit einverstanden, dass Unternehmen so wichtig sind, dass wir nicht viel tun können, wenn sie Fehler nicht beheben?
Die Kritiker des Unternehmens und das halbunabhängige Facebook Oversight Board haben wiederholt gesagt, dass Facebook es Benutzern, deren Beiträge gelöscht oder Konten deaktiviert wurden, erleichtern muss, zu verstehen, gegen welche Regeln sie verstoßen haben, und Berufung gegen Urteile einzulegen. Facebook hat einiges davon getan, aber nicht genug.
Die Forscher wollen auch in die Daten von Facebook eintauchen, um die Entscheidungsfindung zu analysieren und zu analysieren, wie oft es Fehler macht. Das Unternehmen neigt dazu, diese Idee als Eingriff in die Privatsphäre seiner Benutzer abzulehnen.
Facebook hat gesagt, dass es daran arbeitet, transparenter zu sein, und dass es Milliarden von Dollar für Computersysteme und Menschen ausgibt, um die Kommunikation in seinen Apps zu überwachen. Die Leute werden mit seinen Entscheidungen über Posts nicht einverstanden sein, egal was passiert.
Aber seine Kritiker sagen erneut, dass es nicht genug getan hat.
„Das sind berechtigterweise schwierige Probleme, und ich würde diese Kompromisse und Entscheidungen nicht eingehen wollen“, sagte Evelyn Douek, Senior Research Fellow am Knight First Amendment Institute an der Columbia University. „Aber ich glaube nicht, dass sie schon alles ausprobiert oder genug Ressourcen investiert haben, um zu sagen, dass wir die optimale Anzahl an Fehlern haben.“
Die meisten Unternehmen, die Fehler machen, müssen mit schwerwiegenden Konsequenzen rechnen. Facebook tut das selten. Ryan Calo, Professor an der juristischen Fakultät der University of Washington, verglich Facebook mit dem Abriss von Gebäuden.
Wenn Unternehmen Gebäude abreißen, können Trümmer oder Erschütterungen Eigentum beschädigen oder sogar Menschen verletzen. Calo sagte mir, dass die Gesetze in den USA Abbruchunternehmen aufgrund der inhärenten Risiken zu einem hohen Maß an Rechenschaftspflicht verpflichten. Die Firmen müssen Sicherheitsvorkehrungen treffen und eventuelle Schäden decken. Diese möglichen Folgen machen sie im Idealfall vorsichtiger.
Aber Calo sagte, dass Gesetze, die die Verantwortung im Internet regeln, nicht genug getan haben, um Unternehmen auch für den Schaden, den diese Informationen verursachen können, zur Rechenschaft zu ziehen oder sie einzuschränken.
„Es ist an der Zeit, damit aufzuhören, so zu tun, als wäre dies so anders als andere Arten von gesellschaftlichem Schaden“, sagte Calo.
Bevor wir gehen …
Umarmungen dazu
Dies Kiddo Schneeschaufeln ist erschöpft (TIEFES SEUFZEN) und will dir alles darüber erzählen.
Wir wollen von dir hören. Sagen Sie uns, was Sie von diesem Newsletter halten und was Sie uns sonst noch mit auf den Weg geben möchten. Sie erreichen uns unter [email protected].
Wenn Sie diesen Newsletter noch nicht in Ihrem Posteingang erhalten, bitte melde dich hier an. Sie können auch lesen vergangenen On Tech-Spalten.