Die Arbeit von Integritätsteams bietet eine andere Lösung. Wir mögen jetzt im Rampenlicht stehen, aber wir haben eine lange Geschichte in der Branche. Wir haben viel aus Ansätzen zur Spambekämpfung in E-Mails oder Suchmaschinen gelernt und viele Konzepte aus der Computersicherheit übernommen.
Eine der besten Strategien für Integrität, die wir gefunden haben, besteht darin, einige Reibungsverluste in der realen Welt in die Online-Interaktionen zurückzubringen. Ich werde mich auf zwei Beispiele konzentrieren, um dies zu erklären, aber es gibt noch viel mehr solcher Mechanismen, wie Begrenzungen der Gruppengröße, ein Karma- oder Reputationssystem (wie Googles PageRank), ein Indikator für die Nachbarschaft, aus der du stammst, Strukturen für immer Konversation und eine weniger leistungsfähige Share-Schaltfläche. Lassen Sie uns zunächst über zwei Ideen sprechen, die Integritätsarbeiter entwickelt haben: Wir nennen sie Fahrprüfungen und Geschwindigkeitsbegrenzungen.
Erstens müssen wir es den Leuten erschweren, gefälschte Konten zu haben. Stellen Sie sich vor, jemand könnte, nachdem er wegen eines Verbrechens festgenommen wurde, aus dem Gefängnis kommen und sich perfekt als ganz neuer Mensch verkleiden. Stellen Sie sich vor, es wäre unmöglich zu sagen, ob Sie mit einer Gruppe von Leuten sprechen oder mit einer Person, die sich schnell verkleidet. Dieser Mangel an Vertrauen ist nicht gut. Gleichzeitig müssen wir bedenken, dass pseudonyme Konten nicht immer schlecht sind. Vielleicht ist die Person hinter dem Pseudonym ein schwuler Teenager, der nicht auf Familie aus ist, oder ein Menschenrechtsaktivist, der unter einem repressiven Regime lebt. Wir müssen nicht alle gefälschten Konten sperren. Aber wir können ihre Kosten erhöhen.
Eine Lösung ist analog dazu, dass man in vielen Ländern erst dann Auto fahren kann, wenn man die Bedienung unter Aufsicht erlernt und eine Fahrprüfung bestanden hat. Ebenso sollten neue Konten nicht sofort auf alle Funktionen einer App zugreifen können. Um die Funktionen freizuschalten, die anfälliger sind (Spam, Belästigung usw.), muss ein Konto möglicherweise einige Kosten an Zeit und Mühe zahlen. Vielleicht braucht es nur Zeit zum „Reifen“. Vielleicht muss es in einem Karma-System genug guten Willen haben. Vielleicht muss es ein paar Dinge tun, die schwer zu automatisieren sind. Erst wenn sich das Konto durch diese „Fahrprüfung“ qualifiziert hat, wird ihm der Zugriff auf den Rest der App anvertraut.
Spammer könnten natürlich durch diese Reifen springen. Tatsächlich erwarten wir, dass sie es tun. Schließlich wollen wir es den legitimen Nutzern von Fake-Accounts nicht zu schwer machen. Indem wir jedoch einige Anstrengungen unternehmen, um eine neue „Verkleidung“ zu erstellen, bringen wir etwas Physik wieder in die Gleichung ein. Drei Fake-Accounts könnten überschaubar sein. Aber Hunderte oder Tausende würden zu schwer durchzuziehen.
Online kommt der schlimmste Schaden fast immer von den Power-Usern. Dies ist ziemlich intuitiv zu verstehen – soziale Apps ermutigen ihre Mitglieder im Allgemeinen, so viel wie möglich zu posten. Power-User können dies viel häufiger und für verschiedene Zielgruppen und mehr gleichzeitig tun, als dies im wirklichen Leben möglich ist. In alten Städten sind die Kosten für eine Person, die Schaden anrichtet, durch das physische Bedürfnis einer bestimmten Person begrenzt, an einem Ort zu sein oder gleichzeitig mit einem Publikum zu sprechen. Dies ist online nicht der Fall.
Online sind einige Aktionen durchaus vernünftig, wenn sie in Maßen durchgeführt werden, aber sie werden verdächtig, wenn sie in großen Mengen durchgeführt werden. Denken Sie daran, zwei Dutzend Gruppen gleichzeitig zu erstellen, tausend Videos pro Stunde zu kommentieren oder einen ganzen Tag lang jede Minute zu posten. Wenn wir sehen, dass Leute eine Funktion zu oft verwenden, denken wir, dass sie wahrscheinlich etwas tun, das mit einer unsicheren Geschwindigkeit vergleichbar ist. Wir haben eine Lösung: die Geschwindigkeitsbegrenzung. Sperren Sie sie für eine Weile davon aus, das zu tun. Hier gibt es kein Werturteil – es ist keine Bestrafung, es ist ein Sicherheitsmerkmal. Solche Maßnahmen wären eine einfache Möglichkeit, die Sicherheit für alle zu erhöhen und gleichzeitig nur einem kleinen Teil der Menschen Unannehmlichkeiten zu bereiten.