Instagram bietet seinen Nutzern endlich Schutz vor unerwünschten Fotos und fordert diejenigen, die sie senden, auf, sie so schnell wie möglich zu löschen.
Die Meta-eigene App veröffentlicht ein Tool namens „Nacktheitsschutz“, das über Direktnachrichten (DMs) empfangene Nacktfotos unkenntlich macht.
Es verwendet KI, um männliche oder weibliche Genitalien in gesendeten Fotos automatisch zu identifizieren, bevor es sie verdeckt, ähnlich einer Technologie, die bereits in Dating-Apps vorhanden ist.
Der Empfänger hat jedoch immer noch die Möglichkeit, das Foto richtig anzutippen und zu sehen, selbst wenn er erst 13 Jahre alt ist – was eine Kinderhilfsorganisation als „völlig unzureichend“ bezeichnet hat.
Bei Instagram muss jeder mindestens 13 Jahre alt sein, wenn er einen Account erstellen möchte – was von Experten und der Öffentlichkeit bereits als viel zu jung kritisiert wird.
Instagram bietet Nutzern endlich Schutz vor unerwünschten D***-Bildern und „Flap-Snaps“ in Direktnachrichten (Aktenfoto)
In einer Erklärung sagte Meta, dass Instagram-DMs „überwiegend“ harmlos zum Versenden von Nachrichten und Fotos an Freunde und Familie verwendet würden.
Das unaufgeforderte Versenden eines Fotos von Genitalien stellt jedoch einen „Intimbildmissbrauch“ dar.
Darüber hinaus können „Sextortion-Betrüger“, die intime Bilder erhalten, damit drohen, diese weiterzugeben, es sei denn, der unglückliche Absender zahlt ein Lösegeld.
Laut einer Untersuchung von Anfang des Jahres werden täglich 100 Kinder Opfer von Sextortion-Betrügereien in den sozialen Medien, darunter auch der 16-jährige Junge, der sich das Leben nahm.
„Um dieses Problem anzugehen, werden wir bald mit dem Testen unserer neuen Nacktheitsschutzfunktion in Instagram-DMs beginnen, die Bilder, bei denen Nacktheit festgestellt wurde, unkenntlich macht und Menschen dazu anregt, zweimal darüber nachzudenken, bevor sie Nacktbilder senden“, sagt Meta.
Laut Meta, das dem Milliardär Mark Zuckerberg gehört, soll das neue Tool in den kommenden Monaten eingeführt werden.
Der Nacktheitsschutz wird weltweit standardmäßig für Benutzer im Alter von 13 bis 17 Jahren aktiviert. Instagram zeigt Benutzern ab 18 Jahren jedoch eine Benachrichtigung an, in der sie aufgefordert werden, ihn ebenfalls zu aktivieren.
Wenn der Nacktschutz aktiv ist und jemand ein Nacktfoto erhält, wird das Foto automatisch ausgeblendet – der Empfänger hat jedoch die Möglichkeit, auf „Foto anzeigen“ zu tippen.
Sie sehen dann das Foto stark unscharf und erhalten die Warnmeldung „Foto könnte Nacktheit enthalten“ – und können dann auf „Foto anzeigen“ tippen, um es unscharf zu sehen.
Wenn jemand ein Bild mit Nacktheit erhält, wird dieses automatisch durch einen Warnbildschirm unscharf gemacht, sodass der Empfänger nicht mit einem Nacktbild konfrontiert wird und er entscheiden kann, ob er es ansehen möchte oder nicht. Auf Instagram wird ihnen außerdem eine Nachricht angezeigt, in der sie aufgefordert werden, sich nicht unter Druck gesetzt zu fühlen, zu antworten
„Um Hilfe bitten“: Instagram präsentiert eine Reihe von Sicherheitstipps für Nutzer, die ein Nacktfoto erhalten oder versenden. Der Absender könnte möglicherweise Opfer einer Sextortion-Betrugsmasche werden
Anschließend zeigt Instagram dem Empfänger eine Popup-Nachricht an, in der er darauf hingewiesen wird, dass er sich nicht „unter Druck gesetzt fühlen sollte, auf die Person zu antworten“, die das Nacktfoto gesendet hat.
Sie können auch auf tippen, um den Absender zu blockieren und den Chat zu melden, oder auf eine andere Schaltfläche tippen, um weitere Sicherheitstipps anzuzeigen.
Und wenn sie versuchen, ein Nacktbild, das sie erhalten haben, weiterzuleiten, sehen sie eine Nachricht, die sie dazu auffordert, es sich noch einmal zu überlegen.
Für die Person, die den Akt sendet, wird der Prozess anders sein.
Dank der automatischen KI-Nackterkennungstechnologie wird das Foto im Chat auch für sie unscharf, der Absender erhält jedoch eine andere Popup-Nachricht.
Die Nachricht lautet: „Seien Sie vorsichtig, wenn Sie vertrauliche Fotos teilen. Andere können Screenshots Ihrer Fotos machen oder diese weiterleiten, ohne dass Sie es wissen.“
Dadurch können sie das Nacktfoto auch zurückziehen, wenn sie es sich anders überlegt haben, ihnen wird jedoch mitgeteilt, dass „die Möglichkeit besteht, dass andere es bereits gesehen haben“.
Sie erhalten außerdem die Möglichkeit, die Sicherheitstipps einzusehen, die unter Anleitung von Experten entwickelt wurden, sagte Meta.
Meta verwendet eine Ende-zu-Ende-Verschlüsselung, die sicherstellt, dass nur die beiden Teilnehmer des Chats Nachrichten sehen können – was es laut einigen Experten für Pädophile einfacher macht, von den Strafverfolgungsbehörden unentdeckt zu bleiben.
Dies sehen Benutzer, die ein Nacktfoto gesendet haben, wenn der Nacktheitsschutz aktiviert ist. Eine Nachricht weist sie darauf hin, beim Versenden „sensibler Fotos“ vorsichtig zu sein und ermöglicht es ihnen, das Foto nicht mehr zu senden, wenn sie es sich anders überlegt haben – aber „es besteht die Möglichkeit, dass andere es bereits gesehen haben“.
Jeder, der versucht, ein erhaltenes Nacktbild weiterzuleiten, erhält eine Nachricht, die ihn zum Umdenken auffordert
Die britische Kinderhilfsorganisation NSPCC sagte, die Ende-zu-Ende-Verschlüsselung auf Meta-Plattformen wie WhatsApp und Messenger bedeute, dass das neue Instagram-Tool „völlig unzureichend“ sei.
„Mehr als 33.000 Bilddelikte wegen sexuellen Kindesmissbrauchs wurden im vergangenen Jahr von der britischen Polizei registriert, wobei mehr als ein Viertel über die Dienste von Meta stattfand“, sagte Rani Govender, Senior Policy Officer bei NSPCC.
„Meta argumentiert seit langem, dass die Unterbindung des sexuellen Missbrauchs von Kindern in Ende-zu-Ende-verschlüsselten Umgebungen die Privatsphäre schwächen würde, aber diese Maßnahmen zeigen, dass ein Gleichgewicht zwischen Sicherheit und Privatsphäre gefunden werden kann.“
„Die neuen Maßnahmen werden jedoch völlig unzureichend sein, um Kinder vor Schaden zu schützen, und müssen viel weiter gehen, um Kindesmissbrauch zu bekämpfen.“
„Es ist jetzt unvorstellbar, dass Meta weiterhin den Weg beschreitet und durch die Entscheidung, eine Ende-zu-Ende-Verschlüsselung ohne Schutzmaßnahmen für Kinder einzuführen, vorsätzlich die Fähigkeit verliert, Missbrauch zu erkennen und zu unterbinden.“
„Ein echtes Zeichen ihres Engagements für den Schutz von Kindern wäre, die Ende-zu-Ende-Verschlüsselung auszusetzen, bis sie Ofcom und der Öffentlichkeit ihre Pläne zum Einsatz von Technologie zur Bekämpfung des häufigen sexuellen Kindesmissbrauchs auf ihren Plattformen mitteilen können.“
Instagram hat eine strikte Richtlinie gegen das Posten von Nacktfotos im Hauptelement der App – dem Foto-Feed –, obwohl diese Richtlinie offenbar nicht für DMs gilt.
Es beinhaltet das Verbot von Fotos und Videos weiblicher Brustwarzen, macht aber Ausnahmen für Frauen, die „aktiv stillen“.
Bedauerlicherweise haben mehrere OnlyFans-Stars diese Lücke ausgenutzt, um Videos von Puppen zu posten, die an ihre entblößten Brüste gehalten werden und so tun, als würden sie stillen.
Nutzer kritisierten Instagram dafür, das Problem nicht bemerkt zu haben, und einer meinte, es sei eine „komplette Verhöhnung von Müttern überall“.
Anfang dieses Jahres hat Instagram endlich damit begonnen, Beiträge zu verbergen, die Kindern ernsthaften Schaden zufügen können, darunter solche im Zusammenhang mit Selbstmord, Selbstverletzung und Essstörungen.
Es folgt ernsthaften Bedenken hinsichtlich der Auswirkungen sozialer Apps auf Jugendliche, darunter die 14-jährige Instagram-Nutzerin Molly Russell, die sich 2017 das Leben nahm.