In dieser Geschichte geht es um Selbstmord. Wenn Sie oder jemand, den Sie kennen, Selbstmordgedanken hat, wenden Sie sich bitte an die Suicide & Crisis Lifeline unter 988 oder 1-800-273-TALK (8255).
Die Abhängigkeit eines Unternehmens von künstlicher Intelligenz zur Verhinderung von Sextortion-Betrügereien führt zu einem KI-gegen-KI-Konflikt zwischen Kriminellen und „Guten“.
Nach Angaben des FBI ist die Zahl der Sextortion-Fälle zwischen Februar 2022 und Februar 2023 um 322 % gestiegen. Das FBI gab kürzlich bekannt, dass es seit April einen weiteren deutlichen Anstieg gegeben habe.
Unschuldige Strandbilder oder Bilder von Männern mit nacktem Oberkörper im Fitnessstudio können in sexuell eindeutige, KI-generierte „Deepfakes“ verwandelt werden, die als Waffe gegen in Panik geratene und verlegene Teenager und Jugendliche eingesetzt werden.
Die Fälle haben zu einer alarmierenden Zahl von Selbstmorden von Opfern geführt, sagen Experten, aber KI-gestützte Technologie kann alles erkennen, was sie als „sexuell explizit“ erachtet, und verhindern, dass es jemals ans Licht kommt.
KI-„DEEPFAKES“ UNSCHULDLICHER BILDER SCHÜTZEN SEXTORTIONSBETRUG ZU EINEM SPITZEN: FBI
Eine Darstellung des „berechneten“ Charakters Jo, erstellt mit künstlicher Intelligenz. (OneDoor Studios)
Yaron Litwin, Geschäftsführer von Canopy, hat eine KI-Software entwickelt, die verhindert, dass diese Art von Bildern – selbst unschuldige Badeanzugfotos vom Strand – versendet werden, und die Eltern alarmiert.
„Unsere Technologie ist eine KI-Plattform, die über 14 Jahre entwickelt wurde … und Bilder mit Video und einem Bild in Sekundenbruchteilen erkennen kann“, sagte Litwin gegenüber Fox News Digital.
„Die Plattform selbst filtert auch in Echtzeit jedes explizite Bild heraus, während Sie auf einer Website oder in einer App surfen, und verhindert wirklich, dass viel Pornografie online erscheint.“
GESETZGEBER ENTHÜLLT DIE GEFAHREN DER „SEXTORTION“ NACH DEM Selbstmord eines jugendlichen Sohnes
Dabei handelt es sich im Wesentlichen um eine zusätzliche Schutzebene, die naive Kinder und Jugendliche davon abhält, auch nur unschuldige Bilder oder Videos weiterzugeben, die Kriminelle gegen sie verwenden könnten.
„Wir nennen es gerne KI für immer“, sagte Litwin. „Es ist eine Möglichkeit, unsere Kinder zu schützen.“
Die Abhängigkeit eines Unternehmens von künstlicher Intelligenz zur Verhinderung von Sextortion-Betrügereien führt zu einem KI-gegen-KI-Konflikt zwischen Kriminellen und „Guten“. (iStock)
Er sagte, sie würden auch mit dem FBI zusammenarbeiten, um Material über sexuellen Missbrauch zu filtern und den Ermittlern Werkzeuge an die Hand zu geben, um die psychische Gesundheit des FBI-Agenten zu schützen, damit er sich nicht ein verstörendes Bild/Video nach dem anderen ansehen muss.
„Es besteht keine Notwendigkeit, dies manuell zu tun“, sagte Litwin. „In Sekundenbruchteilen kann die KI dabei helfen, zu erkennen, ob es sich um unzulässiges Material handelt, mit dem sie es zu tun haben.“
WER BEOBACHTET DICH? KI kann ahnungslose Opfer mit „Einfachheit und Präzision“ verfolgen: Experten
Dies ist ein vereinfachtes Beispiel für den laufenden Schachkampf, dem KI-Entwickler und -Benutzer gegenüberstehen werden, wenn die Technologie voranschreitet und immer weiter verbreitet und verbreitet wird.
Litwin sagte, sein Unternehmen erforsche, wie man zwischen „echten“ Bildern und KI-generierten Fälschungen unterscheiden könne.
Was ist Sextortion?
Das FBI beschreibt Sextortion als ein Verbrechen, bei dem „Opfer dazu gezwungen werden, sexuell eindeutige Fotos oder Videos von sich selbst zur Verfügung zu stellen, und dann damit gedroht wird, diese öffentlich oder mit der Familie und den Freunden des Opfers zu teilen.“
„Böswillige Akteure nutzen Technologien und Dienste zur Inhaltsmanipulation, um Fotos und Videos – typischerweise aus dem Social-Media-Konto einer Person, aus dem offenen Internet aufgenommen oder vom Opfer angefordert – in sexuell thematisierte Bilder umzuwandeln, die naturgetreu wie ein Opfer aussehen. Verbreiten Sie sie dann in sozialen Medien, öffentlichen Foren oder auf pornografischen Websites“, sagte das FBI in einer PSA vom 5. Juni.
„Viele Opfer, darunter auch Minderjährige, wussten nicht, dass ihre Bilder kopiert, manipuliert und verbreitet wurden, bis sie von jemand anderem darauf aufmerksam gemacht wurden.“ Laut den neuesten FBI-Zahlen aus diesem Jahr wurden im ganzen Land mindestens ein Dutzend Selbstmorde im Zusammenhang mit Sextortion gemeldet.
SEHEN SIE SICH DAS INTERVIEW MIT DER EXPERTIN ALICIA KOZAK AN
Viele Opfer seien Männer im Alter zwischen 10 und 17 Jahren, obwohl es Opfer bereits im Alter von sieben Jahren gab, sagte das FBI. Auch Mädchen wurden ins Visier genommen, die Statistiken zeigen jedoch, dass mehr Jungen zu Opfern wurden.
Letzten Juli erhielt der 17-jährige Gavin Guffey eines Abends auf Instagram eine Nachricht von jemandem, der sich als Mädchen ausgab, und das Paar begann, sich darüber zu unterhalten Social-Media-App im Besitz von Facebooks Muttergesellschaft Meta.
Monat der Selbstmordprävention: Wie drei Organisationen persönliche Verluste in Selbstmordpräventionsbemühungen verwandelt haben
Diese Person überzeugte Gavin, in ihrem Instagram-Chat den „Verschwinden-Modus“ zu aktivieren, der es ermöglicht, dass Nachrichten verschwinden, nachdem sie empfangen wurden. Anschließend teilten sie Fotos, seinen Vater, South Carolina Der republikanische Abgeordnete Brandon Guffey sagte gegenüber Fox News Digital in einem früheren Interview.
Das führte zu Geldforderungen und eskalierte, bis Gavin seinem Leben ein Ende setzte.
Vater spricht über den Verlust seines Sohnes nach Sextortionsbetrug
Sextortion ist nichts Neues, aber die Zahl der Fälle boomt seit der Pandemie. Von 2021 bis 2022 verzeichnete das FBI einen Anstieg der gemeldeten Sextortion-Fälle um 463 %, und jetzt haben Open-Source-KI-Tools den Prozess für Kriminelle vereinfacht, so das FBI.
Und wie das Büro feststellt, erzählen die gemeldeten Zahlen nicht die ganze Geschichte, weil viele Opfer Scham empfinden und keine Anzeige erstatten, sodass die Zahl der Fälle tatsächlich viel höher sein könnte.
Finden Sie Hilfe bei der Bewältigung einer „beängstigenden Situation“
Michelle DeLaune, Präsidentin und CEO des National Center for Missing & Exploited Children, sagte in einer früheren Erklärung, dass junge Opfer dieses Verbrechens „das Gefühl haben, dass es keinen Ausweg gibt“.
„Aber wir möchten, dass sie wissen, dass sie nicht allein sind. Im vergangenen Jahr hat das National Center for Missing & Exploited Children mehr als 10.000 Berichte im Zusammenhang mit Sextortion erhalten“, sagte DeLaune dieses Jahr. „Bitte sprechen Sie mit Ihren Kindern darüber, was zu tun ist, wenn sie (oder ihre Freunde) online ins Visier genommen werden. NCMEC verfügt über kostenlose Ressourcen, die ihnen helfen, eine überwältigende und beängstigende Situation zu meistern.“
KLICKEN SIE HIER, UM DIE FOX NEWS-APP ZU ERHALTEN
NCMEC bietet außerdem einen kostenlosen Dienst namens „Take It Down“ an, der Opfern dabei hilft, sexuell eindeutige Bilder oder Videos zu entfernen oder die Online-Weitergabe zu stoppen.
Die Website ist: https://takeitdown.ncmec.org/.
Das FBI bietet Empfehlungen zum Teilen von Inhalten im Internet sowie Ressourcen für Erpressungsopfer unter https://www.ic3.gov/Media/Y2023/PSA230605/.
Das FBI fordert die Opfer außerdem dringend auf, Ausbeutung zu melden, indem sie sich an die örtliche FBI-Außenstelle unter der Rufnummer 1-800-CALL-FBI (1-800-225-5324) wenden oder sie online unter Tips.fbi.gov/ melden.