Deepfake-Identitätsdiebstahl steht vor unserer Haustür
Gefälschte KI-Bilder und -Videos werden kaum mehr von echten Bildern zu unterscheiden sein, da die Technologie hinter Deepfakes voranschreitet, sagt ein Berkeley-Professor der University of California.
- Der Senat von Minnesota hat einen Gesetzentwurf verabschiedet, der die Verbreitung bestimmter Deepfakes illegal machen würde, da die Technologie der künstlichen Intelligenz heute einfacher zu nutzen ist als je zuvor.
- Nach der Minnesota-Maßnahme würden Menschen kriminalisiert, wenn sie ohne Zustimmung KI-generierte Bilder verbreiten, die Pornografie und politische Fehlinformationen enthalten, die einem politischen Kandidaten schaden oder eine Wahl beeinflussen können.
- Um Gesetz zu werden, muss die Maßnahme ein Konferenzkomitee durchlaufen und vom Gouverneur von Minnesota, Tim Walz, unterzeichnet werden.
In einer fast einstimmigen Abstimmung verabschiedeten die Abgeordneten des Senats von Minnesota am Mittwoch einen Gesetzentwurf, der Personen kriminalisieren würde, die nicht einvernehmlich Deepfake-Sexbilder anderer teilen, sowie Personen, die Deepfakes teilen, um einen politischen Kandidaten zu verletzen oder eine Wahl zu beeinflussen.
Deepfakes sind Videos und Bilder, die digital erstellt oder mit künstlicher Intelligenz oder maschinellem Lernen verändert wurden. Seit sie sich vor einigen Jahren erstmals im Internet verbreitete, wurden mit dieser Technologie Deepfake-Pornografie und politische Fehlinformationen erstellt. Diese Technologie ist jetzt einfacher zu nutzen als je zuvor.
Der Gesetzentwurf würde es Staatsanwälten ermöglichen, Personen für die Verbreitung von Deepfakes mit einer Gefängnisstrafe von bis zu fünf Jahren und einer Geldstrafe von 10.000 US-Dollar anzuklagen. Um Gesetz zu werden, muss der Gesetzentwurf noch einen Konferenzausschuss durchlaufen und vom demokratischen Gouverneur Tim Walz unterzeichnet werden.
KI REGULIEREN? Die Republikaner sind viel skeptischer als die Demokraten, dass die Regierung es richtig machen kann: Umfrage
Nur ein Abgeordneter stimmte am Mittwoch gegen den Gesetzentwurf.
„Die Sorge, die ich habe, ist nur die zivilrechtliche Strafe. Ich möchte sie höher sehen“, sagte der republikanische Senator Nathan Wesenberg aus Little Falls im Senat, bevor er gegen den Gesetzentwurf stimmte.
Befürworter sagten, der Gesetzentwurf sei modern und notwendig.
Tim Walz, Gouverneur von Minnesota, spricht am 3. April 2023 in Fridley. Der Senat des Bundesstaates hat einer Maßnahme zugestimmt, die Personen kriminalisieren würde, die KI-generierte Bilder verbreiten, die politische Fehlinformationen und nicht einvernehmliche sexuell eindeutige Inhalte enthalten. Um Gesetz zu werden, müsste der Gesetzentwurf einen Konferenzausschuss durchlaufen und von Walz unterzeichnet werden. (Stephen Maturen/Getty Images)
„Wir müssen alle Minnesotaner schützen, die Opfer derjenigen werden könnten, die Technologie oder künstliche Intelligenz nutzen wollen, um jemanden zu bedrohen, zu belästigen oder … zu demütigen“, sagte der republikanische Senator Eric Lucero aus St. Michael zur Unterstützung.
Eine kleine Handvoll anderer Staaten haben ähnliche Gesetze zur Bekämpfung von Deepfakes verabschiedet, sagte die demokratische Senatorin Erin Maye Quade, die Abgeordnete aus Apple Valley, die sich für den Gesetzentwurf einsetzte. Zu diesen Staaten gehören Texas, Kalifornien und Virginia.
OPENAI schlägt freiwillige KI-Standards und keine Regierungsmandate vor, um die Sicherheit der KI zu gewährleisten
„Ich denke, wir sind auf Bundes- und Landesebene wirklich im Rückstand“, was Datenschutz und Technologieregulierung betrifft, sagte Maye Quade. „Allein die Fortschritte in der KI-Technologie zu beobachten, selbst im letzten Jahr, hat mich wirklich beunruhigt, dass wir noch nichts vorbereitet haben.“
In einem Video vom Januar sprach Präsident Joe Biden über Panzer. Doch eine manipulierte Version des Videos verzeichnete in dieser Woche Hunderttausende Aufrufe in den sozialen Medien, was den Anschein erweckte, als hätte er eine Rede gehalten, in der er Transgender-Personen angriff.
KLICKEN SIE HIER, UM DIE FOX NEWS-APP ZU ERHALTEN
Experten für digitale Forensik sagten, das Video sei mit einer neuen Generation von Tools für künstliche Intelligenz erstellt worden, die es jedem ermöglichen, mit wenigen Klicks schnell Audio zu erzeugen, das die Stimme einer Person simuliert. Und auch wenn es dem Biden-Clip in den sozialen Medien nicht gelungen ist, die meisten Nutzer zu täuschen, zeigte der Clip, wie einfach es für Menschen mittlerweile ist, hasserfüllte und mit Desinformation gefüllte Deepfake-Videos zu erstellen, die in der realen Welt Schaden anrichten könnten.
Einige Social-Media-Unternehmen haben ihre Regeln verschärft, um ihre Plattformen besser vor Deepfakes zu schützen.
TikTok sagte im März, dass alle Deepfakes oder manipulierten Inhalte, die realistische Szenen zeigen, mit dem Hinweis gekennzeichnet werden müssen, dass sie gefälscht oder in irgendeiner Weise verändert sind, und dass Deepfakes von Privatpersonen und Jugendlichen nicht mehr erlaubt sind. Zuvor hatte das Unternehmen sexuell eindeutige Inhalte und Deepfakes verboten, die Zuschauer über reale Ereignisse in die Irre führen.