Die potenziellen Betrüger verwendeten einen Sprachklon von Benedict Cumberbatch
Eine Filmproduktionsfirma wurde von Betrügern ins Visier genommen, indem sie einen von KI erstellten Sprach-„Klon“ von Benedict Cumberbatch nutzten, wie das Unternehmen gegenüber DailyMail.com verriet.
„Ein unheimlich überzeugender Benedict Cumberbatch rief das Unternehmen an, um einen Filmvertrag zu besprechen“, sagt Bob William, Drehbuchautor und Regisseur bei Peabody Films, einem Unternehmen mit Sitz in Malaga, Spanien.
Die KI Cumberbatch sei „zu 100 Prozent die Stimme“, sagt Herr William und fügt hinzu, dass das Unternehmen zunächst davon überzeugt war, dass es der eigentliche Schauspieler sei.
Als „Cumberbatch“ und sein Agent sich weigerten, sich persönlich zu treffen, erkannten sie den Trick und retteten sich vor Geldverlusten.
Aber viele andere sind auf ähnliche Betrügereien hereingefallen, da KI die Tür für neue Tools öffnet, mit denen Kriminelle Geld von ahnungslosen Menschen stehlen können.
Das technische Personal von Peabody Films erkannte, dass der Anruf aus Philadelphia kam (Peabody Films).
„Zuerst schien die E-Mail ein wahrgewordener Traum zu sein. „Benedict Cumberbatch hatte offenbar das Drehbuch für unseren kommenden Film gelesen und war daran interessiert, eine mögliche Rolle zu besprechen“, sagte Herr William.
„Als wir weiter lasen, konnten wir unser Glück kaum fassen.
„Hier war einer der talentiertesten Schauspieler unserer Zeit, der sich an uns wandte und Interesse an unserem Projekt zeigte.“
„Wir waren schockiert und enttäuscht, als wir herausfanden, dass wir Opfer eines KI-Programms geworden waren, das sich als berühmter Schauspieler ausgab.“
Der Regisseur sagt, es sei ein „Beispiel für die zunehmende Verfeinerung der KI-Technologie und ihr Potenzial zur Täuschung“.
Herr William sagte, dass ihnen zunächst jemand eine E-Mail geschickt habe, der behauptete, der Agent des Avengers-Stars zu sein, und der dann vorschlug, einen Anruf zu vereinbaren.
Er erkannte, dass es sich um einen Betrug handelte, als die Nummer, von der aus er angerufen hatte, zu viele Ziffern zu haben schien – und der falsche „Cumberbatch“ sich auch nur sehr ungern persönlich traf.
Die Technologie, die Stimmen anderer Menschen nachzuahmen, gibt es bereits – und wird bereits von Betrügern genutzt.
Das Cybersicherheitsunternehmen McAfee hat herausgefunden, dass in den USA, Großbritannien, Frankreich, Deutschland, Japan, Australien und Indien zehn Prozent der Menschen Opfer eines KI-Sprachbetrugs geworden sind.
Sie zeigen auch eine bemerkenswerte Wirksamkeit: 78 Prozent derjenigen, die Berichten zufolge ins Visier genommen wurden, haben dadurch Geld verloren.
Anfang des Jahres demonstrierten Microsoft-Forscher ein Text-to-Speech-KI-Modell, das die Stimme eines jeden aus einem dreisekündigen Audiobeispiel synthetisieren kann.
Das Modell VALL-E kann den emotionalen Ton des Sprechers bewahren und die Person dazu bringen, alles zu sagen – seine Entwickler schlagen vor, dass es zur Erstellung von Audioinhalten verwendet werden kann, die von anderen KI-Modellen geschrieben wurden.
Der gefälschte „Cumberbatch“ habe zu 100 Prozent überzeugt, sagte Herr William.
„Es war die Stimme. Keine Frage“, fuhr er fort.
„KI muss die Quelle gewesen sein.“ Zuerst dachten wir, es könnte ein Synchronsprecher sein, der einen Scherz spielt – aber dann ging es weiter und sie fingen an, Geld zu verlangen. ‘
Das Unternehmen führte mehrere Gespräche mit „Cumberbatch“, bemerkte dann aber „einige Warnsignale“, sagt William – einschließlich seiner Abneigung gegen ein persönliches Treffen.
„Es gab auch einige seltsame Anfragen, wie zum Beispiel die Aufforderung, eine Anmeldegebühr von 200.000 Pfund zu zahlen, bevor wir uns überhaupt persönlich treffen konnten.“
William sagt, er habe den falschen Agenten herausgefordert, wo er das Drehbuch für den kommenden Film „Emma“ gesehen habe, das nicht weit verbreitet war.
Die Frage wurde nicht einmal zur Kenntnis genommen.
Als er die Telefonzentrale des echten Unternehmens anrief, fragte er nach James Hayes – ihm wurde jedoch mitgeteilt, dass niemand mit diesem Namen für das Unternehmen arbeite.
William sagt, er glaube, dass er ins Visier genommen wurde, weil sie als kleine Produktionsfirma nicht über die Ressourcen verfügten, die Details zu überprüfen.
Er sagt, er werde nun das Unternehmen benachrichtigen, von dem der mutmaßliche Agent angeblich stamme – Conway VanGelder – und er erwäge, den Angriff der Polizei zu melden.
KI-generierte gefälschte Bilder und Audiodaten werden bereits in großem Umfang bei Geschäftsbetrug eingesetzt, sagte KI- und Betrugsexperte Alexey Khitrov, Gründer und Präsident von ID R&D, im Gespräch mit DailyMail.com.
Er sagte: „Wir haben dort eine Umfrage mit den Unternehmensteilnehmern durchgeführt.“ Was wir gesehen haben, ist, dass 42 Prozent von ihnen den Einsatz von Deep Fakes bei Betrugsversuchen in ihrem Beruf gesehen haben. Es ist also real, es ist bereits da.’
Peabody Films ist eine unabhängige Produktionsfirma, die vom legendären britischen Filmregisseur Barney Platts-Mills gegründet wurde, der für preisgekrönte Filme wie Bronco Bullfrog und Private Road bekannt ist.
Seit Platts-Mills Tod im Jahr 2021 hat das Unternehmen Spielfilme produziert, darunter The Way We Are, The Way We Were, deren Veröffentlichung für 2024 geplant ist.