Russland wurde beschuldigt, gefälschte, von KI generierte Facebook- und Twitter-Konten von Ukrainern erstellt zu haben, „die ihr Land hassen“.
Die Konten, die inmitten des anhaltenden Konflikts in der Ukraine erstellt wurden, bestanden aus gefälschten ukrainischen Bloggern mit Profilbildern, die von künstlicher Intelligenz (KI) erstellt wurden.
Laut NBC wurden sie von zwei Desinformationsgruppen erstellt, die in Russland sowie in den von Russland dominierten Regionen Donbas und Krim in der Ukraine operieren.
Meta (das Unternehmen, dem Facebook gehört) hat anti-ukrainische Operationen von seinen Seiten entfernt (Aktenfoto)
Das von der KI generierte Foto von „Vladimir Bondarenko“ hat „seltsame Ohren“
Einer der gefälschten ukrainischen Blogger hieß Vladimir Bondarenko aus Kiew.der die ukrainische Regierung wirklich hasst“ und sogar eine ganze Hintergrundgeschichte hat.
„Er war Luftfahrtingenieur, bis er zum Bloggen gezwungen wurde, als die ukrainische Luftfahrtinfrastruktur „zusammenbrach“,“ sagte Ben Collins von NBC.
Eine weitere weibliche, von der KI geschaffene falsche Ukrainerin, Irina Kerimova aus Charkiw, war „eine private Gitarrenlehrerin“, bis sie Chefredakteurin einer russischen Propaganda-Website namens „Ukraine Today“ wurde.
Eine andere gefälschte Ukrainerin, Irina Kerimova aus Charkiw, hat nicht übereinstimmende Ohrringe – was darauf hindeutet, dass das Bild von der KI generiert wurde und dass sie nicht existiert
Sensity, ein Dienst, der betrügerische Dokumente erkennt, identifizierte die KI-Bilder ebenfalls als Deepfakes
Collins wies auf einige Mängel bei den KI-generierten Fotos der gefälschten Ukrainer hin, die angeblich von ThisPersonDoesNotExist.com stammen, einem Online-Tool, das zufällige falsche Gesichter generiert.
Zum Beispiel hat das Foto von Vladimir Bondarenko „seltsame Ohren“, während Irina Kerimova mit nicht passenden Ohrringen gezeigt wird.
Sensity, ein Dienst, der betrügerische Dokumente erkennt, identifizierte Berichten zufolge auch die KI-Bilder als Deepfakes.
Diese falschen Personen waren auf mehreren Plattformen präsent, darunter Facebook, Instagram, Twitter, YouTube, Telegram, Odnoklassniki und VK.
Twitter teilte NBC mit, dass es mehr als ein Dutzend Konten gesperrt hat, die Links zu Ukraine Today teilen, während Meta (das Unternehmen, dem Facebook gehört) seine Bemühungen in einem Blogbeitrag detailliert beschrieben hat.
Meta sagte, es habe ein relativ kleines Netzwerk von etwa 40 Konten, Seiten und Gruppen auf Facebook und Instagram aufgedeckt, das auf die Ukraine abzielt und diese gefälschten Profile hatte.
Die Firma sagte: „Wir haben diese Operation eingestellt, die gemeinsame Nutzung ihrer Domains auf unserer Plattform blockiert und Informationen mit anderen Technologieplattformen, Forschern und Regierungen geteilt.
„Diese fiktiven Personas verwendeten Profilbilder, die wahrscheinlich mit Techniken der künstlichen Intelligenz wie Generative Adversarial Networks (GAN) erstellt wurden.
„Sie behaupteten, in Kiew ansässig zu sein und gaben sich als Nachrichtenredakteure, ehemaliger Luftfahrtingenieur und Autor einer wissenschaftlichen Veröffentlichung über Hydrographie – die Wissenschaft der Kartierung von Wasser – aus.
„Diese Operation betrieb eine Handvoll Websites, die sich als unabhängige Nachrichtenagenturen tarnten und Behauptungen veröffentlichten, der Westen habe die Ukraine verraten und die Ukraine sei ein gescheiterter Staat.“
Die von der KI generierten Profile sind eigentlich nur eine von zwei Anti-Ukraine-Desinformationskampagnen, die Meta in Angriff genommen hat.
Während die von KI generierten Profile mit Russland verbunden sind, hat die andere Operation Verbindungen zu einer Hacking-Gruppe aus Weißrussland mit Verbindungen zur weißrussischen Regierung namens Ghostwriter. Weißrussland hat den Angriff auf die Ukraine unter der Führung des russischen Präsidenten Wladimir Putin unterstützt – unter anderem indem es den russischen Streitkräften erlaubte, wochenlange Militärübungen auf seinem Territorium durchzuführen.
Diese zweite belarussische Operation hackte sich in Konten von echten ukrainischen Journalisten, Beamten und anderen Persönlichkeiten „und veröffentlichte ein Video von Ukrainern, die eine weiße Flagge der Kapitulation schwenkten“, sagte Collins.
Nathaniel Gleicher, Leiter der Sicherheitspolitik von Meta, sagte: „Ghostwriter beginnen normalerweise damit, die E-Mails ihrer Ziele zu kompromittieren, und verwenden diese dann, um ihre anderen Konten zu übernehmen.
“Deshalb ist es so wichtig, die Zwei-Faktor-Authentifizierung zu aktivieren und einen Passwort-Manager zu verwenden, um die Wiederverwendung von Passwörtern im Internet zu vermeiden.”
Meta schaltete ein von Menschen in Russland und der Ukraine betriebenes Netzwerk ab, das auf die Ukraine abzielte, weil das Netzwerk gegen seine Richtlinie gegen „koordiniertes unauthentisches Verhalten“ verstieß (Aktenfoto)
Russlands anhaltender Angriff auf die Ukraine wurde vom russischen Präsidenten Wladimir Putin angeführt (Bild)
Laut Gleicher operierte die größere der beiden Desinformationsgruppen – die erste mit gefälschten KI-Profilen – in Russland sowie in den von Russland dominierten Donbass- und Krim-Regionen der Ukraine.
Gleicher sagte gegenüber NBC, dass die Propagandakampagne in der Lage war, „Geschichten im Internet zu verbreiten, dass es der Ukraine nicht gut gehe“, indem sie „vorgab, in Kiew ansässige Journalisten zu sein“.
„Die gute Nachricht ist, dass keine dieser Kampagnen so effektiv war, aber wir sehen, dass diese Akteure an diesem Punkt versuchen, die Ukraine ins Visier zu nehmen“, sagte Gleicher.
„Diese Akteure versuchen, das Vertrauen in die ukrainische Regierung zu untergraben, suggerieren, dass es sich um einen gescheiterten Staat handelt, deuten darauf hin, dass der Krieg in der Ukraine sehr schlecht läuft, oder versuchen, Russland zu loben.“