Ein weiteres bahnbrechendes generatives künstliches Intelligenz-Tool des Unternehmens hinter ChatGPT, das am Donnerstag vorgestellt wurde, dürfte die Verbreitung von Deepfake-Videos beschleunigen und Auswirkungen auf praktisch jede Branche haben.
Sora, eine KI-Anwendung, die schriftliche Eingabeaufforderungen aufnimmt und in Originalvideos umwandelt, ist bereits so leistungsfähig, dass ein KI-Experte sagt, dass es ihn „in Angst und Schrecken versetzt“.
„Generative KI-Tools entwickeln sich so schnell weiter, und wir haben soziale Netzwerke – was zu einer Achillesferse in unserer Demokratie führt und es hätte zu keinem schlechteren Zeitpunkt passieren können“, sagte Oren Etzioni, Gründer von TruMedia.org, gegenüber CBS MoneyWatch. Die gemeinnützige Organisation, die sich der Bekämpfung KI-basierter Desinformation in politischen Kampagnen widmet, konzentriert sich auf die Identifizierung manipulierter Medien, darunter sogenannte Deepfake-Videos.
„Während wir versuchen, das zu klären, stehen wir vor einer der folgenreichsten Wahlen in der Geschichte“, fügte er mit Blick auf die Präsidentschaftswahlen 2024 hinzu.
Sora-Hersteller OpenAI geteilt einen Teaser seines Text-zu-Video-Modells auf
Das Tool ist noch nicht öffentlich verfügbar. OpenAI hat seine Nutzung vorerst auf „Red Teamer“ und einige bildende Künstler, Designer und Filmemacher beschränkt, um das Produkt zu testen und dem Unternehmen Feedback zu geben, bevor es breiter veröffentlicht wird.
Sicherheitsexperten werden das Tool bewerten, um zu verstehen, wie es möglicherweise Fehlinformationen und hasserfüllte Inhalte erzeugen könnte, sagte OpenAI.
Landung bald
Laut Etzioni, der davon überzeugt ist, dass KI für immer und unter Einhaltung von Leitplanken eingesetzt werden sollte, scheinen Fortschritte in der Technologie die Kontrollen und Abwägungen dieser Art von Werkzeugen überholt zu haben.
„Wir versuchen, dieses Flugzeug zu bauen, während wir es fliegen, und es wird spätestens im November landen – und wir haben keine Federal Aviation Administration, wir haben nicht die Geschichte und wir haben keine.“ Wir müssen über die nötigen Werkzeuge verfügen, um dies zu tun“, sagte er.
Etzioni sagte, er sei zuversichtlich, dass Sora oder eine ähnliche Technologie eines OpenAI-Konkurrenten in den kommenden Monaten der Öffentlichkeit zugänglich gemacht werde.
Natürlich kann neben Prominenten auch jeder normale Bürger von einem Deepfake-Betrug betroffen sein.
“Und [Sora] wird es böswilligen Akteuren noch einfacher machen, qualitativ hochwertige Video-Deepfakes zu erstellen, und ihnen mehr Flexibilität bei der Erstellung von Videos geben, die für anstößige Zwecke verwendet werden könnten“, sagte Dr. Andrew Newell, wissenschaftlicher Leiter des Identitätsüberprüfungsunternehmens iProov, gegenüber CBS MoneyWatch.
Dies stellt Organisationen wie Banken in die Pflicht, ihre eigenen KI-basierten Tools zu entwickeln, um Verbraucher vor potenziellen Bedrohungen zu schützen.
Banken, die auf Sicherheitsmaßnahmen zur Videoauthentifizierung setzen, seien am stärksten gefährdet, fügte er hinzu.
Bedrohung für Schauspieler und Schöpfer
Die Fähigkeiten des Tools stehen in engem Zusammenhang mit den Fähigkeiten der Mitarbeiter bei der Erstellung von Inhalten, einschließlich Filmemachen, Medien und mehr.
„Am unmittelbarsten betroffen sein werden Synchronsprecher oder Leute, die kurze Videos für Videospiele, Bildungszwecke oder Werbung machen“, sagte er.
„Für Berufe wie Marketing oder Kreativität könnten multimodale Modelle bahnbrechend sein und zu erheblichen Kosteneinsparungen für Film- und Fernsehmacher führen und zur Verbreitung von KI-generierten Inhalten anstelle des Einsatzes von Schauspielern beitragen“, sagt Reece Hayden, leitender Analyst bei ABI Research, ein Tech-Intelligence-Unternehmen, sagte gegenüber CBS MoneyWatch.
Da es für jeden – auch für diejenigen ohne künstlerische Fähigkeiten – einfacher ist, visuelle Inhalte zu erstellen, könnte Sora Benutzern die Möglichkeit geben, Medien im Stil eines eigenen Abenteuers zu entwickeln.
Sogar ein großer Player wie „Netflix könnte es Endbenutzern ermöglichen, ihre eigenen Inhalte auf der Grundlage von Eingabeaufforderungen zu entwickeln“, sagte Hayden.