Die Macher von ChatGPT haben eine unheimliche KI enthüllt, die die menschliche Stimme mit nur einem 15-Sekunden-Sample klonen kann, wobei Chefs behaupten, sie könnten „emotionale und realistische“ Sprache erzeugen.
Das Unternehmen räumt jedoch ein, dass die Technologie für den öffentlichen Einsatz zu riskant sei, da in diesem Jahr weltweit Dutzende Parlamentswahlen stattfinden.
OpenAI hat bereits gezeigt, dass seine Technologie schnell Texte, Bilder und neuerdings auch Videos generieren kann.
Das Unternehmen für künstliche Intelligenz stellte am Freitag seine neue Voice Engine-Technologie vor, etwas mehr als eine Woche nach der Einreichung einer Markenanmeldung für den Namen.
Experten befürchten, dass die Technologie zum Klonen von Stimmen auch dazu genutzt werden könnte, Wähler in die Irre zu führen, sich als Kandidaten auszugeben und Wahlen zu untergraben.
LESEN SIE MEHR: Die meisten Lehrer denken, dass KI trotz Rishi Sunaks Antrieb zu „ungenau“ ist, um sie einzusetzen
Das Unternehmen sagt, es entscheide sich vorerst „für eine Vorschau, aber keine breite Veröffentlichung dieser Technologie“.
„Wir hoffen, dass diese Vorschau von Voice Engine sowohl sein Potenzial unterstreicht als auch die Notwendigkeit motiviert, die Widerstandsfähigkeit der Gesellschaft gegenüber den Herausforderungen zu stärken, die durch immer überzeugendere generative Modelle entstehen“, schrieb OpenAI in einem Blogbeitrag.
„Wir sind uns bewusst, dass die Erzeugung von Reden, die den Stimmen der Menschen ähneln, ernsthafte Risiken birgt, die im Wahljahr besonders im Vordergrund stehen.“
Das Unternehmen betonte außerdem, dass sich die ersten Voice Engine-Tester darauf geeinigt hätten, sich nicht ohne deren Zustimmung als eine Person auszugeben und die Menschen zu benachrichtigen, wenn die Stimmen, die sie hören, von KI erzeugt werden.
Das Unternehmen, das vor allem für seinen Chatbot und den Bildgenerator DALL-E bekannt ist, verfolgte einen ähnlichen Ansatz, als es seinen Videogenerator Sora ankündigte, aber nicht allgemein veröffentlichte.
Eine am 19. März eingereichte Markenanmeldung zeigt jedoch, dass OpenAI wahrscheinlich darauf abzielt, in das Geschäft mit Spracherkennung und digitalen Sprachassistenten einzusteigen. Letztendlich könnte die Verbesserung dieser Technologie OpenAI dabei helfen, mit anderen Sprachprodukten wie Amazons Alexa zu konkurrieren.