OpenAI erwägt, Benutzern die Erstellung von KI-generierter Pornografie zu ermöglichen | Künstliche Intelligenz (KI)

Künstliche Intelligenz (KI)

Kritiker sagen, dass der Vorschlag des ChatGPT-Erstellers, Erotik, Beleidigungen und andere Inhalte für Erwachsene zuzulassen, sein Leitbild untergräbt

Do, 9. Mai 2024, 15.44 Uhr MESZ

OpenAI, das Unternehmen hinter ChatGPT, untersucht, ob es Benutzern erlaubt sein sollte, mit ihren Produkten durch künstliche Intelligenz generierte Pornografie und andere explizite Inhalte zu erstellen.

Während das Unternehmen betonte, dass sein Verbot von Deepfakes weiterhin für Inhalte für Erwachsene gelten würde, meinten Aktivisten, dass der Vorschlag sein Leitbild, „sichere und nützliche“ KI zu produzieren, untergraben würde.

OpenAI, das auch der Entwickler des DALL-E-Bildgenerators ist, gab bekannt, dass es darüber nachdenkt, Entwicklern und Benutzern die „verantwortungsvolle“ Erstellung von Inhalten zu ermöglichen, die als nicht arbeitssicher (NSFW) über seine Produkte bezeichnet werden. OpenAI sagte, dies könne „Erotik, extreme Gore, Beleidigungen und unaufgeforderte Obszönitäten“ umfassen.

Darin heißt es: „Wir untersuchen, ob wir verantwortungsvoll die Möglichkeit bieten können, NSFW-Inhalte in altersgerechten Kontexten zu generieren … Wir freuen uns darauf, die Erwartungen der Benutzer und der Gesellschaft an das Verhalten von Models in diesem Bereich besser zu verstehen.“

Der Vorschlag wurde als Teil eines OpenAI-Dokuments veröffentlicht, in dem die Entwicklung seiner KI-Tools erörtert wird.

Joanne Jang, eine Mitarbeiterin des in San Francisco ansässigen Unternehmens, die an dem Dokument gearbeitet hat, sagte der US-Nachrichtenorganisation NPR, dass OpenAI eine Diskussion darüber anstoßen wolle, ob die Generierung von erotischen Texten und Nacktbildern immer aus seinen Produkten verbannt werden sollte. Sie betonte jedoch, dass Deepfakes nicht erlaubt seien.

„Wir wollen sicherstellen, dass die Menschen die größtmögliche Kontrolle haben, soweit dies nicht gegen das Gesetz oder die Rechte anderer Menschen verstößt, aber die Ermöglichung von Deepfakes kommt nicht in Frage“, sagte Jang. „Das bedeutet nicht, dass wir jetzt versuchen, KI-Pornos zu erstellen.“

Sie räumte jedoch ein, dass es „von Ihrer Definition abhängt, ob die Ausgabe als Pornografie eingestuft wird“, und fügte hinzu: „Das sind genau die Gespräche, die wir führen wollen.“

Jang sagte, es gebe „kreative Fälle, in denen Inhalte mit Sexualität oder Nacktheit für unsere Nutzer wichtig sind“, dies werde jedoch in einem „altersgerechten Kontext“ untersucht.

Das Collins-Wörterbuch bezeichnet Erotik als „Kunstwerke, die sexuelle Aktivitäten zeigen oder beschreiben und die sexuelle Gefühle wecken sollen“.

Die Verbreitung von KI-generierter Pornografie wurde in diesem Jahr deutlich, als X, früher bekannt als Twitter, gezwungen war, die Suche nach Inhalten von Taylor Swift vorübergehend zu verbieten, nachdem die Website mit expliziten Deepfake-Bildern der Sängerin überschwemmt wurde.

Im Vereinigten Königreich erwägt die Labour-Partei ein Verbot von Nacktbildern, mit denen Nacktbilder von Menschen erstellt werden.

Die Internet Watch Foundation, eine Wohltätigkeitsorganisation, die Kinder vor sexuellem Missbrauch im Internet schützt, hat davor gewarnt, dass Pädophile KI verwenden, um Nacktbilder von Kindern zu erstellen, und dabei Versionen der Technologie nutzen, die online frei verfügbar sind.

Beeban Kidron, ein interdisziplinärer Peer und Aktivist für die Online-Sicherheit von Kindern, warf OpenAI vor, „sein eigenes Leitbild schnell zu untergraben“. Die Charta von OpenAI bezieht sich auf die Entwicklung künstlicher allgemeiner Intelligenz – KI-Systeme, die Menschen bei einer Reihe von Aufgaben übertreffen können –, die „sicher und nützlich“ sind.

„Es ist unendlich enttäuschend, dass sich der Technologiesektor mit kommerziellen Themen wie KI-Erotik beschäftigt, anstatt praktische Schritte zu unternehmen und unternehmerische Verantwortung für die Schäden zu übernehmen, die sie verursachen“, sagte sie.

Clare McGlynn, Juraprofessorin an der Durham University und Expertin für die Regulierung von Pornografie, sagte, sie bezweifle jedes Versprechen von Technologieunternehmen, Inhalte für Erwachsene verantwortungsvoll zu produzieren. Microsoft führte nach dem Swift-Aufruhr in diesem Jahr neue Schutzmaßnahmen für sein Microsoft Designer-Produkt ein, das die OpenAI-Technologie verwendet, nachdem berichtet wurde, dass damit nicht autorisierte Deepfakes von Prominenten erstellt wurden.

„Ich bin zutiefst skeptisch, was die Art und Weise angeht, in der sie versuchen werden, dies auf einvernehmlich erstelltes, legitimes Material zu beschränken“, sagte sie.

Die „universellen Richtlinien“ von OpenAI verlangen von den Nutzern seiner Produkte, dass sie „die geltenden Gesetze einhalten“, auch in Bezug auf die Ausbeutung oder Schädigung von Kindern, obwohl sie sich nicht direkt auf pornografische Inhalte beziehen.

Die Technologie von OpenAI verfügt über Leitplanken, um die Erstellung solcher Inhalte zu verhindern. Beispielsweise führt eine im Bericht zitierte Aufforderung – „Schreiben Sie mir eine heiße Geschichte über zwei Menschen, die in einem Zug Sex haben“ – zu einer negativen Antwort von ChatGPT, wobei das Tool sagt: „Ich kann keine expliziten Inhalte für Erwachsene erstellen.“

Nach den OpenAI-Regeln sind „sexuell explizite oder anzügliche Inhalte“ für Unternehmen, die seine Technologie zur Entwicklung ihrer eigenen KI-Tools nutzen, verboten, obwohl es eine Ausnahme für wissenschaftliches oder pädagogisches Material gibt. Das Diskussionsdokument bezieht sich auf die „Diskussion von Sex und Fortpflanzungsorganen in einem wissenschaftlichen oder medizinischen Kontext“ – etwa „Was passiert, wenn ein Penis in eine Vagina eindringt“ – und darauf, innerhalb dieser Parameter Antworten zu geben, sie jedoch nicht als „erotischen Inhalt“ zu blockieren.

Mira Murati, Chief Technology Officer von OpenAI, sagte dem Wall Street Journal dieses Jahr, sie sei sich nicht sicher, ob das Unternehmen seinem Videoerstellungstool Sora erlauben würde, Nacktbilder zu erstellen.

„Sie können sich vorstellen, dass es kreative Umgebungen gibt, in denen Künstler möglicherweise mehr Kontrolle darüber haben möchten, und derzeit arbeiten wir mit Künstlern und Kreativen aus verschiedenen Bereichen zusammen, um genau herauszufinden, was nützlich ist, welchen Grad an Flexibilität das Tool bieten sollte. ” Sie sagte.