OpenAI gab bekannt, dass es den Zugriff auf seinen neuesten Text-zu-Bild-Generator, DALL-E 3, erweitert, indem es ChatGPT Plus- und Enterprise-Kunden die Nutzung des KI-Systems innerhalb der ChatGPT-App ermöglicht.
DALL-E 3 AI-Bildgenerator
DALL-E 3, das letzten Monat erstmals vorgestellt wurde, nutzt die Funktionen zur Verarbeitung natürlicher Sprache von ChatGPT, um Bilder aus detaillierten Textaufforderungen der Benutzer zu erstellen.
Das neue System zielt darauf ab, das bisherige DALL-E 2-Modell von OpenAI durch verbesserte visuelle Details, schärfere Bilder und Reaktionsfähigkeit auf ausführliche Eingabeaufforderungsbeschreibungen zu verbessern.
Microsoft war letzten Monat die erste große Plattform, die DALL-E 3 durch Integrationen mit Bing Search und Bing Chat öffentlich bereitstellte.
Einige problematische Inhalte schlüpften jedoch zunächst durch die Inhaltsfilter des Systems, darunter Bilder kontroverser 9/11-Szenarien.
OpenAI gibt an, seitdem die Sicherheitsmaßnahmen und die Aufsicht für DALL-E 3 verbessert zu haben.
OpenAI erklärt in einer Ankündigung:
„Wir verwenden ein mehrstufiges Sicherheitssystem, um die Fähigkeit von DALL·E 3 einzuschränken, potenziell schädliche Bilder zu erzeugen, einschließlich gewalttätiger, nicht jugendfreier oder hasserfüllter Inhalte. Sicherheitsüberprüfungen durchlaufen Benutzeraufforderungen und die daraus resultierenden Bilder, bevor sie den Benutzern angezeigt werden.“
Darüber hinaus sagte das Unternehmen, dass neue Maßnahmen ergriffen wurden, um Ausgaben zu begrenzen, die den Stil bestimmter Künstler oder Persönlichkeiten des öffentlichen Lebens nachahmen.
KI-Bilddetektor
OpenAI entwickelt einen internen „Herkunftsklassifikator“, der mit einer Genauigkeit von über 99 % erkennen kann, ob ein Bild von DALL-E 3 generiert wurde.
Text- und Bilderzeugungssysteme wie DALL-E stehen vor der ständigen Herausforderung, urheberrechtlich geschützte Inhalte zu reproduzieren, nicht einvernehmliche intime Bilder zu erzeugen und Vorurteile aufrechtzuerhalten.
OpenAI wird die Sicherheit von DALL-E 3 durch Benutzerfeedback und fachkundige Anleitung weiter verbessern.
Vorausschauen
Die Einführung von DALL-E 3 für ChatGPT-Abonnenten stellt eine wesentliche Erweiterung der öffentlich verfügbaren KI-Bilderzeugungsfunktionen dar.
Während OpenAI behauptet, Fortschritte bei den Sicherheitspraktiken für dieses neueste Modell zu machen, bestehen weiterhin Risiken in Bezug auf schädliche Inhalte und Verletzungen des geistigen Eigentums.
In Zukunft wird die Notwendigkeit einer branchenweiten Zusammenarbeit bei der KI-Ethik und der Festlegung angemessener Vorschriften nur noch zunehmen.
Ausgewähltes Bild: Bartek Winnicki/Shutterstock