Google gab am Donnerstag bekannt, dass es das Bildgenerierungstool seines Gemini-Chatbots „pausieren“ werde, nachdem es in den sozialen Medien weit verbreitet war, weil es „verschiedene“ Bilder erstellt habe, die weder historisch noch sachlich korrekt seien – etwa schwarze Wikinger, Päpste der amerikanischen Ureinwohner und NHL-Spielerinnen.
Benutzer bezeichneten Gemini als „absurd aufgeweckt“ und „unbrauchbar“, nachdem Anfragen, repräsentative Bilder für Themen wie Amerikas Gründerväter zu erstellen, zu bizarr revisionistischen Bildern führten.
„Wir arbeiten bereits daran, die jüngsten Probleme mit der Bildgenerierungsfunktion von Gemini zu beheben“, sagte Google in einer auf X veröffentlichten Erklärung. „Während wir dies tun, werden wir die Bildgenerierung von Personen anhalten und eine verbesserte Version erneut veröffentlichen.“ Version bald.
Beispiele hierfür waren ein KI-Bild eines schwarzen Mannes, der George Washington zu repräsentieren schien, komplett mit einer weiß gepuderten Perücke und einer Uniform der Kontinentalarmee, und einer südostasiatischen Frau in päpstlicher Kleidung, obwohl alle 266 Päpste im Laufe der Geschichte weiße Männer waren.
In einem schockierenden Beispiel, das von The Verge aufgedeckt wurde, schufen die Zwillinge sogar „verschiedene“ Darstellungen deutscher Soldaten aus der Nazizeit, darunter eine asiatische Frau und einen schwarzen Mann in Militärkleidung von 1943.
Google hatte zuvor zugegeben, dass das unberechenbare Verhalten des Chatbots behoben werden müsse.
„Wir arbeiten daran, diese Art von Darstellungen sofort zu verbessern“, sagte Jack Krawczyk, Senior Director of Product Management für Gemini Experiences bei Google, gegenüber The Post.
„Die KI-Bildgenerierung von Gemini generiert tatsächlich ein breites Spektrum an Menschen. Und das ist im Allgemeinen eine gute Sache, denn Menschen auf der ganzen Welt nutzen es. Aber hier fehlt das Ziel.“
Der Beitrag hat Google um weitere Kommentare gebeten.
Es war ein erheblicher Fehltritt für Google, das Anfang des Monats sein wichtigstes KI-Chatbot-Produkt unter dem Namen Gemini umbenannt und vielgepriesene neue Funktionen eingeführt hatte – einschließlich der Bildgenerierung.
Der Fehler kam auch Tage, nachdem OpenAI, das das beliebte ChatGPT betreibt, ein neues KI-Tool namens Sora eingeführt hatte, das Videos basierend auf den Texteingaben der Benutzer erstellt.
Da Google die Parameter, die das Verhalten des Gemini-Chatbots steuern, nicht veröffentlicht hat, ist es schwierig, eine klare Erklärung dafür zu bekommen, warum das Unternehmen verschiedene Versionen historischer Figuren und Ereignisse erfand.
Auf die Frage der Post, ihre Vertrauens- und Sicherheitsrichtlinien anzugeben, räumte Gemini ein, dass diese „aufgrund technischer Komplexität und Überlegungen zum geistigen Eigentum“ nicht öffentlich bekannt gegeben wurden.
Der Chatbot gab auch zu, dass ihm „Kritiken bekannt waren, wonach Gemini bei der Bildgenerierung der erzwungenen Vielfalt Vorrang eingeräumt haben könnte, was zu historisch ungenauen Darstellungen geführt hat“.
„Die Algorithmen hinter den Bilderzeugungsmodellen sind komplex und befinden sich noch in der Entwicklung“, sagte Gemini. „Es könnte für sie schwierig sein, die Nuancen des historischen Kontexts und der kulturellen Darstellung zu verstehen, was zu ungenauen Ergebnissen führt.“