Ungenaue KI-generierte Bilder von asiatischen Nazis, schwarzen Gründervätern und weiblichen Päpsten, die mit dem KI-Chatbot Gemini von Google erstellt wurden, seien „inakzeptabel“, sagte der CEO des Unternehmens.
Sundar Pichai, CEO von Google, reagierte auf die Bilder in einem Memo an die Mitarbeiter, indem er die Fotos als „problematisch“ bezeichnete und den Mitarbeitern mitteilte, dass das Unternehmen „rund um die Uhr“ daran arbeite, die Probleme zu beheben.
Nutzer kritisierten Gemini letzte Woche, nachdem die KI Bilder erzeugt hatte, die eine Reihe von Ethnien und Geschlechtern zeigten, auch wenn dies historisch gesehen ungenau war, und warfen Google eine anti-weiße Voreingenommenheit vor.
„Kein Al ist perfekt, insbesondere in dieser aufstrebenden Phase der Branchenentwicklung, aber wir wissen, dass die Messlatte für uns hoch liegt und wir werden daran festhalten, egal wie lange es dauert.“
„Und wir werden überprüfen, was passiert ist, und sicherstellen, dass wir das Problem in großem Maßstab beheben“, sagte Pichai.
Sundar Pichai, CEO von Google, reagierte in einem Memo an die Mitarbeiter auf die Bilder und bezeichnete die Fotos als „problematisch“.
Der KI-Chatbot Gemini von Google generierte historisch ungenaue Bilder von schwarzen Gründervätern
Sundar Pichai, CEO von Google, entschuldigte sich für die „problematischen“ Bilder, die schwarze Nazis und andere „aufgeweckte Bilder“ zeigten.
In dem internen Memo, über das erstmals Semafor berichtete, hieß es: „Ich möchte die jüngsten Probleme mit problematischen Text- und Bildantworten in der Gemini-App (ehemals Bard) ansprechen.“
„Ich weiß, dass einige seiner Antworten unsere Nutzer beleidigt und voreingenommen gezeigt haben – um es klarzustellen: Das ist völlig inakzeptabel und wir haben uns geirrt.“
„Unsere Teams haben rund um die Uhr daran gearbeitet, diese Probleme anzugehen.“ Wir sehen bereits eine erhebliche Verbesserung bei einer Vielzahl von Eingabeaufforderungen.
„Keine KI ist perfekt, insbesondere in dieser aufstrebenden Phase der Branchenentwicklung, aber wir wissen, dass die Messlatte für uns hoch liegt, und wir werden daran festhalten, egal wie lange es dauert.“ Und wir werden überprüfen, was passiert ist, und sicherstellen, dass wir das Problem in großem Umfang beheben.
„Unsere Mission, die Informationen der Welt zu organisieren und sie allgemein zugänglich und nutzbar zu machen, ist unantastbar.“
„Wir haben immer versucht, den Benutzern mit unseren Produkten hilfreiche, genaue und unvoreingenommene Informationen zu bieten.“ Deshalb vertrauen ihnen die Menschen. Dies muss unser Ansatz für alle unsere Produkte sein, einschließlich unserer neuen KI-Produkte.
„Wir werden eine Reihe klarer Maßnahmen vorantreiben, darunter strukturelle Änderungen, aktualisierte Produktrichtlinien, verbesserte Einführungsprozesse, solide Evaluierungen und Red-Teaming sowie technische Empfehlungen.“ Wir prüfen das alles und werden die notwendigen Änderungen vornehmen.
„Auch wenn wir aus dem, was hier schief gelaufen ist, lernen, sollten wir auch auf den Produkt- und technischen Ankündigungen aufbauen, die wir in den letzten Wochen im Bereich KI gemacht haben.“
„Dazu gehören einige grundlegende Fortschritte bei unseren zugrunde liegenden Modellen, z. B. unser Durchbruch bei 1 Million Long-Context-Fenstern und unsere offenen Modelle, die beide gut angenommen wurden.“
Sundar Pichai sagte, das Unternehmen unternehme Schritte, um sicherzustellen, dass der Gemini AI-Chatbot diese Bilder nicht erneut generiert
Google hat das Bildgenerierungstool von Gemini letzte Woche vorübergehend deaktiviert, nachdem sich Nutzer darüber beschwert hatten, dass es „aufgeweckte“, aber falsche Bilder wie weibliche Päpste generierte
„Wir wissen, was es braucht, um großartige Produkte zu entwickeln, die von Milliarden Menschen und Unternehmen genutzt und geliebt werden, und mit unserer Infrastruktur und Forschungskompetenz verfügen wir über ein unglaubliches Sprungbrett für die KI-Welle.“
„Konzentrieren wir uns auf das Wichtigste: die Entwicklung hilfreicher Produkte, die das Vertrauen unserer Benutzer verdienen.“
Am Montag brachen die Aktien des Mutterkonzerns von Google Alphabet um 4,4 Prozent ein, nachdem die Gemini-Ausrutscher die Schlagzeilen beherrschten.
Seitdem haben sich die Aktien erholt, sind aber in den letzten fünf Tagen immer noch um 2,44 Prozent und im letzten Monat um 14,74 Prozent gefallen.
Laut Forbes verlor das Unternehmen am Montag aufgrund der anhaltenden Kontroverse 90 Milliarden US-Dollar an Marktwert.
Der Chatbot weigerte sich, Pädophilie zu verurteilen und schlug vor, dass Hitlers Nazis auch schwarze Menschen in seine Reihen aufgenommen hätten.