Es scheint, als ob Googles jüngster Versuch, das Leben der Menschen mit künstlicher Intelligenz (KI) einfacher zu machen, nach hinten losgeht.
Das neue Tool des Technologiegiganten, „AI Overviews“, bietet Benutzern KI-gestützte Zusammenfassungen der Suchergebnisse von Chrome, Firefox und dem Google App-Browser.
Doch seit der Einführung in diesem Monat ist den Leuten aufgefallen, dass die Software falsche Aussagen und Vorschläge zurückgibt – viele davon sind gefährlich.
Darin wird unter anderem behauptet, man könne „mit Benzin ein scharfes Spaghettigericht zubereiten“, Steine essen und Klebstoff auf seine Pizza auftragen.
Als Antwort auf die Suchanfrage „Käse bleibt nicht an der Pizza kleben“ schlägt Google vor, der Soße „ungiftigen Kleber“ beizufügen, um ihr mehr Klebrigkeit zu verleihen.
Als Antwort auf die Suche „Käse klebt nicht an der Pizza“ schlägt Google vor, der Soße „ungiftigen Kleber“ beizufügen, um sie klebriger zu machen.
Laut The Verge geht diese Antwort ursprünglich auf einen scherzhaften Kommentar zurück, der vor über einem Jahrzehnt auf Reddit abgegeben wurde.
Ein anderer Benutzer, der nach „Wie viele Steine soll ich essen“ suchte, erhielt eine Antwort, die aus einem Artikel der Satire-Website The Onion aus dem Jahr 2021 stammte.
AI Overviews sagt: „Laut Geologen der UC Berkeley sollten Sie mindestens einen kleinen Stein pro Tag essen.“
Und weiter: „Sie sagen, dass Steine eine wichtige Quelle für Mineralien und Vitamine sind, die für eine gesunde Verdauung wichtig sind.“
Das Google-Tool hat außerdem behauptet, dass ein Hund in der NBA gespielt hat, dass Astronauten auf dem Mond Katzen getroffen haben und dass der ehemalige US-Präsident James Madison 21 Mal an der University of Wisconsin seinen Abschluss gemacht hat.
Auf X hat der Internetanalyst Jeremiah Johnson einen Thread mit noch bizarreren Antworten gepostet, unter anderem, dass Kakerlaken unbemerkt in Ihrem Penis leben können, dass Ärzte das Rauchen während der Schwangerschaft empfehlen und dass es ungefährlich sei, 5 bis 15 Minuten lang in die Sonne zu starren.
Toby Walsh, Professor für KI an der University of New South Wales in Sydney, sagte gegenüber der UNSW Sydney, es sei ein „PR-Desaster für den Suchmaschinengiganten“.
Wie Professor Walsh erklärt, handelt es sich bei AI Overviews um eine Art „generative KI“ – dieselbe Technologie, die auch hinter dem Konkurrenzprodukt ChatGPT steckt –, die Zusammenfassungen von Suchergebnissen liefert, die aus Daten aus dem Internet abgeschrieben wurden.
Doch Tools für generative KI wissen nicht, was wahr ist und was nicht – sondern nur, was populär ist (zum Beispiel der Onion-Artikel über das Essen von Steinen).
„Wenn Sie fragen, wie Sie Bananen länger frisch halten, wird mithilfe künstlicher Intelligenz eine nützliche Zusammenfassung mit Tipps erstellt, etwa, wie man sie an einem kühlen, dunklen Ort und getrennt von anderen Früchten wie Äpfeln lagert“, schrieb der Wissenschaftler in The Conversation.
AI Overviews sagt: „Laut Geologen der UC Berkeley sollten Sie mindestens einen kleinen Stein pro Tag essen.“
Auf X postete der Internetanalyst Jeremiah Johnson einen Thread mit noch bizarreren Antworten, darunter auch Ärzte, die das Rauchen während der Schwangerschaft empfehlen.
„Aber wenn man eine ausgefallene Frage stellt, können die Ergebnisse katastrophal oder sogar gefährlich sein.“
In einer offiziellen Stellungnahme teilte Google mit, dass man „gegebenenfalls rasch Maßnahmen ergreife“, um die Antworten des Tools präziser zu machen.
„Die überwiegende Mehrheit der KI-Übersichten bietet qualitativ hochwertige Informationen und Links, um im Internet noch tiefer zu graben“, sagte ein Sprecher.
„Viele der Beispiele, die wir gesehen haben, waren ungewöhnliche Abfragen, und wir haben auch Beispiele gesehen, die manipuliert waren oder die wir nicht reproduzieren konnten.“
„Wir haben vor der Einführung dieser neuen Erfahrung umfangreiche Tests durchgeführt und wie bei anderen Funktionen, die wir in der Suche eingeführt haben, freuen wir uns über das Feedback.“
„Wir ergreifen im Rahmen unserer Inhaltsrichtlinien gegebenenfalls rasch Maßnahmen und nutzen diese Beispiele, um umfassendere Verbesserungen unserer Systeme zu entwickeln, von denen wir zum Teil bereits eingeführt haben.“
Laut der KI ist es unbedenklich, 5 bis 15 Minuten lang in die Sonne zu starren, „oder bis zu 30 Minuten, wenn Sie eine dunklere Haut haben“.
Wie andere Technologieunternehmen hat Google seit dem Erfolg von ChatGPT seinen Fokus auf KI gerichtet (Dateifoto).
AI Overviews wurde zunächst für Benutzer in den USA eingeführt, doch hofft Google, dass bis zum Jahresende mehr als eine Milliarde Menschen weltweit Zugriff darauf haben werden.
Das Unternehmen kündigte die Funktion in einem Blogbeitrag am 14. Mai an und erklärte, sie gebe den Benutzern schnelle Antworten und helfe denen, die schnell Informationen benötigen.
Wie andere Technologieunternehmen hat Google seit dem Erfolg von ChatGPT seinen Fokus auf KI gerichtet.
Letztes Jahr brachte Google seine eigene KI namens Gemini als Konkurrenz zu ChatGPT auf den Markt, doch der Chatbot war von Problemen geplagt.
Dies gipfelte darin, dass Google die Gemini-KI pausierte, nachdem ihr vorgeworfen wurde, weiße historische Persönlichkeiten, darunter Nazisoldaten, durch farbige Menschen zu ersetzen.