Noyb behauptet, dass das Verhalten des Chatbots gegen die Datenschutz-Grundverordnung (DSGVO) in Bezug auf den Datenschutz, die Richtigkeit von Informationen sowie das Recht auf Berichtigung unrichtiger Informationen verstößt. Außerdem wird argumentiert, dass das KI-Unternehmen sich geweigert habe, falsche Antworten zu korrigieren oder zu löschen, und keine Informationen über die verarbeiteten Daten, deren Quellen oder Empfänger offenlegen werde.
„Es ist klar, dass Unternehmen derzeit nicht in der Lage sind, Chatbots wie ChatGPT bei der Verarbeitung von Daten über Einzelpersonen mit EU-Recht in Einklang zu bringen“, sagte Maartje de Graaf, Datenschutzanwältin bei noyb.
„Wenn ein System keine genauen und transparenten Ergebnisse liefern kann, kann es nicht zur Generierung von Daten über Einzelpersonen verwendet werden. Die Technologie muss den gesetzlichen Anforderungen folgen, nicht umgekehrt“, sagte sie.
Die New York Times berichtete zuvor, dass „Chatbots in mindestens 3 Prozent der Fälle Informationen erfinden – und sogar in 27 Prozent der Fälle.“
POLITICO fragte ChatGPT auch nach Schrems‘ Geburtstag und kam auf drei verschiedene Antworten: 24. Juni, 17. September und 17. Oktober.
Noyb antwortete nicht sofort auf die Anfrage von POLITICO, ob ChatGPT den Geburtstag von Schrems richtig verstanden hatte.