Noyb, die österreichische Non-Profit-Organisation, die vom Aktivisten Max Schrems gegründet wurde, hat eine Beschwerde bei der örtlichen Datenschutzbehörde eingereicht und behauptet, dass OpenAI gegen die Datenschutz-Grundverordnung (DSGVO) der EU verstoßen habe und dies nicht der Fall sei ausreichend getan, um die von ChatGPT bereitgestellten ungenauen personenbezogenen Daten zu korrigieren.
Schrems, ein Aktivist und Anwalt, hat einige der folgenreichsten Datenschutzbeschwerden in der EU eingereicht.
Die am Montag (29. April) beim österreichischen DSB eingereichte Beschwerde gegen OpenAI dreht sich um „Halluzinationen“, falsche Antworten, die von großen Sprachmodellen mit künstlicher Intelligenz (KI) bereitgestellt werden. Es fordert eine Untersuchung, ein Bußgeld, Abhilfemaßnahmen und eine Feststellungsentscheidung.
Das Unternehmen OpenAI sei sich des Problems bewusst, scheine sich aber nicht darum zu kümmern, sagte Noyb in einer Pressemitteilung, in der er die Beschwerde ankündigte. OpenAI antwortete zum Zeitpunkt der Veröffentlichung nicht auf die Bitte von Euractiv um einen Kommentar.
Große Sprachmodelle wie ChatGPT funktionieren, indem sie die wahrscheinlichsten Wörter vorhersagen, die als Reaktion auf bestimmte Eingabeaufforderungen gegeben werden. Manchmal erschließt das Modell die falschen Wörter, um einen Satz zu ergänzen, was zu einer falschen Antwort oder einer „Halluzination“ im Branchenjargon führt.
Dies sei für „Hausaufgaben“ „akzeptabel“, für Einzelpersonen jedoch nicht, sagte Noyb. Das EU-Recht verlangt seit 1995, dass personenbezogene Daten korrekt sind, und dieser Grundsatz ist in der DSGVO, dem Datenschutzgesetz der EU, verankert, sagte die gemeinnützige Organisation.
Noyb erwähnte das Beispiel einer Persönlichkeit des öffentlichen Lebens, deren Geburtsdatum online nicht verfügbar ist. ChatGPT hat auf Nachfrage fälschlicherweise auf das Geburtsdatum geschlossen.
Auch auf eine Anfrage vom Dezember 2023 auf Zugang und Löschung der Daten gab OpenAI eine unbefriedigende Antwort. Datenverantwortliche sind nach der DSGVO verpflichtet, betroffenen Personen mit einigen Einschränkungen Auskunft über die Verarbeitung ihrer personenbezogenen Daten zu geben und diese auf offene Anfrage zu löschen.
Das Unternehmen habe lediglich Kontodaten des Nutzers bereitgestellt, jedoch keine Informationen über die Verarbeitung personenbezogener Daten durch das System, sagte Noyb.
OpenAI sagte auch, dass sie das Modell lediglich daran hindern könnten, eine Antwort auf die Frage nach dem Geburtsdatum zu geben, die bereitgestellte Antwort jedoch nicht korrigieren könnten, heißt es in der Beschwerde.
Dies hätte dazu geführt, dass mehr Informationen über die betroffene Person von ChatGPT gesperrt würden, was das Recht der Öffentlichkeit auf Informationen über diese Person, bei der es sich um eine bekannte Person handele, behindern würde, sagte OpenAI laut Beschwerde.
„ChatGPT kann Informationen nicht korrigieren, kann Informationen nicht selektiv blockieren und jede betroffene Person muss einfach mit dieser Situation leben – so der Verantwortliche“, heißt es in der Beschwerde.
Das irische Büro von OpenAI sei nur eine Fassade, während alle Entscheidungen immer noch in den USA getroffen würden, sagte Noyb. Aus diesem Grund wird die Beschwerde gegen eines der US-amerikanischen gewinnorientierten Unternehmen des Unternehmens, OpenAI OpCo LLC, eingereicht, das in seinen Nutzungsbedingungen erwähnt wird.
[Edited by Zoran Radosavljevic]