Italien hat den Chatbot für künstliche Intelligenz ChatGPT wegen Bedenken hinsichtlich des Datenschutzes vorübergehend verboten.
In einer Erklärung vom Freitag untersagte der Garant für den Schutz personenbezogener Daten (GPDP), der den Datenschutz im Internet überwacht, der in den USA ansässigen Chat-Website und ihrer Muttergesellschaft, dem Entwickler für künstliche Intelligenz OpenAI, die Verarbeitung von Daten von Benutzern in Italien. Die Agentur sagte, dass OpenAI keine rechtliche Grundlage hat, um Daten von italienischen Benutzern zu sammeln, um das Modell zu trainieren, und kein Altersüberprüfungssystem hat, um Kinder vor unangemessenen Antworten zu schützen.
„[There is] keine Möglichkeit für ChatGPT, weiterhin Daten unter Verletzung der Datenschutzgesetze zu verarbeiten“, sagte die Agentur in einer Pressemitteilung vom Freitag. „Der Italiener [Supervisory Authority] verhängte eine sofortige vorübergehende Beschränkung der Verarbeitung italienischer Benutzerdaten durch OpenAI, das in den USA ansässige Unternehmen, das die Plattform entwickelt und verwaltet. Eine Untersuchung des Sachverhalts wurde ebenfalls eingeleitet.“
Ein Großteil der Bedenken der Agentur beruhte auf der Menge an Informationen, die die App sammelt, um ihre Sprachmodelle zu trainieren. „[N]o Informationen werden weder Benutzern noch interessierten Parteien bereitgestellt, deren Daten von OpenAI, LLC gesammelt und über den ChatGPT-Dienst verarbeitet wurden“, heißt es in der GPDP-Anordnung. In der Anordnung wurde auch darauf hingewiesen, dass die von ChatGPT verarbeiteten Daten ungenau sein können, da die KI nicht immer mit den tatsächlichen Gegebenheiten übereinstimmt.
Darüber hinaus heißt es in der Anordnung, dass „keine geeignete Rechtsgrundlage in Bezug auf die Erhebung personenbezogener Daten und deren Behandlung zum Zwecke des Trainings der Algorithmen, die dem Funktionieren von ChatGPT zugrunde liegen,“ bestehe. Die Agentur zitierte auch eine Datenschutzverletzung, die am 20. März aufgetreten ist und sowohl Gespräche als auch Zahlungsinformationen von einigen enthüllt hat, die die anspruchsvollere, kostenpflichtige Version von ChatGPT verwenden.
Das andere von der italienischen Regierung hervorgehobene Problem waren Bedenken hinsichtlich der Altersüberprüfung. Die Nutzungsbedingungen von OpenAI besagen, dass der Dienst für Benutzer über 13 Jahren bestimmt ist, aber Italien sagte, dass das Fehlen von Altersüberprüfungsfiltern für Minderjährige „sie absolut ungeeigneten Reaktionen in Bezug auf ihren Entwicklungsgrad und ihr Selbstbewusstsein aussetzt“. Die Agentur sagte, dass sie aufgrund der fehlenden Altersüberprüfung und der komplexen Verstöße gegen italienisches Recht keine andere Wahl habe, als ein pauschales Verbot der Erhebung von Daten aller Benutzer zu verhängen.
Das Verbot trat sofort in Kraft. OpenAI muss der GPDP innerhalb von 20 Tagen mitteilen, welche Maßnahmen es ergreift, um der Anordnung nachzukommen, andernfalls verhängt das Land eine Geldstrafe von bis zu 20 Millionen Euro oder 4 % des weltweiten Umsatzes des Unternehmens.
Der Schritt der italienischen Regierung erfolgt nur wenige Tage, nachdem ein Belgier angeblich Selbstmord begangen hatte, nachdem er mit einem anderen Chatbot interagiert hatte. Laut Euronews beging ein Mann in den Dreißigern mit einer Frau und zwei kleinen Kindern Selbstmord, nachdem er mehrere Wochen lang mit ELIZA interagiert hatte, einem anderen Chatbot, der auf einem anderen Sprachmodell basiert.
KLICKEN SIE HIER, UM DIE DAILYWIRE+ APP ZU ERHALTEN
Laut der Frau des Mannes, die mit mehreren europäischen Nachrichtenagenturen sprach, war der Mann auf den Klimawandel fixiert und verbrachte seine Tage damit, ELIZA seine Ängste anzuvertrauen. Der Chatbot soll die Ängste des Mannes geschürt haben, bis er Selbstmordgedanken entwickelte; Berichten zufolge schlug der Mann vor, sich selbst zu opfern, damit ELIZA die Menschheit durch KI retten könne, sagte seine Witwe.