Der ChatGPT-Hersteller OpenAI steht vor einer Untersuchung der Federal Trade Commission (FTC) wegen möglicher Verstöße gegen Verbraucherschutzgesetze.
Die Aktion stellt die härteste Prüfung des von Microsoft unterstützten OpenAI dar, seit es im November mit seinem KI-gestützten ChatGPT-Chatbot auf den Markt kam.
Die Untersuchung soll sich darauf konzentrieren, ob der Chatbot von OpenAI den Verbrauchern durch die Datenerfassung und die gelegentliche Ausgabe falscher Informationen über Einzelpersonen durch das Tool Schaden zugefügt hat. Es ist auch bekannt, dass Tools wie ChatGPT manchmal fehlerhafte Daten ausspucken, ein Phänomen, das als „Halluzination“ bezeichnet wird. Dies kann schwerwiegende Folgen haben, insbesondere wenn die Informationen dem Ruf einer Person schaden.
Die Agentur wird auch untersuchen, wie OpenAI seine KI-Tools trainiert und mit personenbezogenen Daten umgeht.
Die FTC begann diese Woche mit ihrer Arbeit, indem sie OpenAI eine 20-seitige Ermittlungsaufforderung übermittelte, die am Donnerstag online von der Washington Post geteilt wurde.
OpenAI wird aufgefordert, Informationen zu etwaigen Beschwerden aus der Öffentlichkeit und Einzelheiten zu etwaigen Klagen herauszugeben. Außerdem werden Informationen über das Anfang des Jahres bekannt gegebene Datenleck von OpenAI benötigt, bei dem der Chatverlauf und die Zahlungsdaten der Benutzer vorübergehend offengelegt wurden.
Die neue Welle generativer KI-Tools hat in den letzten Monaten aufgrund ihrer beeindruckenden Talente in einer Reihe von Aufgaben viel Aufmerksamkeit erregt. ChatGPT und andere wie Googles Bard sind textbasierte Tools, die die Fähigkeit haben, sich auf sehr natürliche, menschenähnliche Weise zu unterhalten.
Die Technologie ist so leistungsstark, dass sie viele Aufgaben intelligenter und effizienter erledigen kann als der Mensch. Laut der Beratungsfirma McKinsey wird die Technologie beispielsweise im Gesundheitswesen helfen können, indem sie „mühsame und fehleranfällige betriebliche Arbeiten automatisiert, jahrelange klinische Daten einem Kliniker in Sekundenschnelle zur Verfügung stellt und die Infrastruktur der Gesundheitssysteme modernisiert“.
Aber KI am Arbeitsplatz wird auch zum Verlust unzähliger Arbeitsplätze und zu großen gesellschaftlichen Umbrüchen führen. Die Technologie wird auch von böswilligen Akteuren genutzt, um Fehlinformationen zu generieren und zu verbreiten oder um überzeugendere Betrügereien zu erzeugen. Im Extremfall befürchten einige Experten, dass fortschrittlichere Versionen der Technologie ohne verantwortungsvolle Entwicklung und wirksame Regulierung der KI sogar feindselig werden und die Menschheit herausfordern könnten.
Die Entwicklungen in der Branche waren in den letzten Monaten so rasant, dass Regierungen auf der ganzen Welt bei der Regulierung Nachholbedarf haben. Es muss viel darüber nachgedacht werden, das richtige Gleichgewicht zu finden, da zu viel Regulierung die Entwicklung eines Werkzeugs ersticken wird, das der Gesellschaft große Vorteile bringen könnte, während zu wenig Regulierung das Risiko erhöhen könnte, dass die Technologie Schaden anrichtet.
Derzeit konzentriert sich die FTC auf den Betrieb von OpenAI, um festzustellen, ob es gegen Verbraucherschutzgesetze verstößt.
Die neuesten Nachrichten zu ChatGPT finden Sie bei Digital Trends.
Empfehlungen der Redaktion