Virtuelle KI-Assistenten sind auf dem besten Weg, zu virtuellen Begleitern im Leben der Menschen zu werden, aber Gesetzgeber und Regulierungsbehörden sollten flexible Grundsätze übernehmen, um technologische Innovationen zu fördern und gleichzeitig Risiken zu minimieren, um eine günstige Zukunft für die Revolution der virtuellen KI-Assistenten zu gewährleisten, schreibt Christophe Carugati.
Christophe Carugati, Affiliate Fellow beim Think Tank Bruegel, arbeitet zu Wettbewerb und digitalen Themen. Bruegels Mission ist es, die Qualität der Wirtschaftspolitik durch offene und faktenbasierte Forschung, Analyse und Debatte zu verbessern.
Als Joaquin Phoenix vor einem Jahrzehnt Theodore im Science-Fiction-Film „Her“ verkörperte, entwickelte seine Figur eine tiefe Verbindung zu einer virtuellen KI-Assistentin, „Samantha“. Heute, mit bemerkenswerten Fortschritten in der künstlichen Intelligenz (KI), wird die Fiktion Wirklichkeit.
Menschen können jetzt mit einer KI-Anwendung an text-, sprach- und bildbasierten Interaktionen teilnehmen und damit eine neue Ära einläuten, in der diese virtuellen Begleiter im Leben der Menschen unverzichtbar sein werden. Allerdings birgt diese Transformation potenzielle Vorteile und Fallstricke, die die Regulierungsbehörden schnell mit flexiblen Grundsätzen angehen sollten.
KI ist bereits im Leben der Menschen präsent. Wenn Menschen online einkaufen oder sich verabreden, prägt KI durch Empfehlungen ihre Online-Interaktion mit Produkten, Dienstleistungen und anderen Personen.
Als Open AI im November 2022 ChatGPT veröffentlichte, wurde KI in den Augen der Menschen noch präsenter. Der Chatbot ermöglicht nahtlose, menschenähnliche Interaktionen. Es ist so menschlich, dass Open AI ein Tool zur Unterscheidung zwischen KI-geschriebenem Text und von Menschen geschriebenem Text entwickelt hat, das aufgrund seiner geringen Genauigkeitsrate schnell nicht mehr verfügbar war.
Bemerkenswert ist, dass ChatGPT mit über 100 Millionen aktiven Nutzern in nur zwei Monaten die am schnellsten wachsende Anwendung in der Geschichte ist. Dennoch sind Chatbots nur die Spitze des Eisbergs in der Revolution der virtuellen KI-Assistenten.
Virtuelle KI-Assistenten sind auf dem Weg, zu virtuellen Begleitern zu werden. Sie können Menschen dabei helfen, Reisen zu planen, auf E-Mails zu antworten und sogar als virtuelle Freunde zu fungieren, und zwar durch menschenähnliche Interaktionen, die über die derzeitigen Interaktionen virtueller Assistenten hinausgehen, die auf bestimmte Aufgaben beschränkt sind, eine Reminiszenz an den Film „Her“.
Die Vision von Microsoft-Mitbegründer Bill Gates von einem persönlichen Agenten wird jetzt Wirklichkeit und könnte tiefgreifende Auswirkungen darauf haben, wie Menschen mit ihrer Online-Umgebung interagieren, wie es die App-Revolution tat.
In den letzten Wochen hat eine Welle von Innovationen mehrerer Technologieunternehmen, darunter Microsoft, Open AI (unterstützt von Microsoft), Amazon, Meta und Google, neuartige Dienste und Produkte vorgestellt, die es Menschen ermöglichen, mit einer „Samantha“ in Kontakt zu treten.
„Samantha“ ist keine bloße Fiktion mehr, sondern greifbare Realität. Dies bringt potenzielle Vorteile und Fallstricke mit sich. Im besten Fall haben die Menschen die Wahl zwischen mehreren Anbietern virtueller KI-Assistenten, was Wettbewerb und Innovation fördert. In diesem Umfeld werden Anbieter ihre Ökosysteme für Dritte öffnen und miteinander konkurrieren, um ein hohes Maß an Privatsphäre und Sicherheit zu gewährleisten und Datenmissbrauch und Suchtverhalten zu vermeiden. Das Worst-Case-Szenario stellt jedoch einen deutlichen Kontrast dar: Nur wenige marktbeherrschende Anbieter behindern den Geschäftszugang und gefährden die Privatsphäre und Sicherheit der Nutzer, weil die Anreize gering sind, ihre Ökosysteme für potenzielle Konkurrenten zu öffnen und ein hohes Schutzniveau zu bieten, was aktuelle Probleme des digitalen Wettbewerbs nachahmt .
Die rasanten Entwicklungen in der KI machen es schwierig, das wahrscheinliche Szenario vorherzusagen. Die vorliegenden Informationen deuten bereits darauf hin, dass beides plausibel ist.
Zahlreiche Anbieter bieten bereits Sprachassistenten an, wobei Amazon, Google und Apple im Jahr 2022 den europäischen Markt anführen, doch neue Marktteilnehmer wie Meta und Open AI stellen die Marktdynamik in Frage.
Einige Firmen wie Meta erlauben den Geschäftszugriff Dritter und legen großen Wert auf Sicherheit.
Studien ergaben auch, dass virtuelle Begleiter, wie sie der soziale Chatbot Replika bereitstellt, sich positiv auf die psychische Gesundheit auswirken können, indem sie Einsamkeit überwinden. Negative Ergebnisse haben jedoch dazu geführt, dass Menschen eine emotionale Abhängigkeit vom Chatbot entwickelten.
Trotz dieser Unsicherheit gibt es Möglichkeiten, um sicherzustellen, dass positive Ergebnisse wahrscheinlicher sind als negative. Gesetze wie der Digital Markets Act (DMA) und die Datenschutz-Grundverordnung (DSGVO), die offene und faire digitale Märkte und die Privatsphäre der Nutzer garantieren, könnten den Markt dazu zwingen, das Best-Case-Szenario zu liefern.
Allerdings berücksichtigen oder verhindern diese Gesetze möglicherweise nicht alle potenziellen negativen Folgen, wie z. B. Barrieren beim Zugang Dritter oder die Möglichkeit emotionaler Abhängigkeit. Darüber hinaus übersteigt das Tempo des technologischen Fortschritts die Fähigkeit von Gesetzgebern und Regulierungsbehörden, zeitnah und mit ausreichendem Wissen auf diese Schäden zu reagieren, wie die anhaltenden Diskussionen über Grundlagenmodelle, die diese virtuellen KI-Assistenten antreiben, im Rahmen des europäischen Vorschlags für ein KI-Gesetz zeigen .
In diesem Zusammenhang sollten sich Gesetzgeber und Regulierungsbehörden auf die bevorstehende Revolution der virtuellen KI-Assistenten vorbereiten. Sie sollten den Weg in Richtung positiver Ergebnisse lenken, indem sie flexible Prinzipien wie das Zugangsprinzip übernehmen, um den Zugriff Dritter zu gewährleisten, oder das Safety-First-Prinzip, um schädliche Suchtfunktionen einzuschränken.
Dies ist effizienter und angemessener als starre Regeln, die kaum zukunftssicher für Marktentwicklungen sind. Inspiriert durch die britische Wettbewerbsbehörde, die kürzlich in ihrem ersten Bericht über Stiftungsmodelle einen solchen Ansatz aufgegriffen hat, können diese Grundsätze die Grundlage für die Entwicklung branchenspezifischer Verhaltenskodizes bilden.
In diesen schnelllebigen Entwicklungen werden diese Prinzipien technologische Innovationen fördern und gleichzeitig Risiken minimieren, was eine günstige Zukunft für die Revolution der virtuellen KI-Assistenten sichert.