Drücken Sie Play, um diesen Artikel anzuhören
PARIS – Der Conseil d’État, Frankreichs höchstes Verwaltungsgericht, hat die Idee, dass künstliche Intelligenz eine existenzielle Bedrohung für die Menschheit darstellt, verworfen und der Öffentlichkeit versichert, dass sie selbst keine heimlichen Killerroboter sind.
Der Conseil d’État bietet der Regierung administrative Leitlinien und wurde vom damaligen Premierminister Jean Castex im Juni letzten Jahres beauftragt, Ratschläge zu geben, wie der Einsatz künstlicher Intelligenz in der öffentlichen Verwaltung entwickelt und seine Risiken gemindert werden können.
Der am Dienstag veröffentlichte Bericht ist vernichtend über das, was er den Mythos der „Singularität“ nennt, wo die Technologie die Menschheit überlistet und kontrolliert. Das Gericht forderte die Regierung auf, dieser „Phantasie“ in ihrer KI-Strategie entgegenzuwirken. „Die Reflexion über künstliche Intelligenz wird oft Opfer einer parasitären, übertriebenen Konzentration auf künstliche allgemeine Intelligenz.“ Künstliche allgemeine Intelligenz oder AGI ist ein Name für die Theorie, dass KI die menschliche Intelligenz übertreffen könnte.
In einer Pressekonferenz wurden Mitglieder des Rates gefragt, warum sie existenzielle Risiken wie die Entmachtung der Menschheit durch Maschinen, die gelernt haben, Aufgaben besser als Menschen zu erledigen, von sich weisen.
Berichterstatter und Staatsanwalt Alexandre Lallet sagte: „Wir sind nicht an dem Punkt angelangt, den manche die ‚Singularität‘ nennen, an dem Maschinen die Kontrolle übernehmen und Menschen in ihren Dienst gezwungen werden, wie in einigen amerikanischen Blockbustern oder Science-Fiction-Werken. Es sind immer Menschen Entscheidungen treffen.”
Lallet wies die Frage zurück, ob einigen KI-Systemen eine Rechtspersönlichkeit zugeschrieben werden sollte, sobald sie wohl komplexer als kleine Organismen werden, und sagte: „[The question] erschien uns nicht notwendig oder wichtig.”
Staatsanwalt Thierry Tuot fügte hinzu: „Es gibt zwei Denkweisen. Die eine kommt hauptsächlich von der anderen Seite des Atlantiks, wo die Science-Fiction die Kontrolle übernimmt, die andere ist viel realistischer und befasst sich mit möglichen Nutzungen, die an die Realität gebunden bleiben.“
„Das denken alle Wissenschaftler, mit denen wir gesprochen haben [singularity] ist eine Fantasie, schlicht und einfach, und es läuft auf reines Marketing hinaus“, fuhr Tuot fort, „wir können die Enthüllung bestätigen, dass keiner von uns tatsächlich Roboter ist.“ Er sagte andere Risiken, wie den Einsatz von KI-gesteuert Waffen im Militär, waren dringender.
Renaud Vedel, der als oberster KI-Koordinator Frankreichs in der Arbeitsgruppe war und jetzt Kabinettsdirektor von Digitalminister Jean-Noël Barrot ist, sagte in einem Interview im Mai, dass der Streit beigelegt sei: „Die Debatte war ein bisschen zu fokussiert über die Singularität und solche Dinge, aber das ist jetzt zum Glück vorbei.”
Ein europäischer KI-Forscher, der anonym bleiben wollte, angesichts dessen, was er als „die Ablehnung der Idee von AGI bei öffentlichen und akademischen Behörden“ bezeichnete, antwortete auf die Einschätzung des Conseil und sagte: „AGI ist eine wissenschaftliche Hypothese, die man im Auge behalten sollte, auch wenn es eine gibt ist ein Mangel an Konsens unter akademischen Autoritäten. Vor 70 Jahren gab es einen Mangel an Konsens darüber, dass fossile Brennstoffe den Klimawandel verursachen. Einige Einzelpersonen begannen, auf das Risiko hinzuweisen; sie hätten angehört werden sollen und der Klimawandel hätte vermieden werden können.“
Dieser Artikel ist Teil von POLITICO Pro
Die One-Stop-Shop-Lösung für politische Fachleute, die die Tiefe des POLITICO-Journalismus mit der Kraft der Technologie verbindet
Exklusive, bahnbrechende Neuigkeiten und Einblicke
Maßgeschneiderte Policy-Intelligence-Plattform
Ein hochrangiges Netzwerk für öffentliche Angelegenheiten
