Elon Musk, CEO von Tesla, und eine Gruppe von Experten für künstliche Intelligenz und Führungskräfte aus der Industrie fordern in einem offenen Brief eine sechsmonatige Pause bei der Entwicklung von Systemen, die leistungsfähiger sind als das neu eingeführte GPT-4 von OpenAI, und verweisen auf potenzielle Risiken für die Gesellschaft und die Menschheit.
Der Brief, der vom gemeinnützigen Future of Life Institute herausgegeben und von mehr als 1.000 Personen, darunter Musk, unterzeichnet wurde, forderte eine Pause bei der Entwicklung fortschrittlicher KI, bis gemeinsame Sicherheitsprotokolle für solche Designs entwickelt, implementiert und von unabhängigen Experten geprüft wurden.
„Leistungsstarke KI-Systeme sollten erst entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind“, heißt es in dem Schreiben.
Der Brief beschrieb potenzielle Risiken für Gesellschaft und Zivilisation durch KI-Systeme im Wettbewerb mit Menschen in Form von wirtschaftlichen und politischen Störungen und forderte die Entwickler auf, mit politischen Entscheidungsträgern in Bezug auf Governance und Regulierungsbehörden zusammenzuarbeiten.
Zu den Mitunterzeichnern gehörten Emad Mostaque, CEO von Stability AI, Forscher von DeepMind, das zu Alphabet gehört, sowie die KI-Schwergewichte Yoshua Bengio und Stuart Russell.
Laut dem Transparenzregister der Europäischen Union wird das Future of Life Institute hauptsächlich von der Musk Foundation sowie der in London ansässigen Gruppe für effektiven Altruismus Founders Pledge und der Silicon Valley Community Foundation finanziert.
Die Bedenken kommen, als sich die EU-Polizei Europol am Montag einem Chor ethischer und rechtlicher Bedenken über fortschrittliche KI wie ChatGPT anschloss und vor dem möglichen Missbrauch des Systems bei Phishing-Versuchen, Desinformation und Cyberkriminalität warnte.
Unterdessen hat die britische Regierung Vorschläge für einen „anpassungsfähigen“ Regulierungsrahmen für KI vorgelegt.