Sam Altman, CEO von OpenAI, sagt, dass ein von Twitter-CEO Elon Musk und anderen in der Technologie-Community unterzeichneter Brief, in dem eine Pause bei „riesigen KI-Experimenten“ gefordert wird, nicht der richtige Weg war, um das Problem anzugehen.
Musk, Steve Wozniak und andere Technologieführer unterzeichneten den Brief im März, in dem KI-Entwickler aufgefordert wurden, „das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, unverzüglich für mindestens 6 Monate zu unterbrechen“.
Während eines virtuellen Auftritts am Massachusetts Institute of Technology am Donnerstag sprach Altman den Brief an.
„Es gibt Teile der Stoßrichtung, denen ich wirklich zustimme“, sagte Altman und fügte hinzu, dass sein Team nach Abschluss der Schulung von ChatGPT 4 mehr als sechs Monate damit verbrachte, Sicherheitskomponenten zu studieren, bevor es veröffentlicht wurde.
ELON MUSK SITZT MIT TUCKER CARLSON ZU EINEM EXKLUSIVEN ZWEITEILIGEN INTERVIEW-EVENT
OpenAI-CEO Sam Altman (Reuters/Lucy Nicholson, Akte)
„Damit stimme ich voll und ganz zu“, sagte Altman und sprach mit der Sicherheitskomponente des Briefes. „Ich denke, es ist wirklich wichtig, mit Vorsicht vorzugehen und die Strenge in Sicherheitsfragen zu erhöhen. Das Schreiben ist meiner Meinung nach nicht der optimale Weg, um es anzugehen.“
Der Brief wurde vom Future of Life Institute verfasst und von über 1.000 Personen unterzeichnet.
„Leistungsstarke KI-Systeme sollten erst entwickelt werden, wenn wir zuversichtlich sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind“, heißt es in dem Schreiben und argumentiert, dass die Pause genutzt werden sollte, um Sicherheitsprotokolle zu entwickeln.
„KI-Labore und unabhängige Experten sollten diese Pause nutzen, um gemeinsam eine Reihe gemeinsamer Sicherheitsprotokolle für fortschrittliches KI-Design und -Entwicklung zu entwickeln und umzusetzen, die von unabhängigen externen Experten streng geprüft und überwacht werden“, heißt es in dem Schreiben.
ELON MUSK, MITBEGRÜNDER VON APPLE, ANDERE TECH-EXPERTEN RUFEN ZUR PAUSE BEI „GIANT AI EXPERIMENTS“: „DANGEROUS RACE“
Elon Musk (AP Photo/Susan Walsh, Akte)
Die Unterzeichner des Briefes sagten jedoch, dass die KI-Entwicklung insgesamt nicht angehalten werden sollte, sondern forderten, „vom gefährlichen Wettlauf zu immer größeren, unvorhersehbaren Black-Box-Modellen mit neuen Fähigkeiten zurückzutreten“.
In einem Interview mit „Tucker Carlson Tonight“, das am Montagabend ausgestrahlt wurde, sagte Musk, dass KI das Potenzial hat, sehr destruktiv zu sein.
KLICKEN SIE HIER, UM DIE FOX NEWS APP ZU ERHALTEN
Sam Altman, CEO von OpenAI, spricht während einer Grundsatzrede zur Ankündigung der ChatGPT-Integration für Bing bei Microsoft in Redmond, Washington, am 7. Februar 2023. (Jason Redmond/AFP über Getty Images)
„KI ist gefährlicher als beispielsweise schlecht verwaltetes Flugzeugdesign oder Produktionswartung oder schlechte Autoproduktion“, sagte Musk. „In dem Sinne, dass es das Potenzial hat – so gering man diese Wahrscheinlichkeit auch halten mag, aber es ist nicht trivial – es hat das Potenzial zur Zerstörung der Zivilisation.“
Chris Pandolfo von Fox News hat zu diesem Bericht beigetragen.