Exklusiv: OpenAI-Forscher warnten den Vorstand vor der Absetzung des CEO vor einem KI-Durchbruch, sagen Quellen

22. November (Reuters) – Vor den vier Tagen im Exil von OpenAI-CEO Sam Altman schrieben mehrere leitende Forscher einen Brief an den Vorstand, in dem sie vor einer mächtigen Entdeckung künstlicher Intelligenz warnten, die ihrer Meinung nach die Menschheit bedrohen könnte, sagten zwei mit der Angelegenheit vertraute Personen gegenüber Reuters .

Der bisher nicht veröffentlichte Brief und der KI-Algorithmus seien wichtige Entwicklungen vor der Absetzung von Altman, dem Aushängeschild der generativen KI, durch den Vorstand gewesen, sagten die beiden Quellen. Vor seiner triumphalen Rückkehr am späten Dienstag hatten mehr als 700 Mitarbeiter gedroht, aus Solidarität mit ihrem entlassenen Anführer zu kündigen und sich dem Unterstützer Microsoft (MSFT.O) anzuschließen.

Die Quellen nannten den Brief als einen Faktor in einer längeren Liste von Beschwerden des Vorstands, die zu Altmans Entlassung führten, darunter Bedenken hinsichtlich der Kommerzialisierung von Fortschritten, ohne die Konsequenzen zu verstehen. Reuters war nicht in der Lage, eine Kopie des Briefes zu überprüfen. Die Mitarbeiter, die den Brief verfasst hatten, reagierten nicht auf Anfragen nach Kommentaren.

Nach einer Kontaktaufnahme durch Reuters bestätigte OpenAI, das eine Stellungnahme ablehnte, in einer internen Nachricht an die Mitarbeiter ein Projekt namens Q* und einen Brief an den Vorstand vor den Ereignissen am Wochenende, sagte eine der Personen. Ein OpenAI-Sprecher sagte, dass die von der langjährigen Führungskraft Mira Murati gesendete Nachricht die Mitarbeiter auf bestimmte Medienberichte aufmerksam gemacht habe, ohne deren Richtigkeit zu kommentieren.

Einige bei OpenAI glauben, dass Q* (ausgesprochen Q-Star) ein Durchbruch bei der Suche des Startups nach der sogenannten künstlichen allgemeinen Intelligenz (AGI) sein könnte, sagte einer der Mitarbeiter gegenüber Reuters. OpenAI definiert AGI als autonome Systeme, die den Menschen bei den wirtschaftlich wertvollsten Aufgaben übertreffen.

Angesichts der enormen Rechenressourcen sei das neue Modell in der Lage, bestimmte mathematische Probleme zu lösen, sagte die Person unter der Bedingung der Anonymität, da die Person nicht befugt sei, im Namen des Unternehmens zu sprechen. Obwohl nur Mathematikleistungen auf dem Niveau von Grundschülern erbracht wurden, stimmte das Bestehen solcher Tests die Forscher hinsichtlich des zukünftigen Erfolgs von Q* sehr optimistisch, sagte die Quelle.

Reuters konnte die von den Forschern behaupteten Fähigkeiten von Q* nicht unabhängig überprüfen.

„Schleier der Unwissenheit“

Forscher betrachten Mathematik als eine Grenze der generativen KI-Entwicklung. Derzeit eignet sich generative KI gut zum Schreiben und Übersetzen von Sprachen, indem sie das nächste Wort statistisch vorhersagt, und die Antworten auf dieselbe Frage können stark variieren. Aber die Erlangung der Fähigkeit zur Mathematik – bei der es nur eine richtige Antwort gibt – impliziert, dass die KI über größere Denkfähigkeiten verfügen würde, die der menschlichen Intelligenz ähneln. Dies könnte beispielsweise auf neuartige wissenschaftliche Forschung angewendet werden, glauben KI-Forscher.

Im Gegensatz zu einem Taschenrechner, der eine begrenzte Anzahl von Operationen lösen kann, kann AGI verallgemeinern, lernen und verstehen.

In ihrem Brief an den Vorstand wiesen die Forscher auf die Leistungsfähigkeit und potenzielle Gefahr der KI hin, sagten die Quellen, ohne die genauen Sicherheitsbedenken zu nennen, die in dem Brief erwähnt wurden. Unter Informatikern wird seit langem über die Gefahr diskutiert, die von hochintelligenten Maschinen ausgeht, etwa wenn sie entscheiden könnten, dass die Zerstörung der Menschheit in ihrem Interesse sei.

Forscher haben auch auf die Arbeit eines „KI-Wissenschaftler“-Teams hingewiesen, dessen Existenz mehrere Quellen bestätigten. Die Gruppe, die sich aus früheren „Code Gen“- und „Math Gen“-Teams zusammensetzte, untersuchte, wie bestehende KI-Modelle optimiert werden können, um ihre Argumentation zu verbessern und schließlich wissenschaftliche Arbeiten durchzuführen, sagte einer der Befragten.

Altman leitete die Bemühungen, ChatGPT zu einer der am schnellsten wachsenden Softwareanwendungen in der Geschichte zu machen, und zog die notwendigen Investitionen – und Rechenressourcen – von Microsoft ab, um näher an AGI heranzukommen.

Altman kündigte bei einer Demonstration in diesem Monat nicht nur eine Reihe neuer Werkzeuge an, sondern neckte letzte Woche auf einem Gipfeltreffen der Staats- und Regierungschefs der Welt in San Francisco auch, dass seiner Meinung nach große Fortschritte in Sicht seien.

„Vier Mal in der Geschichte von OpenAI, zuletzt in den letzten paar Wochen, durfte ich mit im Raum sein, als wir den Schleier der Unwissenheit zurückschieben und die Grenzen der Entdeckung nach vorne schieben, und „Das zu schaffen, ist die berufliche Ehre meines Lebens“, sagte er auf dem Gipfel der Asien-Pazifik-Wirtschaftskooperation.

Einen Tag später entließ der Vorstand Altman.

Unsere Standards: Die Thomson Reuters Trust Principles.

Anna Tong ist Korrespondentin für Reuters mit Sitz in San Francisco, wo sie über die Technologiebranche berichtet. Sie kam 2023 zu Reuters, nachdem sie beim San Francisco Standard als Datenredakteurin gearbeitet hatte. Zuvor arbeitete Tong als Produktmanagerin bei Technologie-Startups und bei Google, wo sie im Bereich User Insights tätig war und bei der Leitung eines Callcenters half. Tong schloss sein Studium an der Harvard University ab. Kontakt:4152373211

Jeffrey Dastin ist Korrespondent für Reuters mit Sitz in San Francisco, wo er über die Technologiebranche und künstliche Intelligenz berichtet. Er kam 2014 zu Reuters und schrieb ursprünglich für das New Yorker Büro über Fluggesellschaften und Reisen. Dastin schloss sein Studium der Geschichte an der Yale University ab. Er war Teil eines Teams, das die Lobbyarbeit von Amazon.com auf der ganzen Welt untersuchte, wofür er 2022 einen SOPA Award gewann.

Krystal berichtet für Reuters über Risikokapital und Startups. Sie deckt das Silicon Valley und darüber hinaus durch die Linse von Geld und Charakteren ab, mit einem Schwerpunkt auf Start-ups in der Wachstumsphase, Technologieinvestitionen und KI. Zuvor hat sie für Reuters über Fusionen und Übernahmen berichtet und Geschichten über Trumps SPAC und Elon Musks Twitter-Finanzierung veröffentlicht. Zuvor berichtete sie für Yahoo Finance über Amazon, und ihre Untersuchung der Einzelhandelspraktiken des Unternehmens wurde von Gesetzgebern im Kongress zitiert. Krystal begann ihre journalistische Karriere mit dem Schreiben über Technologie und Politik in China. Sie hat einen Master-Abschluss der New York University und genießt eine Kugel Matcha-Eis genauso sehr wie eine Kugel bei der Arbeit.