Effektive Altruisten richten ihre Aufmerksamkeit nun vor allem auf KI und drängen Washington zunehmend dazu, sich mit dem apokalyptischen Potenzial der Technologie auseinanderzusetzen, einschließlich der Gefahr, dass fortschrittliche KI eines Tages zur Entwicklung von Biowaffen eingesetzt werden könnte. Kritiker behaupten, dass der Fokus der Bewegung auf spekulative zukünftige Risiken den Interessen von Top-Tech-Unternehmen dient, indem sie politische Entscheidungsträger von bestehenden Schäden durch KI ablenkt, einschließlich ihrer Tendenz, rassistische Vorurteile zu fördern oder den Urheberrechtsschutz zu untergraben.
Die Verbindung zwischen effektiven altruistischen Ideen und der KI-Branche ist bereits eng – viele Schlüsselpersonen in Top-KI-Unternehmen sind Befürworter effektiven Altruismus. Jetzt dient RAND, eine einflussreiche, jahrzehntealte Denkfabrik, als mächtiges Vehikel, durch das diese Ideen Eingang in die amerikanische Politik finden.
Bei RAND sind sowohl CEO Jason Matheny als auch der leitende Informationswissenschaftler Jeff Alstott bekannte effektive Altruisten, und beide Männer haben Verbindungen zur Biden-Administration: Sie arbeiteten sowohl im Büro für Wissenschafts- und Technologiepolitik des Weißen Hauses als auch im Nationalen Sicherheitsrat zusammen, bevor sie zu RAND kamen letztes Jahr.
RAND-Sprecher Jeffrey Hiday bestätigte, dass RAND-Mitarbeiter, darunter Alstott, an der Ausarbeitung der Meldepflichten und anderer Teile der AI-Durchführungsverordnung beteiligt waren. Hiday sagte, dass RAND existiert, um „[conduct] Recherche und Analyse zu kritischen Tagesthemen, [and] Dann [share] diese Forschung, Analyse und Expertise mit politischen Entscheidungsträgern.“
RAND erhielt Anfang des Jahres von Open Philanthropy mehr als 15 Millionen US-Dollar an freiwilligen Zuschüssen für KI und Biosicherheit. Die effektiv-altruistische Gruppe hat persönliche und finanzielle Verbindungen zu den KI-Firmen Anthropic und OpenAI, und führende RAND-Mitarbeiter sind eng mit wichtigen Unternehmensstrukturen dieser Unternehmen verbunden.
Matheny ist eines von fünf Mitgliedern des „Long-Term Benefit Trust“ von Anthropic. Und Tasha McCauley – eine außerordentliche leitende Managementwissenschaftlerin bei RAND mit angeblich tiefsitzender Angst vor der KI-Apokalypse – verließ letzten Monat den Vorstand von OpenAI, nachdem sie versucht hatte, OpenAI-CEO Sam Altman von seinem Posten zu entfernen.
Zwei vom Horizon Institute for Public Service finanzierte KI-Stipendiaten – eine von Open Philanthropy finanzierte Organisation, die Mitarbeiter in ganz Washington vermittelt, um an existenziellen Risiken und anderen politischen Fragen im Zusammenhang mit KI und Biotechnologien zu arbeiten – arbeiten bei RAND. Diese Stipendiaten sind Teil eines breiteren Netzwerks, das von Open Philanthropy und anderen technologienahen Gruppen finanziert wird und KI-Mitarbeiter im Kongress, bei Bundesbehörden und in wichtigen Denkfabriken in Washington finanziert.
Der zunehmende Einfluss von RAND auf die KI-Politik im Weißen Haus kommt daher, dass seine Mitarbeiter begonnen haben, Bedenken hinsichtlich der neuen Assoziation des Think Tanks mit effektivem Altruismus zu äußern.
Bei einem umfassenden Treffen von RAND-Mitarbeitern am 25. Oktober, von dem POLITICO eine Audioaufzeichnung erhalten hatte, befürchtete ein Mitarbeiter, dass die Beziehung von RAND zu Open Philanthropy seinen Ruf als „streng und objektiv“ zugunsten der Förderung „der Agenda des effektiven Altruismus“ untergraben könnte .“
In derselben Aufnahme sagte Matheny, dass RAND das Weiße Haus bei der Ausarbeitung der AI-Exekutivverordnung unterstützt habe. Die am 30. Oktober unterzeichnete Verordnung sieht weitreichende neue Berichtspflichten für Unternehmen vor, die auf dem neuesten Stand der KI und Biotechnologie sind. Diese Anforderungen prägen den Ansatz der Biden-Regierung in Bezug auf KI – und sie wurden stark von Alstott und anderen Mitarbeitern von RAND beeinflusst.
Ein KI-Forscher mit Kenntnissen über die Ausarbeitung der Verordnung, der aufgrund der Sensibilität des Themas um Anonymität bat, sagte gegenüber POLITICO, dass Alstott und andere RAND-Mitarbeiter das Weiße Haus bei der Ausarbeitung der Anordnung erheblich unterstützt hätten. Der Forscher sagte, Alstott und andere bei RAND seien besonders an der Ausarbeitung der Berichtsanforderungen in Abschnitt 4 beteiligt gewesen.
Abschnitt 4 der Verordnung verlangt von Unternehmen unter anderem, detaillierte Informationen über die Entwicklung fortschrittlicher KI-Modelle und die großen Cluster von Mikrochips, die zu deren Training verwendet werden, bereitzustellen. Außerdem schreibt es strengere Sicherheitsanforderungen für diese KI-Modelle vor, führt neue Überprüfungsmechanismen für Biotech-Unternehmen ein, die an der Gensynthese beteiligt sind, und fördert „Know-Your-Customer“-Regeln für KI- und Biotech-Unternehmen.
Viele der konkretesten Aspekte der Executive Order waren Ideen, die zuvor von Alstott vertreten wurden. Alle sechs übergreifenden politischen Empfehlungen, die Alstott während einer Senatsanhörung im September zu KI-gestützten Bedrohungen abgegeben hat, haben auf die eine oder andere Weise Eingang in Abschnitt 4 gefunden. Dazu gehört auch der genaue Schwellenwert, ab dem Unternehmen Informationen über fortschrittliche KI-Modelle melden müssen – sowohl Alstott als auch das Weiße Haus legen diesen Schwellenwert auf mehr als 10^26 Operationen fest.
Bei der Generalversammlung der RAND-Mitarbeiter am 25. Oktober – fünf Tage bevor Biden den Befehl unterzeichnete – spielte Matheny auf den Einfluss von RAND an und sagte, dass der „Nationale Sicherheitsrat, [the Department of Defense] Und [the Department of Homeland Security] waren zutiefst besorgt über das katastrophale Risiko zukünftiger KI-Systeme und haben RAND gebeten, mehrere Analysen zu erstellen.“ Der RAND-CEO sagte, dass diese Analysen „Informationen zu neuen Exportkontrollen und einer wichtigen Exekutivmaßnahme lieferten, die nächste Woche vom Weißen Haus erwartet wird“.
Eine E-Mail vom 30. Oktober, die Alstott mehrere Stunden vor der Veröffentlichung der Durchführungsverordnung durch das Weiße Haus an eine Reihe von RAND-Konten schickte – von der POLITICO eine Kopie erhalten hatte – enthielt einen Anhang, den Alstott „eine Version“ nannte [of the order] von vor einer Woche.“ Dass Alstott eine Woche vor seiner Unterzeichnung im Besitz einer aktuellen Kopie der Anordnung war, deutet darauf hin, dass er eng an der Entwicklung beteiligt war.
Hiday bestätigte die Richtigkeit der Audioaufzeichnung des All-Hands-Treffens vom 25. Oktober sowie der von Alstott gesendeten E-Mail.
Hiday sagte, RAND habe die ersten Empfehlungen für zumindest einige der Bestimmungen gegeben, die in Abschnitt 4 endeten. Der KI-Forscher mit Kenntnis des Entwurfs der Anordnung sagte, dass die Reihenfolge der Operationen darauf hindeutet, dass die Denkfabrik im Weißen Haus ein unangemessenes Maß an Einfluss ausgeübt hat . Indem der Forscher als erster Empfehlungsgeber für wichtige Bestimmungen der KI-Durchführungsverordnung fungierte – anstatt der Biden-Regierung lediglich bei der Ausarbeitung und Umsetzung ihrer eigenen Prioritäten zu helfen – äußerte er Bedenken, dass RAND über eine „technische Hilfsoperation“ hinaus zu einer „Einflussoperation“ geworden sei .“
Hiday lehnte die Vorstellung ab, dass RAND die KI- und Biosicherheitsprioritäten von Open Philanthropy zu Unrecht in die Durchführungsverordnung aufgenommen habe, nachdem er Anfang des Jahres mehr als 15 Millionen US-Dollar an diskretionären Zuschüssen für KI und Biosicherheit vom effektiv-altruistischen Geldgeber erhalten hatte.
„Die Personen und Organisationen, die RAND-Forschung finanzieren, haben keinen Einfluss auf die Ergebnisse unserer Arbeit, einschließlich unserer politischen Empfehlungen“, sagte Hiday. Der RAND-Sprecher fügte hinzu, dass „strikte Richtlinien gelten, um Objektivität zu gewährleisten“.
Auf die Frage, ob Matheny oder Alstott – beide kürzlich Mitarbeiter des Weißen Hauses – ihre früheren Beziehungen innerhalb der Regierung genutzt haben, um Einfluss auf die KI-Politik zu nehmen, sagte Hiday: „Jeder, der RAND beitritt, einschließlich [Matheny] Und [Alstott]verfügt über ein ausgedehntes Netzwerk professioneller Beziehungen, die in unserer gesamten Organisation genutzt werden, um die größtmögliche Reichweite und Wirkung unserer Forschung zum Nutzen des Gemeinwohls sicherzustellen.“
Die Sprecherin des Weißen Hauses, Robyn Patterson, wollte RANDs Beteiligung an der Ausarbeitung der AI-Executive Order weder bestätigen noch dementieren und auch keine Fragen zu RANDs Beziehung zu Open Philanthropy beantworten.
Patterson sagte, dass Bidens Maßnahmen zur KI „ein breites Spektrum an Risiken angehen – darunter Risiken für Bürgerrechte, Privatsphäre, Verbraucher, Arbeitnehmer, Marktversagen und nationale Sicherheit – und sie stellen auch sicher, dass wir KI angemessen nutzen, um einige der größten Risiken anzugehen.“ bedeutende Herausforderungen unserer Zeit, wie die Heilung von Krankheiten und die Bekämpfung des Klimawandels.“
Mike Levine, Sprecher von Open Philanthropy, sagte, seine Organisation sei „stolz darauf, unabhängige Experten unterstützt zu haben, die gebeten wurden, zu den Bemühungen von Präsident Biden beizutragen, die Dynamik der freiwilligen Verpflichtungen des Weißen Hauses auszubauen.“ [on AI safety].“ Levine stellte fest, dass einige Forscher, die den Einfluss effektiven Altruismus auf die KI-Politik kritisierten, Aspekte von Bidens Durchführungsverordnung lobten. Zusätzlich zu den neuen Meldepflichten enthielt die Anordnung mehrere Abschnitte, die sich mit bestehenden KI-Schäden befassen sollten.
Einige RAND-Mitarbeiter äußern intern Bedenken darüber, wie sich die Verbindungen der Organisation zu Open Philanthropy und effektivem Altruismus auf die Objektivität der 75 Jahre alten Denkfabrik auswirken könnten.
Bei demselben Plenumstreffen am 25. Oktober sagte ein unbekannter Fragesteller, dass die Verbindungen zwischen RAND und Open Philanthropy, die in einem früheren POLITICO-Artikel hervorgehoben wurden, „im Widerspruch zum Ruf des ehrwürdigen Think Tanks für seine „strenge und objektive Analyse“ zu stehen scheinen. Der Fragesteller fragte Matheny, ob er glaube, dass „der Vorstoß für eine wirksame Altruismus-Agenda mit Zeugenaussagen und politischen Memos unter der Marke RAND angemessen sei.“
Matheny antwortete teilweise, dass es „unverantwortlich“ sei [RAND] „Mögliche katastrophale Risiken der KI nicht anzugehen, insbesondere wenn die politischen Entscheidungsträger uns darum bitten.“
Er behauptete auch, dass POLITICO „die Besorgnis über die KI-Sicherheit fälschlicherweise als ein Randthema dargestellt habe, obwohl es heute in Wirklichkeit das vorherrschende Thema bei den meisten führenden KI-Forschern ist.“
Bei demselben Treffen bat ein anderer unbekannter Fragesteller Matheny, sich zu „dem Drang zur Einstellung von Mitarbeitern“ zu äußern [effective altruist] Menschen innerhalb von RAND und schaffen eine einheitliche Gruppe von Gefährten außerhalb des normalen RAND-Ökosystems.“ Der Fragesteller sagte, dass die im POLITICO-Artikel hervorgehobene Beziehung zwischen RAND und Open Philanthropy „das Vertrauen in unsere Organisation gefährdet“.
Matheny antwortete teilweise, dass RAND „bei der Einstellung von Mitarbeitern die gleiche Sorgfalt walten ließ wie bei unseren Veröffentlichungen“. Der RAND-CEO fügte hinzu: „Wenn überhaupt, [he’s] Ich habe gesehen, dass Open Philanthropy in der Art und Weise, wie wir die Arbeit erledigt haben, unkomplizierter vorgegangen ist.“
Hiday sagte gegenüber POLITICO, dass es keinen „Drang zur Einstellung“ gebe [effective altruist] Menschen innerhalb von RAND“, stellte jedoch fest, dass der Think Tank „verschiedene Arten von Stipendienprogrammen veranstaltet“.