Die Regulierungsbehörden haben gewarnt, dass die KI vor ihrem „Oppenheimer-Moment“ steht, und fordern die Menschen auf, zu handeln, bevor es zu spät ist.
Die Aussagen wurden am Montag auf einer Konferenz in Wien gemacht und bezogen sich auf J. Robert Oppenheimer, der 1945 an der Erfindung der Atombombe beteiligt war, bevor er sich für die Kontrolle der Verbreitung von Atomwaffen einsetzte.
An der Veranstaltung nahmen Zivil-, Militär- und Technologievertreter aus mehr als 100 Ländern teil, die über die Kontrolle ihres Landes über die Militarisierung der KI diskutierten.
Das US-Pentagon hat Millionen von Dollar für KI-Start-ups bereitgestellt, die Europäische Union arbeitet an einer Datenbank zur Bewertung von Schlachtfeldzielen und die israelische Armee verfügt über einen Algorithmus, der eine „Tötungsliste“ erstellt.
„Das ist der Oppenheimer-Moment unserer Generation“, sagte der österreichische Außenminister Alexander Schallenberg. „Jetzt ist es an der Zeit, sich auf internationale Regeln und Normen zu einigen.“
„Das ist der Oppenheimer-Moment unserer Generation“, warnte der österreichische Außenminister Alexander Schallenberg (oben), dessen Regierung eine zweitägige Konferenz zur Einschränkung von KI in Kriegsgebieten veranstaltete. „Jetzt ist es an der Zeit, sich auf internationale Regeln und Normen zu einigen“, sagte er
In seiner Eröffnungsrede am Montag beschrieb Schallenberg künstliche Intelligenz (KI) als den bedeutendsten Fortschritt in der Kriegsführung seit der Erfindung des Schießpulvers vor über einem Jahrtausend. Oben links der Thermonator, der flammenwerfende Roboterhund einer in Ohio ansässigen Firma für 9.420 US-Dollar
Auf der Konferenz dieser Woche äußerte sich ein ehemaliger KI-Investor der Google-Muttergesellschaft besorgt: „Die Anreize des Silicon Valley stehen möglicherweise nicht im Einklang mit dem Rest der Menschheit.“
KI wurde entwickelt, um das Leben der Menschen zu verbessern und es ihnen zu ermöglichen, auf alltägliche Aufgaben zu verzichten und sich auf das große Wohl zu konzentrieren. Seitdem hat sie jedoch eine Wendung genommen, die die Menschheit zerstören könnte, wenn sie nicht reguliert wird.
In seiner Eröffnungsrede beschrieb Schallenberg die KI als den bedeutendsten Fortschritt in der Kriegsführung seit der Erfindung des Schießpulvers vor über einem Jahrtausend.
Der einzige Unterschied sei, dass KI noch gefährlicher sei, fuhr er fort.
„Lassen Sie uns zumindest sicherstellen, dass die tiefgreifendste und weitreichendste Entscheidung – wer lebt und wer stirbt – in den Händen von Menschen und nicht von Maschinen bleibt“, sagte Schallenberg.
Der österreichische Minister argumentierte, dass die Welt es brauche um „die menschliche Kontrolle sicherzustellen“, angesichts des besorgniserregenden Trends, dass militärische KI-Software den Menschen ersetzt Entscheidungsprozess.
Die Aussagen kommen nur wenige Wochen, nachdem festgestellt wurde, dass der israelische Arm ein KI-System verwendet ihre „Tötungsliste“ mit mutmaßlichen Hamas-Terroristen zu füllen, was zum Tod von Frauen und Kindern führte.
In einem Bericht der Zeitschrift +972 wurden sechs israelische Geheimdienstoffiziere zitiert, die zugaben, eine KI namens „Lavender“ eingesetzt zu haben, um bis zu 37.000 Palästinenser als mutmaßliche Militante einzustufen – und diese Menschen und ihre Häuser als akzeptable Ziele für Luftangriffe zu markieren.
In seiner Eröffnungsrede am Montag beschrieb Schallenberg künstliche Intelligenz (KI) als den bedeutendsten Fortschritt in der Kriegsführung seit der Erfindung des Schießpulvers vor über einem Jahrtausend. Oben links der Thermonator, der flammenwerfende Roboterhund einer in Ohio ansässigen Firma für 9.420 US-Dollar
Zivil-, Militär- und Technologieführer aus über 100 Ländern trafen sich am Montag in Wien (oben), um, wie der Physiker Anthony Aguirre es ausdrückte, „die Zukunft der Schlachtroboter“ zu verhindern.
Der Außenminister von Costa Rica, Arnoldo André Tinoco, äußerte auf der Konferenz seine Besorgnis darüber, dass KI-gestützte Kriegswaffen bald von Terroristen und anderen nichtstaatlichen Akteuren eingesetzt werden, was einen neuen Rechtsrahmen erfordern würde. Oben: eine US-amerikanische Reaper-Drohne
Laut dem Bericht wurde Lavender anhand von Daten aus der jahrzehntelangen Überwachung der palästinensischen Bevölkerung durch den israelischen Geheimdienst trainiert und dabei die digitalen Fußabdrücke bekannter Militanter als Modell dafür verwendet, nach welchem Signal man im Lärm suchen sollte.
Aber die Technologie wurde auch zu Drohnen hinzugefügt, die im Ukraine-Krieg eingesetzt wurden und dem Land dabei helfen, Ziele zu finden, die ohne menschliche Führung Munition abfeuern.
Österreichs oberster Abrüstungsbeamter Alexander Kmentt, der die Organisation der Montagskonferenz leitete, wies darauf hin, dass traditionelle „Rüstungskontrollverträge“ für Software wie KI nicht funktionieren würden.
„Wir reden nicht über ein einzelnes Waffensystem, sondern über eine Kombination von Dual-Use-Technologien“, sagte Kmentt. „Ein klassischer Ansatz zur Rüstungskontrolle funktioniert nicht.“
Kmentt argumentierte, dass derzeit bestehende Rechtsinstrumente wie Exportkontrollen und humanitäre Gesetze eine bessere und schnellere Lösung für die bereits andauernde Krise wären, anstatt auf die Ausarbeitung eines neuen „Magnum Opus“-Vertrags zu warten.
Auch Costa Ricas Außenminister Arnoldo André Tinoco äußerte seine Besorgnis darüber, dass KI-gestützte Kriegswaffen bald von Terroristen und anderen eingesetzt werden nichtstaatlicher Akteure, die einen neuen Rechtsrahmen erfordern.
‘„Die einfache Verfügbarkeit autonomer Waffen beseitigt Beschränkungen, die dafür sorgten, dass nur wenige am Wettrüsten teilnehmen konnten“, sagte er.
„Jetzt können Studenten mit einem 3D-Drucker und grundlegenden Programmierkenntnissen Drohnen bauen, die in der Lage sind, große Verluste zu verursachen.“ „Autonome Waffensysteme haben das Konzept der internationalen Stabilität für immer verändert.“