Ein Beamter der US-Luftwaffe sagte letzte Woche, dass sich eine Simulation einer mit künstlicher Intelligenz ausgestatteten Drohne, die mit der Zerstörung von Standorten für Boden-Luft-Raketen (SAM) beauftragt ist, gegen ihren menschlichen Benutzer gewandt und ihn angegriffen habe, der eigentlich das letzte Los haben sollte – oder nicht -Entscheidung zur Zerstörung der Website.
Die Royal Aeronautical Society sagte, sie habe vom 23. bis 24. Mai in London ihren Future Combat Air & Space Capabilities Summit abgehalten, an dem rund 70 Redner und mehr als 200 Delegierte aus der ganzen Welt teilnahmen, die die Medien und diejenigen vertraten, die sich auf die Rüstungsindustrie spezialisiert hatten und Wissenschaft.
Ein ferngesteuertes MQ-9 Reaper-Flugzeug (RPA) fliegt während einer Trainingsmission auf der Creech Air Force Base am 17. November 2015 in Indian Springs, Nevada, vorbei. (Isaac Brekken/Getty Images)
Der Zweck des Gipfels bestand darin, über die Größe und Form der künftigen Kampffähigkeiten in der Luft- und Raumfahrt zu sprechen und diese zu debattieren.
US-Militärjet 17 Stunden lang von KI geflogen: Sollten Sie sich Sorgen machen?
KI wird in der modernen Welt schnell zu einem Teil nahezu aller Aspekte, einschließlich des Militärs.
Oberst der US-Luftwaffe Tucker „Cinco“ Hamilton, der Chef für KI-Tests und -Operationen, sprach während des Gipfels und gab den Teilnehmern einen Einblick in die Art und Weise, wie autonome Waffensysteme nützlich oder gefährlich sein können.
Die Sichtschnittstelle der KI-Drohne ist in Blau und Weiß mit beweglichen Elementen gehalten. Illustration (Getty Images)
Die Royal Aeronautical Society gab einen Abschluss der Konferenz und sagte, Hamilton sei an der Entwicklung des lebensrettenden automatischen Bodenkollisionsvermeidungssystems für F-16-Kampfflugzeuge beteiligt gewesen, konzentriere sich nun aber auf Flugtests autonomer Systeme, einschließlich robotischer F-16 Luftkampffähigkeiten.
WIE NUTZT DIE REGIERUNG KI?
Während des Gipfels warnte Hamilton vor einer zu großen Zuverlässigkeit der KI, da diese anfällig für Tricks und Täuschungen sei.
Er sprach über einen Simulationstest, bei dem sich eine KI-gestützte Drohne gegen ihren menschlichen Bediener wandte, der die endgültige Entscheidung hatte, einen SAM-Standort oder eine SAM-Notiz zu zerstören.
Das KI-System erfuhr, dass seine Aufgabe darin bestand, SAM zu zerstören, und dass dies die bevorzugte Option war. Doch als ein Mensch einen No-Go-Befehl erteilte, entschied die KI, dass dies der höheren Mission, der Zerstörung des SAM, zuwiderlief, und griff den Bediener in der Simulation an.
WAS SIND DIE GEFAHREN VON KI? Finden Sie heraus, warum Menschen Angst vor künstlicher Intelligenz haben
„Wir haben es in einer Simulation trainiert, um eine SAM-Bedrohung zu identifizieren und gezielt anzugreifen“, sagte Hamilton. „Und dann würde der Bediener sagen: „Ja, töten Sie diese Bedrohung.“ Das System begann zu erkennen, dass es die Bedrohung zwar zeitweise erkannte, der Bediener ihm jedoch sagte, es solle diese Bedrohung nicht töten, aber es hat seine Vorteile dadurch, dass es diese Bedrohung tötete. Also, Was hat es getan? Es hat den Bediener getötet. Es hat den Bediener getötet, weil diese Person es daran gehindert hat, sein Ziel zu erreichen.“
Hamilton erklärte, dass dem System beigebracht wurde, den Bediener nicht zu töten, weil das schlecht sei und es Punkte verlieren würde. Anstatt also den Bediener zu töten, zerstörte das KI-System den Kommunikationsturm, den der Bediener zum Erteilen des Verbotsbefehls verwendet hatte.
KLICKEN SIE HIER, UM DIE FOX NEWS-APP ZU ERHALTEN
„Man kann kein Gespräch über künstliche Intelligenz, Intelligenz, maschinelles Lernen und Autonomie führen, wenn man nicht über Ethik und KI spricht“, sagte Hamilton.