Schwärme von Killer-KI-Drohnen klingen vielleicht wie die Handlung eines dystopischen Science-Fiction-Thrillers.
Doch in einem erschreckenden Blick in die Zukunft hat ein Wissenschaftler gezeigt, wie einfach es bereits ist, eine „Morddrohne“ zu bauen, die Menschen jagen und töten kann.
In nur wenigen Stunden baute Luis Wenus, ein Ingenieur und Unternehmer, eine 115-Dollar-Drohne (89,99 £) in eine tödliche Waffe um.
Mithilfe der KI-Gesichtserkennung wurde die Drohne so programmiert, dass sie Personen erkennt und mit voller Geschwindigkeit auf sie zurast.
Obwohl Herr Wenus sagt, er habe die Drohne „für ein Spiel“ gebaut, sagte er auch, er wolle das Bewusstsein dafür schärfen, wie leicht sie für einen tödlichen Terroranschlag eingesetzt werden könnte.
Killerdrohnen waren die Inspiration für den Science-Fiction-Horrorfilm The Drone aus dem Jahr 2019, aber sie sind vielleicht näher an der Realität als wir, aber sie sind näher als wir denken und sogar einfacher herzustellen als bisher angenommen
In einem auf X, ehemals Twitter, geposteten Video demonstrierten Herr Wenus und sein Ingenieurkollege, wie eine kommerzielle Drohne so programmiert werden kann, dass sie Ziele verfolgt.
In dem Beitrag schreibt Herr Wenus: „Ich dachte, es würde Spaß machen, eine Drohne zu bauen, die einen als Spiel herumjagt.“
Das erschreckende Video zeigt jedoch schnell, wie gefährlich diese Technologie wirklich sein könnte.
Die Drohne verwendet ein KI-„Objekterkennungsmodell“, um Gesichter mithilfe der integrierten Kamera zu erkennen.
Sobald sie ein Gesicht sieht, ist die Drohne so programmiert, dass sie versucht, es in der Mitte ihres Blickfelds zu halten, direkt vorwärts zu fliegen und ihr Ziel zu verfolgen.
In einem Modus stürmt die Drohne direkt auf alles zu, was sie als Gesicht erkennt.
In diesem Modus zeigt das Video, wie die Drohne beginnt, andere Menschen im Park anzugreifen und erst dann aufhört, wenn Herr Wenus sie fängt.
Luis Wenus, ein Ingenieur und Unternehmer, zeigte, wie er eine kommerziell erhältliche Drohne in eine „Attentäter-Drohne“ umwandelte, die in nur wenigen Stunden Ziele jagen sollte
Die Drohne verfügt auch über eine zweite Einstellung, die Herr Wenus als „Morddrohne“ beschreibt.
Herr Wenus schrieb: „Ich konnte auch eine Gesichtserkennung hinzufügen und es nur dazu bringen, jemanden anzugreifen, von dem es wusste, wer es war. Die Person konnte aus einer Entfernung von 10 Metern leicht identifiziert werden.“
Das Video zeigt, wie die Drohne gezielt ihr Ziel verfolgt und dabei andere Personen ignoriert.
Und obwohl diese Drohne nicht besonders gefährlich ist, warnt Herr Wenus, dass tödlichere Drohnen eine ernsthafte Bedrohung darstellen könnten.
Er schrieb: „Der Bau dauerte buchstäblich nur ein paar Stunden und machte mir klar, wie beängstigend das ist.“ Man könnte leicht eine kleine Menge Sprengstoff daran befestigen und Hunderte davon herumfliegen lassen.’
In einem Beitrag auf X, ehemals Twitter, sagt Herr Wenus, dass er die Drohne „als Spiel“ entwickeln wollte, aber schnell erkannte, wie gefährlich diese Technologie sein könnte
Das Video zeigt, wie die Drohne so programmiert ist, dass sie Gesichter erkennt und mit voller Geschwindigkeit auf sie zufliegt
In den sozialen Medien äußerten einige Kommentatoren eine Mischung aus Bewunderung für die Technologie und Angst vor dem, wozu sie fähig sein könnte
Andere Kommentatoren waren besorgt darüber, dass die Entwicklung von Killerdrohnen mit ein wenig technischem Wissen mittlerweile extrem einfach sei
Sogar Elon Musk, CEO von X, äußerte seine Besorgnis darüber, dass es „erschreckend einfach“ sei, autonome Killerdrohnen zu entwickeln
In den sozialen Medien reagierten Kommentatoren mit einer Mischung aus Faszination und Entsetzen auf die Erfindung.
Als Antwort auf den Beitrag schrieb ein X-Benutzer: „Oberflächennah, das ist cool, aber die Möglichkeit, es für Böses zu nutzen, ist ein bisschen beängstigend!“
Ein anderer Kommentator fügte hinzu: „Ja, das sollte nicht einfach zu bauen sein …“
Sogar Elon Musk, CEO von X, antwortete auf den Beitrag mit den Worten: „Ja, es ist erschreckend einfach.“
Kleine, mit Sprengstoff beladene Drohnen haben bereits erhebliche Auswirkungen auf den Krieg in der Ukraine.
Ukrainische Drohnenbetreiber befestigen Granaten, Mörser und andere Sprengkörper an billigen, im Handel erhältlichen Drohnen, um tödliche Waffen herzustellen.
Diese First-Person-Drohnen haben sich als äußerst effektiv bei der Jagd und Zerstörung von allem erwiesen, von einzelnen Truppen bis hin zu Panzern und Bunkern.
Der entscheidende Unterschied besteht jedoch darin, dass diese Drohnen von einer Person gesteuert werden, die stets die Kontrolle über den Prozess hat, und nicht von einer autonomen KI.
Ukrainische Drohnenbetreiber (im Bild) setzen billige kommerzielle Drohnen mit Sprengkörpern ein, um russische Panzer und Bunker aufzuspüren
Die von Herrn Wenus in dieser Demonstration verwendete Drohne ist äußerst günstig und leicht zu bekommen, da sie bei Amazon für nur 115 $ (89,99 £) erhältlich ist.
Die wirkliche Gefahr besteht darin, dass billige, einfach herzustellende Schwärme autonomer Drohnen auf Schlachtfeldern oder sogar öffentlichen Plätzen eingesetzt werden könnten.
Herr Wenus schreibt: „Ich wette, dass wir in den nächsten Jahren eine Art Terroranschlag mit dieser Art von Technologie erleben werden.“
„Man braucht jetzt noch etwas technisches Wissen, um das zu bauen, aber es wird immer einfacher.“
Autonome Drohnenschwärme müssen noch auf dem Schlachtfeld eingesetzt werden, aber DARPA entwickelt Berichten zufolge eine Drohnenschwarm-Massenvernichtungswaffe namens AMASS (Autonomous Multi-Domain Adaptive Swarms-of-Swarms).
AMASS befindet sich noch in der Planungsphase, aber DARPA (Defense Advanced Research Project Agency) hat Angebote von Lieferanten für den 78-Millionen-Dollar-Auftrag eingeholt.
Herr Wenus schrieb: „Wir suchen nach Bomben und Waffen, aber ES GIBT NOCH KEINE ANTI-DROHNEN-SYSTEME FÜR GROßE VERANSTALTUNGEN UND ÖFFENTLICHE RÄUME.“ „Wir müssen so schnell wie möglich Anti-Drohnen-Systeme für zivile Räume bauen.“
Herr Wenus demonstriert den „Attentatsmodus“ der Drohne. Dieses Bild zeigt, wie die Drohne sein Gesicht erkennt und ihn mit der Anweisung „ANGRIFF!!“ als Ziel identifiziert.
Herr Wenus beschreibt sich selbst als „Open-Source-Absolutist“, was bedeutet, dass er der Meinung ist, dass wichtige Entwicklungen im Codebereich und insbesondere im Bereich der KI der Öffentlichkeit zugänglich sein sollten.
Und in den Antworten auf den Beitrag forderten mehrere Social-Media-Nutzer Herrn Wenus auf, den Code zu veröffentlichen oder ein vollständiges Tutorial zur Herstellung einer Morddrohne zu teilen.
In diesem Fall sagt er jedoch, dass er aufgrund der potenziellen Gefahr, die von autonomen Drohnen ausgeht, von der Veröffentlichung des Codes absehen werde.
„Ich werde vorerst nichts posten, es ist ehrlich gesagt super einfach zu programmieren, aber es macht keinen Sinn, es zu aktivieren“, fügte er hinzu.