Künstliche Intelligenz könnte zum Design biologischer Waffen missbraucht werden, warnen Wissenschaftler

Künstliche Intelligenz könnte missbraucht werden, um hochgiftige chemische und biologische Waffen zu entwickeln, warnen Wissenschaftler.

Die Computeralgorithmen sind eine Kraft des Guten und identifizieren neue Formen von Antibiotika und Medikamenten zur Bekämpfung der Covid-Infektion.

Aber vier Forscher, die an der KI-basierten Wirkstoffforschung beteiligt sind, haben jetzt herausgefunden, dass die Technologie leicht manipuliert werden könnte, um nach toxischen Nervenkampfstoffen zu suchen.

Die vier wurden vom Eidgenössischen Institut für nuklearen, biologischen und chemischen Schutz gebeten, zu prüfen, ob KI von Personen mit Hintergedanken eingesetzt werden könnte – und ihre KI fand in sechs Stunden 40.000 potenziell toxische Medikamente.

Sie haben ihre Bedenken in der Zeitschrift Nature Machine Intelligence hervorgehoben.

Fabio Urbina, Hauptautor des Artikels, sagte gegenüber dem Online-Technologiemagazin The Verge, die Übung habe ihnen klar gemacht, dass „wir nur den Schalter umlegen und sagen müssen: „Anstatt von der Toxizität wegzugehen, was wäre, wenn wir uns der Toxizität zuwenden würden?“ ‘

Ihre KI fing an, all dies zu produzieren [toxic] Moleküle, von denen viele wie chemische Kampfstoffe aussehen“.

Einige der Moleküle waren „giftiger als VX“, ein Nervenkampfstoff, der in den 1950er Jahren vom britischen Defense Science and Technology Lab entwickelt wurde und durch Muskellähmung tötet.

Herr Urbina von Collaboration Pharmaceuticals in North Carolina, USA, sagte: „Die Sorge war, wie einfach es war. Viele der Dinge, die wir verwendet haben, sind kostenlos da draußen. Sie können einen Toxizitätsdatensatz von überall herunterladen.“