Beamte des Pentagon haben Alarm geschlagen wegen „einzigartiger Klassen von Schwachstellen für KI oder autonome Systeme“, die sie hoffentlich durch neue Forschungsergebnisse beheben können.
Das Programm mit dem Namen „Guaranteing AI Robustness against Deception“ (GARD) hat seit 2022 die Aufgabe zu ermitteln, wie visuelle Daten oder andere elektronische Signaleingaben für die KI durch die kalkulierte Einführung von Rauschen manipuliert werden könnten.
Informatiker eines Verteidigungsunternehmens von GARD haben mit kaleidoskopischen Patches experimentiert, die KI-basierte Systeme dazu verleiten sollen, falsche Ausweise zu