Der pädagogische Einsatz von KI nimmt zu
Eben Brown von FOX News berichtet, dass künstliche Intelligenz bei Schülern sowohl innerhalb als auch außerhalb des Klassenzimmers immer häufiger zum Einsatz kommt.
Derzeitige ausfallsichere Maßnahmen, die sicherstellen sollen, dass durch künstliche Intelligenz (KI) generiertes Material eindeutig gekennzeichnet ist, erfüllen keinen angemessenen Standard und sind mit der aktuellen Technologie möglicherweise nicht möglich, warnt ein Experte.
„Es besteht kein Interesse und es ist schwierig, dies zu tun“, sagte Michael Wilkowski, Chief Technology Officer der KI-gesteuerten Banken-Compliance-Plattform Silent Eight, gegenüber Fox News Digital und betonte, dass es seiner Ansicht nach „eigentlich fast unmöglich sei, etwas herauszufinden“. ob KI-generiert wurde oder nicht.
Die derzeitige Methode zum Anbringen eines Wasserzeichens erscheint auf den ersten Blick fortschrittlicher als die herkömmliche Methode, bei der eine physische Markierung auf dem Material angebracht wird, um klar und deutlich zu machen, dass das Wasserzeichen vorhanden ist. Stattdessen verfügt KI-generiertes Material über einen eingebetteten Code.
KI-Unternehmen haben sich für das digitale Wasserzeichen eingesetzt, um Bedenken entgegenzuwirken, dass KI-generierte Bilder und Videos letztendlich die Grenze zwischen authentischen und generierten Inhalten verwischen werden, und alle von OpenAI bis Meta haben sich verpflichtet, an der Technologie zu arbeiten, berichtete das Wired-Magazin.
Urheberrechtsausschuss trifft Entscheidung über preisgekröntes Bild
Studien mehrerer amerikanischer Universitäten haben jedoch ergeben, dass es für Benutzer nicht nur möglich, sondern auch relativ einfach ist, die Wasserzeichen zu entfernen oder zu „zerstören“. Forscher der University of California, Santa Barbara und Carnegie Mellon fanden im August heraus, dass die Wasserzeichen „nachweislich entfernbar“ sind – und zwar nicht nur bei bestimmten Beispielen, sondern bei jedem Beispiel, auf das sie stießen.
„Unsere theoretische Analyse hat gezeigt, dass der vorgeschlagene Regenerationsangriff in der Lage ist, jedes unsichtbare Wasserzeichen aus Bildern zu entfernen und das Wasserzeichen für jeden Erkennungsalgorithmus unentdeckbar zu machen“, so die Schlussfolgerung der Studie.
Am 12. März 2014 wird beim US-Geheimdienst in Washington, D.C. eine Wasserzeichensimulation auf einem gefälschten 100-Dollar-Schein gezeigt. (Andrew Harrer / Bloomberg über Getty Images)
Der „Regenerationsangriff“, wie der Name schon sagt, funktioniert, indem er „Rauschen“ in das Bild einfügt – wodurch ein Teil des Bildes mit dem darauf befindlichen Wasserzeichen effektiv zerstört wird – und das Bild dann rekonstruiert wird. In der Studie wurde festgestellt, dass dieser Ansatz „flexibel ist und mit vielen vorhandenen Bildrauschunterdrückungsalgorithmen und vorab trainierten generativen Modellen instanziiert werden kann“.
Die University of Maryland führte im September eine eigene Studie zum gleichen Prozess durch und kam zu dem Schluss, dass „wir zum jetzigen Zeitpunkt über keine zuverlässigen Wasserzeichen verfügen“ und dass das Team „sie alle kaputt gemacht“ habe.
WAS IST KÜNSTLICHE INTELLIGENZ (KI)?
Das Maryland-Team demonstrierte nicht nur die Fähigkeit, das Wasserzeichen zu entfernen, sondern zeigte auch, wie es die Detektoren „fälschen“ oder austricksen konnte, indem es mehrere Fehler in verschiedenen Aspekten des Prozesses aufzeigte, die ihn bestenfalls fehlerhaft machten.
„Wenn jemand über die Technologie verfügt … besteht das Problem darin, dass ein schlechter Akteur genau dieselben Tools oder Algorithmen verwenden kann.“[s]„, sagte Wilkowski und stellte fest, dass viele der Modelle und KI-Tools am Ende „allgemein verfügbar“ seien.
Im Quantum-KI-Labor von Google arbeiten Menschen zwischen den für Technologieunternehmen typischen Kletterwänden und Elektrofahrrädern daran, die nächste Computergeneration zu gestalten. (Frederic J. Brown / AFP über Getty Images / Datei)
„Wenn jemand die Tools zur Überprüfung implementieren kann [the watermark]„Die Bösewichte können tatsächlich Tools entwickeln, um die Wasserzeichen zu entfernen“, fügte er hinzu und sagte, dass auf Algorithmen basierende Modelle zum Anbringen oder Erkennen von Wasserzeichen besonders anfällig seien, da sie lediglich „einen anderen Algorithmus“ benötigen, um dem entgegenzuwirken.
Damit möchte ich nur auf die Schwierigkeit hinweisen, zu erkennen, ob visuelle Medien KI-generiert sind. Wenn es um Texte oder gar etwas so Komplexes wie Handelstransaktionen geht, gibt es diesen Prozess laut Wilkowski nicht.
PAPIER ENTHÜLLT DAS GEHEIMNIS, UM KI-BOTS DEN Spieß umzudrehen
Sein Unternehmen kann KI-generiertes Textmaterial nur durch Prüfung ermitteln, um mögliche Quellen für das Material zu ermitteln, da KI-generiertes Material kein Original ist, sondern auf bereits vorhandenem Material basiert, um die Modelle zu trainieren.
Eines der Probleme, mit denen Sicherheitsfirmen konfrontiert sind, besteht darin, dass mit der Verbesserung der Erkennungsmethoden auch die Methoden zur Vermeidung einer Entdeckung verbessert werden. Wenn ein Mechanismus einen bestimmten Schwellenwert festlegt, um zu bestimmen, ob eine Untersuchung verdächtiger Transaktionen und Handelsaktivitäten eingeleitet werden soll, würden böswillige Akteure einfach einen Weg finden, ihre Geschäfte knapp unter diesem Schwellenwert abzuwickeln.
Diese Ansicht zeigt den Handelssaal während der Notierung der TKO Group Holdings an der New York Stock Exchange am 12. September 2023 in New York City. (Michelle Farsi / Zuffa LLC)
Die spanische Polizei und Interpol haben im vergangenen Jahr einen Wettring zerschlagen, der Sportwetten manipulierte, indem er das Satellitensignal von Sportarenen kaperte, um zu beobachten, was vor sich ging, bevor selbst die Buchmacher ihre Quoten sehen und anpassen konnten. Den Behörden wurde erst klar, dass etwas nicht stimmte, als sie bei einem Pingpong-Turnier einige ungewöhnlich hohe Einsätze bemerkten.
KLICKEN SIE HIER, UM DIE FOX NEWS-APP ZU ERHALTEN
„Wir werden von Tag zu Tag schlauer, indem wir entdecken, dass es ausgefeilter ist als noch vor 10 Jahren“, sagte Wilkowski.
„Es geht darum, Unregelmäßigkeiten aufzudecken; es geht darum herauszufinden, dass jemand mitten in der Nacht eine Überweisung getätigt hat oder dass jemand von einem völlig anderen Ort auf der Welt aus Überweisungen vorgenommen hat, während er sich vor ein paar Minuten tatsächlich in einer völlig anderen Position befand.“ ,” er fügte hinzu. „Es dreht sich alles um die Verarbeitung großer Datenmengen … sie ist sehr anspruchsvoll.“