Das UK Safer Internet Centre sagte, es habe Berichte von Schulen über Schüler erhalten, die KI-Generatoren nutzten, um anstößige Fotos zu erstellen.
Experten der Organisation sagten, solche Bilder – die rechtlich als Material für sexuellen Missbrauch von Kindern gelten – könnten schädliche Auswirkungen auf Jugendliche haben und fügten hinzu, dass die Bilder für Missbrauch oder sogar Erpressung verwendet werden könnten.
UKSIC forderte die Schulen auf, dafür zu sorgen, dass ihre Filter- und Überwachungssysteme in der Lage sind, illegales Material geräteübergreifend effektiv zu blockieren, um der Zunahme solcher Aktivitäten entgegenzuwirken.
David Wright, Direktor von UKSIC, stellte fest, dass KI für immer genutzt werden kann, fügte jedoch hinzu: „Die Berichte, die wir sehen, sollten keine Überraschung sein.
„Junge Menschen sind sich der Ernsthaftigkeit ihres Handelns nicht immer bewusst, dennoch sollte mit solchen schädlichen Verhaltensweisen gerechnet werden, wenn neue Technologien der Öffentlichkeit zugänglich gemacht werden.“
„Obwohl die Fallzahlen derzeit gering sind, befinden wir uns in der Krise und müssen sehen, dass jetzt Maßnahmen ergriffen werden, bevor die Schulen überlastet werden und das Problem zunimmt.“
Herr Wright erklärte, dass ein Eingreifen von entscheidender Bedeutung sei, um eine weitere Verbreitung krimineller Inhalte zu verhindern.
Im Oktober warnte die Internet Watch Foundation, die Teil von UKSIC ist, dass KI-generierte Bilder von sexuellem Kindesmissbrauch inzwischen so realistisch seien, dass viele von echten Bildern nicht mehr zu unterscheiden seien, und Tausende solcher Bilder seien online.
KI ist im letzten Jahr zunehmend zu einem Schwerpunktthema in der Online-Sicherheitsdebatte geworden, insbesondere seit der Einführung des Generators ChatGPT im letzten Jahr.
Online-Sicherheitsgruppen, Regierungen und Branchenexperten wünschen sich eine bessere Regulierung des Sektors, weil sie befürchten, dass er sich schneller entwickelt, als die Behörden darauf reagieren können.