Künstliche Intelligenz hat der kriminellen Unterwelt einen enormen Produktivitätsschub beschert.
Generative KI bietet ein neues, leistungsstarkes Toolkit, das es böswilligen Akteuren ermöglicht, weitaus effizienter und internationaler als je zuvor zu agieren. Im vergangenen Jahr haben Cyberkriminelle größtenteils aufgehört, eigene KI-Modelle zu entwickeln. Stattdessen greifen sie auf Tricks mit vorhandenen Tools zurück, die zuverlässig funktionieren.
Denn Kriminelle wollen ein einfaches Leben und schnelle Gewinne. Damit eine neue Technologie die unbekannten Risiken wert ist, die mit ihrer Einführung einhergehen – zum Beispiel ein höheres Risiko, erwischt zu werden –, muss sie besser sein und höhere Vorteile bringen als die, die sie derzeit nutzen. Melissa Heikkilä, unsere leitende KI-Reporterin, hat fünf Möglichkeiten zusammengefasst, wie Kriminelle KI jetzt einsetzen.
Der jüngste Fehler von OpenAI zeigt die Herausforderungen, vor denen chinesische KI-Modelle stehen
Die Veröffentlichung von GPT-4o, einem neuen KI-„Omnimodell“, letzte Woche sollte ein großer Moment für OpenAI sein. Doch nur wenige Tage später scheint es, als ob das Unternehmen in großen Schwierigkeiten steckt. Vom Rücktritt des größten Teils des Sicherheitsteams bis hin zu Scarlett Johanssons Vorwurf, dass das Unternehmen gegen ihre Zustimmung ihre Stimme für das Model nachgeahmt habe, befindet sich das Unternehmen nun im Modus der Schadensbegrenzung.
Darüber hinaus sind die Daten, mit denen der Tokenizer von GPT-4o trainiert wurde – ein Tool, das dem Modell hilft, Text effizienter zu analysieren und zu verarbeiten – durch chinesische Spam-Websites verunreinigt. Infolgedessen ist die chinesische Token-Bibliothek des Modells voller Phrasen im Zusammenhang mit Pornografie und Glücksspiel. Dies könnte einige Probleme verschlimmern, die bei KI-Modellen häufig auftreten: Halluzinationen, schlechte Leistung und Missbrauch.
Aber OpenAI ist nicht das einzige Unternehmen, das mit diesem Problem zu kämpfen hat: Es gibt einige große Herausforderungen, die damit verbunden sind, großen Sprachmodellen das Sprechen von Chinesisch beizubringen. Lesen Sie unsere Geschichte, um mehr zu erfahren.
—Zeyi Yang
Diese Geschichte stammt von China Report, unserem wöchentlichen Newsletter, der Ihnen Insider-Informationen über Technologie in China gibt. Melden Sie sich an um es jeden Dienstag in Ihrem Posteingang zu erhalten.
Die Pflichtlektüre