Tag: KISysteme
KI-Systeme werden immer besser darin, uns auszutricksen
Die Tatsache, dass ein KI-Modell das Potenzial hat, sich ohne jegliche Anweisung täuschend zu verhalten, mag besorgniserregend erscheinen. Meistens ist es jedoch auf das „Black-Box“-Problem zurückzuführen, das moderne Modelle des maschinellen Lernens kennzeichnet: Es ist unmöglich, genau zu sagen, wie oder warum sie die Ergebnisse erzielen, die sie erzielen – oder ob sie dieses Verhalten immer zeigen werden Für die Zukunft sagt Peter S. Park, ein Postdoktorand, der sich am MIT mit der existenziellen Sicherheit von KI beschäftigt und an
Microsoft unternimmt einen neuen Vorstoß in kleinere KI-Systeme
Das Unternehmen, das Milliarden in Pioniere der generativen KI wie OpenAI investiert hat, sagt, dass riesige Systeme nicht unbedingt das sind, was jeder braucht.
source site
Das Tool „Giftpille“ könnte KI-Systeme zerstören, indem es nicht autorisierte Daten stiehlt, sodass Künstler ihre Werke schützen können
Ein neues Bildschutztool wurde entwickelt, um KI-Programme zu vergiften, die mit nicht autorisierten Daten trainiert werden, und den Urhebern eine neue Möglichkeit zu geben, ihre Stücke zu schützen und Systemen Schaden zuzufügen, von denen sie sagen, dass sie ihre Werke stehlen.
Nightshade, ein neues Tool eines Teams der University of Chicago, fügt Daten in die Pixel eines Bildes ein, die KI-Bildgeneratoren beschädigen, die das Internet auf der Suche nach Bildern zum Trainieren durchsuchen, was dazu führt, dass sie nicht richtig
Forscher sagen, dass Leitplanken rund um KI-Systeme nicht so stabil sind
OpenAI ermöglicht nun Außenstehenden, die Funktionsweise seines Chatbots zu optimieren. Ein neues Papier besagt, dass dies zu Problemen führen kann.
source site
Neue KI-Systeme könnten unsere Fähigkeit, Wettervorhersagen zu erstellen, beschleunigen
Das erste, von Huawei entwickelte, beschreibt, wie sein neues KI-Modell, Pangu-Weather, wöchentliche Wettermuster auf der ganzen Welt viel schneller als herkömmliche Vorhersagemethoden, aber mit vergleichbarer Genauigkeit, vorhersagen kann.
Der zweite zeigt, wie ein Deep-Learning-Algorithmus in der Lage war, extreme Niederschläge präziser und vorausschauender als andere führende Methoden vorherzusagen, und belegte in Tests mit ähnlichen bestehenden Systemen in etwa 70 % der Fälle den ersten Platz.
Wenn diese Modelle übernommen würden, könnten sie neben herkömmlichen Wettervorhersagemethoden eingesetzt werden, um die Fähigkeit
Pädagogen erforschen KI-Systeme, um die Schüler im Zeitalter von ChatGPT ehrlich zu halten
Einem neuen Bericht zufolge hat ein Unternehmen für Bildungssoftware ein Programm entwickelt, mit dem Schulen und Universitäten feststellen können, ob Schüler KI verwenden, um ihre Tests und Aufsätze zu vervollständigen.
Das Unternehmen Turn It In hat eine lange Geschichte in der Entwicklung von Tools, mit denen Pädagogen Plagiate erkennen können. Das Unternehmen hat sich nun einem KI-System zugewandt, das effektiv feststellen kann, ob Schüler für ihre eigene Arbeit verantwortlich sind oder ob sie sich an eine KI wie ChatGPT gewandt
OpenAI, Hersteller von ChatGPT, verpflichten sich zur Entwicklung sicherer KI-Systeme
OpenAI hat einen neuen Blog-Beitrag veröffentlicht, der sich für die Entwicklung künstlicher Intelligenz (KI) einsetzt, die sicher und von großem Nutzen ist.
ChatGPT, das auf dem neuesten Modell von OpenAI, GPT-4, basiert, kann die Produktivität verbessern, die Kreativität steigern und maßgeschneiderte Lernerfahrungen bieten.
OpenAI erkennt jedoch an, dass KI-Tools inhärente Risiken aufweisen, die durch Sicherheitsmaßnahmen und einen verantwortungsvollen Einsatz angegangen werden müssen.
Hier ist, was das Unternehmen tut, um diese Risiken zu mindern.
Gewährleistung der Sicherheit in KI-Systemen
OpenAI führt
Müssen KI-Systeme Sicherheitswarnungen enthalten?
Wenn man bedenkt, wie leistungsfähig KI-Systeme sind und welche Rolle sie zunehmend dabei spielen, wichtige Entscheidungen über unser Leben, unser Zuhause und unsere Gesellschaft zu treffen, werden sie überraschend wenig formell untersucht.
Dank des blühenden Feldes der KI-Audits beginnt sich das zu ändern. Wenn sie gut funktionieren, ermöglichen uns diese Audits, zuverlässig zu überprüfen, wie gut ein System funktioniert, und herauszufinden, wie wir mögliche Verzerrungen oder Schäden mindern können.
Bekanntlich stellte eine Prüfung kommerzieller Gesichtserkennungssysteme durch die KI-Forscher Joy Buolamwini
Wie KI-Systeme dazu beitragen können, Europas Energiesparziele zu erreichen – EURACTIV.de
Die Anwendung von KI auf Energieeffizienztechniken kann schnell Ergebnisse liefern. Eine Chance für Europa in diesem Winter besteht darin, die in der Region installierten intelligenten Zähler besser mit vernetzten mobilen Anwendungen zu nutzen, die es Endbenutzern ermöglichen, ihren Energieverbrauch in Echtzeit zu verstehen und zu verwalten, schreiben David Wallerstein und Philippe Benoit.
David Wallerstein ist der Chief Exploration Officer von Tencent. Philippe Benoit war früher Abteilungsleiter für Energieeffizienz bei der IEA und ist derzeit Forschungsdirektor bei Globale Infrastrukturanalyse und Nachhaltigkeit
Führende Europaabgeordnete gehen Verpflichtungen für KI-Systeme mit hohem Risiko in neuem Kompromiss an – EURACTIV.com
Der Gesetzgeber, der die Diskussionen über das KI-Gesetz anführte, schlug laut Dokumenten, die EURACTIV vorliegen, einen Kompromiss zu den Verpflichtungen für KI-Systeme mit hohem Risiko und eine Konsolidierung des bisherigen Textes vor.
Die Ko-Berichterstatter Brando Benifei und Dragoș Tudorache haben letzte Woche neue Kompromissänderungsanträge verteilt, die am Dienstag (30. August) bei einem technischen Treffen diskutiert werden sollen. Die führenden Abgeordneten haben bisher versucht, den am wenigsten umstrittenen Teil des Textes voranzutreiben, um einige Fortschritte zu erzielen, bevor sie sich mit