#RSAC: Cryptographers Panel skizziert die Gefahren von gegnerischer KI und Blockchain

Zu den Keynote-Highlights jeder RSA-Konferenz gehört das jährliche Cryptographer’s Panel, und die Veranstaltung 2022 hat uns nicht enttäuscht.

In einer Dienstagssitzung am zweiten Tag der RSA-Konferenz 2022 diskutierte ein Gremium der weltweit renommiertesten Kryptografen, darunter Whitfield Diffie, Moni Naor, Adi Shamir und Dawn Song, eine Themenliste mit Bingokarten voller Schlagworte aus der Branche.

Das erste Buzzword-Thema des Panels waren NFTs (nicht fungible Token), die von den Panelisten weithin belächelt wurden. Shamir (das „S“ in RSA) stellte fest, dass die Verkäufe von NFT im vergangenen Jahr um 92 % zurückgegangen sind. NFTs werden normalerweise mit der Verwendung von Kryptowährungen in Verbindung gebracht, die oft einfach als Krypto bezeichnet werden.

Dawn Song, eine Forscherin an der UC Berkeley, kommentierte, dass ihre Universität kürzlich ein neues Zentrum zur Erforschung von Herausforderungen im Zusammenhang mit Kryptowährung, Blockchain und Web3 eröffnet habe. Ein Schwerpunkt der Forschung liegt auf der Bewältigung der Herausforderungen der Skalierbarkeit und der Entwicklung einer skalierbaren Infrastruktur mit dezentralisiertem Vertrauen. Song fügte hinzu, dass auch Forschungen durchgeführt werden, um die Sicherheit zu verbessern, was eine weitere Herausforderung für Kryptowährungen darstellt.

Passwörter sind gar nicht so schlecht – oder?

Für viele in der Sicherheitsbranche gelten Passwörter als schwaches Glied, aber das gilt weder für Whitfield Diffie noch für Moni Naor.

„Ich bin vielleicht der letzte Fan der Welt von Passwörtern“, sagte Diffie.

Alternativen zu Passwörtern wie Biometrie sind nach Ansicht von Diffie für CISOs attraktiv, da sie ihnen die Kontrolle geben. Ihm fehlt jedoch das Vertrauen in die Biometrie, und Diffie erwartet, dass Passwörter weiterhin weit verbreitet sein werden. Maor bemerkte, dass er zwar nicht als „Fan“ von Passwörtern abgestempelt werden wollte, aber keine weit verbreitete Option sah, die zum Ersetzen von Passwörtern verwendet werden könnte.

Die Gefahren der gegnerischen KI

Das Panel befasste sich auch mit dem Thema Adversarial AI. Shamir kommentierte, dass Deep Neural Networks seiner Ansicht nach außergewöhnlich anfällig für winzige Änderungen sind.

„Es gibt ein klassisches Beispiel, bei dem Sie ein Bild einer Katze sehen, die natürlich vom tiefen neuronalen Netzwerk als Katze erkannt wird“, sagte Shamir. „Dann nehmen Sie eine kleine Änderung am Bild vor, und das gut trainierte tiefe neuronale Netzwerk, das so gut darin ist, Katzen zu erkennen, sagt, das Bild sei Guacamole.“

Shamir sagte, er arbeite jetzt an einer Forschungsarbeit, die zeigt, wie es möglich ist, KI-Systeme in einem Ansatz weiter zu vergiften, der Überwachungskameras davon abhalten kann, Personen zu identifizieren.

„Die Menschen haben damit gekämpft, Wege zu finden, wie diese Art von kleinen gegnerischen Störungen daran gehindert werden kann, gegen tiefe neuronale Netze wirksam zu sein“, sagte er

source site

Leave a Reply