Wie Blockchain-Technologie Licht auf bisher verborgene Eingaben werfen kann

Was wäre, wenn es eine Möglichkeit gäbe, einen Blick in die Blackbox zu werfen und eine klare Visualisierung davon zu ermöglichen, wie KI gesteuert, trainiert und produziert wird? Dies ist das Ziel – oder eines der Ziele – von EQTY-Labordas Forschung betreibt und Werkzeuge entwickelt, um KI-Modelle transparenter und kollaborativer zu machen. Das Abstammungs-Explorerbietet beispielsweise einen Echtzeitüberblick darüber, wie das Modell erstellt wird.

Alle diese Tools dienen der Kontrolle gegen Undurchsichtigkeit und Zentralisierung. „Wenn man nicht versteht, warum eine KI die Entscheidungen trifft, die sie trifft, oder wer dafür verantwortlich ist, ist es wirklich schwer zu hinterfragen, warum schädliche Dinge ausgespuckt werden“, sagt Ariana Spring, Forschungsleiterin bei EQTY Lab. „Deshalb halte ich eine Zentralisierung – und die Aufbewahrung dieser Geheimnisse in Blackboxes – für wirklich gefährlich.“

Gemeinsam mit ihrem Kollegen Andrew Stanco (Finanzchef) erzählt Spring, wie Kryptowährungen zu einer transparenteren KI beitragen können, wie diese Tools bereits in der Klimaforschung eingesetzt werden und warum diese Open-Source-Modelle integrativer und repräsentativer für die Menschheit als Ganzes sein können.

Das Interview wurde aus Gründen der Klarheit gekürzt und leicht bearbeitet.

Was ist die Vision und das Ziel von EQTY Lab?

Ariana Frühling: Wir sind Vorreiter bei neuen Lösungen, um Vertrauen und Innovation in KI aufzubauen. Und generative KI ist derzeit ein heißes Thema, und das ist die am stärksten aufstrebende Eigenschaft, also ist das etwas, worauf wir uns konzentrieren.

Wir betrachten aber auch alle Arten von KI und Datenmanagement. Und wir setzen wirklich auf Vertrauen und Innovation. Dies erreichen wir durch den Einsatz fortschrittlicher Kryptografie, um Modelle transparenter, aber auch kollaborativer zu machen. Wir betrachten Transparenz und Zusammenarbeit als zwei Seiten derselben Medaille bei der Schaffung einer intelligenteren und sichereren KI.

Können Sie etwas mehr darüber sagen, wie Krypto hier hineinpasst? Denn viele Leute sagen, „Krypto und KI passen gut zusammen“, aber oft bleibt die Begründung auf einer sehr hohen Ebene stehen.

Andrew Stanco: Ich denke, die Schnittstelle zwischen KI und Kryptographie ist eine offene Frage, oder? Wir haben herausgefunden, dass das verborgene Geheimnis der KI darin liegt, dass sie kollaborativ ist; es gibt eine Vielzahl von Beteiligten. Kein einzelner Datenwissenschaftler könnte ein KI-Modell erstellen. Sie können es trainieren, sie können es feinabstimmen, aber Kryptographie wird zu einer Möglichkeit, etwas zu tun und dann eine manipulationssichere Möglichkeit zu haben, zu überprüfen, ob es passiert ist.

In einem so komplexen Prozess wie dem KI-Training ist es also wirklich hilfreich, über manipulationssichere und überprüfbare Bescheinigungen zu verfügen – sowohl während des Trainings als auch danach. Es schafft Vertrauen und Sichtbarkeit.

Ariana Frühling: Was wir tun, ist, dass es in jedem Schritt des KI-Lebenszyklus und Trainingsprozesses eine notarielle Beglaubigung – oder einen Stempel – des Geschehens gibt. Dies ist die dezentrale ID oder Kennung, die dem Agenten, Menschen oder der Maschine zugeordnet ist, der bzw. die diese Aktion ausführt. Sie haben den Zeitstempel. Und mit unserem Lineage Explorer können Sie sehen, dass alles, was wir tun, automatisch mithilfe der Kryptografie registriert wird.

Und dann verwenden wir Smart Contracts in unseren Governance-Produkten. Wenn also der Parameter X erfüllt oder nicht erfüllt ist, kann eine bestimmte Aktion ausgeführt werden oder nicht. Eines unserer Tools ist ein Governance Studio, das im Grunde programmiert, wie Sie eine KI trainieren oder wie Sie Ihren KI-Lebenszyklus verwalten können, und das wird dann nachgelagert widergespiegelt.

Können Sie uns etwas näher erläutern, welche Art von Werkzeugen Sie bauen? Entwickeln Sie beispielsweise Tools und betreiben Sie Forschung, die anderen Start-ups beim Aufbau von Schulungsmodellen helfen soll, oder erstellen Sie selbst Schulungsmodelle? Mit anderen Worten: Welche genau Rolle spielen EQTY Labs in diesem Umfeld?

Andrew Stanco: In gewisser Weise ist es eine Mischung, denn unser Fokus liegt auf dem Unternehmen, da dies einer der ersten großen Bereiche sein wird, in denen Sie KI aus Sicht der Schulung und Verwaltung richtig machen müssen. Wenn Sie sich damit befassen, müssen wir einen Bereich haben, in dem ein Entwickler – oder jemand in dieser Organisation – den Code kommentieren und sagen kann: „Okay, das ist passiert“ und dann einen Datensatz erstellen kann. Es ist unternehmensorientiert und legt einen Schwerpunkt auf die Zusammenarbeit mit Entwicklern und den Leuten, die die Modelle erstellen und bereitstellen.

Ariana Frühling: Und wir haben auch an der Schulung des Modells durch die Stiftung für Klimaintelligenz gearbeitet. Wir haben dabei geholfen, ein Modell namens KlimaGPT, ein klimaspezifisches großes Sprachmodell. Das ist nicht unser Brot und Butter, aber wir haben den Prozess durchlaufen und unsere Technologiepalette genutzt, um diesen Prozess zu visualisieren. Wir verstehen also, wie es ist.

Was begeistert Sie an KI am meisten und was macht Ihnen am meisten Angst?

Andrew Stanco: Ich meine, was die Aufregung angeht, fühlte sich der erste Moment, in dem man mit generativer KI interagierte, so an, als hätte man den Blitz im Modell entkorkt. Als man zum ersten Mal eine Eingabeaufforderung in MidJourney erstellte oder ChatGPT eine Frage stellte, musste einen niemand davon überzeugen, dass es vielleicht leistungsstark ist. Und ich dachte nicht, dass es noch viele neue Dinge gab, oder?

Andrew Stanco: Ich denke, das ist eine Sorge, die vielleicht der Untertext für vieles ist, was bei Consensus erwartet wird, wenn man nur einen Blick auf die Tagesordnung wirft. Die Sorge besteht darin, dass diese Tools es den bestehenden Gewinnern ermöglichen, tiefer in die Modi einzutauchen. Dass es sich nicht unbedingt um eine disruptive, sondern um eine etablierte Technologie handelt.

Und Ariana, Ihr größter KI-Aufreger und Schrecken?

Ariana Frühling: Ich fange mit meiner Angst an, weil ich etwas Ähnliches sagen wollte. Ich würde Zentralisierung sagen. Wir haben gesehen, wie schädlich die Zentralisierung ist, gepaart mit einem Mangel an Transparenz darüber, wie etwas funktioniert. Das haben wir in den letzten 10, 15 Jahren zum Beispiel bei den sozialen Medien gesehen. Und wenn Sie nicht verstehen, warum eine KI die Entscheidungen trifft, die sie trifft, oder wer dafür verantwortlich ist, ist es wirklich schwer zu hinterfragen, warum schädliche Dinge ausgespuckt werden. Deshalb halte ich eine Zentralisierung – und die Aufbewahrung dieser Geheimnisse in Black Boxes – für wirklich gefährlich.

Worüber ich mich am meisten freue, ist, mehr Leute einzubeziehen. Wir hatten die Gelegenheit, mit verschiedenen Arten von Interessengruppen zusammenzuarbeiten, während wir ClimateGPT trainierten, wie zum Beispiel indigene ältere Gruppen oder einkommensschwache, städtische, schwarze und braune Jugendliche. oder Studenten im Nahen Osten. Wir arbeiten mit all diesen Klimaaktivisten und Wissenschaftlern zusammen, um sozusagen zu sagen: „Hey, möchtest du dabei helfen, dieses Modell zu verbessern?“

Die Leute sind wirklich aufgeregt, aber vielleicht haben sie nicht verstanden, wie es funktioniert. Nachdem wir ihnen erklärt hatten, wie es funktioniert und wie sie helfen können, konnte man sehen, wie sie sagten: „Oh, das ist gut.“ Sie gewinnen an Selbstvertrauen. Dann wollen sie mehr beitragen. Deshalb freue ich mich sehr, insbesondere durch die Arbeit, die wir bei EQTY Research leisten, mit der Veröffentlichung einiger dieser Frameworks beginnen zu können, sodass wir uns nicht auf Systeme verlassen müssen, die möglicherweise nicht so repräsentativ sind.

Schön gesagt. Wir sehen uns in Austin beim AI Summit von Consensus.