Neue Entwicklungen in der künstlichen Intelligenz haben die Technologie in den Vordergrund der öffentlichen Diskussion gerückt, aber auch Bedenken hinsichtlich des undurchsichtigen Entscheidungsprozesses einiger Systeme geweckt – oft als „Black-Box-KI“ bezeichnet.
Der Begriff „Black Box“ stammt von der britischen Royal Air Force während des Zweiten Weltkriegs, sagte Dr. Michael Capps gegenüber Fox News Digital. Wenn es jedoch um KI geht, wird der Begriff verwendet, um einen Entscheidungsprozess zu beschreiben, der nicht erklärt werden kann.
„Die ganze Idee einer Black Box besteht darin, dass man nicht hineinschauen und sehen darf, und das ist es, was wir mit diesen künstlichen neuronalen Netzen haben, mit Hunderten von Milliarden Knoten innerhalb einer Box, in die niemand hineinschauen kann“, Capps genannt.
Die Befürchtungen, dass künstliche Intelligenz den Schwarzmarkt erreichen könnte, wecken Besorgnis darüber, dass Kriminelle staatliche Vorschriften umgehen könnten: Experte
Künstliche Black-Box-Intelligenz bezieht sich auf den undurchsichtigen Entscheidungsprozess der Technologie. (Getty Imates)
„Die Black Box ist nur der Entscheidungsprozess und was darin steckt“, sagte Christopher Alexander, COO von Liberty Blockchain, gegenüber Fox News Digital. „Und das ist natürlich unglaublich schwierig, weil niemand einen Entscheidungsprozess erklären kann, egal ob es ein Mensch ist oder nicht.“
Trotz dieser Bedenken hätten Black-Box-KI-Systeme ein enormes Potenzial, sagte Capps, fügte jedoch hinzu, dass er immer noch Bedenken hinsichtlich der Technologie habe.
„ES WIRD ALLES ÜBERNEHMEN“: AMERIKANER ENTDECKEN ANGST, DASS KI DAS TÄGLICHE LEBEN BEEINTRÄCHTIGEN könnte
„Diese Black-Box-Systeme, bei denen man nicht sehen kann, was im Inneren vor sich geht, können erstaunliche Dinge bewirken“, sagte Capps. „ChatGPT ist ein Beispiel für eine Black Box. Niemand weiß genau, warum es Ihnen die Antwort gegeben hat, die es gegeben hat. Sie können es irgendwie erraten, weil Sie wissen, was es gesehen hat, Sie wissen, worauf wir es trainiert haben, also können Sie irgendwie erraten, wo Es ist darauf gekommen, aber man wird es nie genau wissen.
ChatGPT von OpenAI sei ein Beispiel für eine Black-Box-KI, sagte Capps. ((Foto von Jakub Porzycki/NurPhoto))
Capps sagte, es gebe Techniken, die KI-Entwickler einsetzen, um zu verstehen, warum Black-Box-KI-Modelle die Entscheidungen treffen, die sie treffen, aber letztendlich seien diese Techniken nicht effektiv. Er verglich den Entscheidungsprozess einer KI mit dem Verlieben in einen Ehepartner.
„Sie wissen es nicht wirklich. … Man kann es nicht wirklich erklären, und eine Blackbox auch nicht Wenn man es fragt, warum es das getan hat, wird es es erraten“, sagte er.
Dieser Mangel an Verständnis über die Ergebnisse einer Maschine bedeute, dass sie nicht für Entscheidungen mit hohem Risiko verwendet werden sollten, sagte Capps.
„Und deshalb kann man diesen Systemen nicht wirklich vertrauen, dass sie superwichtige soziale Entscheidungen treffen. Man würde das Atomwaffenarsenal niemals einer Black-Box-KI übergeben wollen, die eine Entscheidung treffen könnte, die ein Fehler ist. Sie könnte eine Entscheidung treffen, weil sie es getan hat.“ schlechte Trainingsberatung“, sagte er. „Es könnte eine schlechte Entscheidung sein, weil jemand ein paar schlechte Trainingstipps eingeschmuggelt hat, das nennt man Vergiftung. All diese Dinge können schief gehen, also sollten wir es wirklich nicht für irgendetwas verwenden, vom Autofahren über das Atomwaffenarsenal bis hin zur Entscheidung, wer das ist.“ bekommt einen Kredit.“
OPENAI STARTET CHATGPT-APP FÜR IOS
Eine Herausforderung beim Verständnis der Entscheidungsfindung von KI-Systemen seien die proprietären Informationen in ihrem Algorithmus, sagte Christopher Alexander gegenüber Fox News Digital.
Alexander sagte, eine weitere Herausforderung beim Versuch, den Entscheidungsprozess von KI-Systemen zu verstehen, sei die proprietäre Technologie, die bei ihrer Entwicklung verwendet werde.
„Vieles von dem, was in die Black Box kommt, ist proprietär. Wer wird also etwas entwickeln, wenn er es verschenken und das gesamte Innenleben zeigen muss, sobald er es erstellt hat?“, sagte Alexander.
KLICKEN SIE HIER, UM DIE FOX NEWS-APP ZU ERHALTEN
Künstliche Intelligenz rückte letztes Jahr in den Vordergrund des öffentlichen Diskurses, als OpenAI ChatGPT herausbrachte, eine generative KI-Plattform, die zu menschenähnlichen Gesprächen in der Lage ist und Fragen beantworten, Geschichten und Lieder schreiben und sogar Reisen planen kann.
Bedenken hinsichtlich Voreingenommenheit sowie mangelnder Transparenz und Privatsphäre haben jedoch zu einiger Kritik an der Plattform geführt.