Kevin Baragona, der Gründer von DeepAI, sagte, künstliche Intelligenz sei zur Nuklearwaffe der Software geworden
Ein Technologiemogul hat den Sprint zur Perfektionierung der künstlichen Intelligenz (KI) als das nukleare Wettrüsten des 21. Jahrhunderts bezeichnet.
Kevin Baragona war einer der mehr als 1.000 führenden Experten, die einen offenen Brief am The Future of Life Institute unterzeichnet haben, in dem sie eine Pause im „gefährlichen Rennen“ zur Entwicklung einer ChatGPT-ähnlichen KI forderten.
Wie die Erfindung der Atombombe in den 1940er Jahren sagte Baragona gegenüber DailyMail.com, dass „KI-Superintelligenz wie die Nuklearwaffen der Software ist“.
“Viele Leute haben darüber diskutiert, ob wir sie weiter entwickeln sollten oder nicht”, fuhr er fort.
Die Amerikaner kämpften mit einer ähnlichen Idee, als sie die als „nukleare Angst“ bekannte Massenvernichtungswaffe entwickelten.
„Es ist fast wie ein Krieg zwischen Schimpansen und Menschen“, sagte Baragona, der den Brief unterzeichnete, gegenüber DailyMail.com
„Die Menschen gewinnen offensichtlich, da wir viel klüger sind und fortschrittlichere Technologien nutzen können, um sie zu besiegen.
“Wenn wir wie die Schimpansen sind, wird uns die KI zerstören oder wir werden ihr versklavt.”
Die Befürchtungen kommen mit dem außergewöhnlichen Aufstieg von ChatGPT, das in den letzten Monaten die Welt im Sturm erobert hat und führende medizinische und juristische Prüfungen bestanden hat, für deren Vorbereitung Menschen fast drei Monate brauchen.
Die Kräfte der ChatGPT-ähnlichen KI haben im Silicon Valley einen Bürgerkrieg ausgelöst.
Elon Musk und Apple-Mitbegründer Steve Wozniak unterzeichneten den Brief für eine KI-Pause, während Bill Gates und Google-CEO Sundar Pichai dies nicht taten.
„Obwohl ich nur spekulieren kann, warum Gates und Sundar den Brief zur Unterbrechung der fortgeschrittenen KI-Forschung nicht unterschrieben haben, glaube ich, dass sie es nicht getan haben, weil sie die Schecks unterschreiben, um den Fortschritt der KI zu beschleunigen“, sagte Baragona.
Microsoft, gegründet von Gates, hat stark in OpenAI, den Schöpfer von ChatGPT, investiert.
Im Januar wurde spekuliert, dass das Unternehmen von Gates weitere 10 Milliarden US-Dollar in das Startup investierte, um mit Google bei der Kommerzialisierung neuer KI-Durchbrüche zu konkurrieren.
Die Befürchtungen der KI kommen, da Experten vorhersagen, dass sie bis 2045 Singularität erreichen wird, wenn die Technologie die menschliche Intelligenz übertrifft, bis zu der wir sie nicht kontrollieren können
Microsoft hat im Februar auch KI zu seiner Bing-Suchmaschine hinzugefügt, die ChatGPT-Kräfte enthält.
Google hat erst am 21. März Bard für die Öffentlichkeit zugänglich gemacht, das ebenfalls ein Chatbot für natürliche Sprache ist.
Das kalifornische Unternehmen war bei der Markteinführung vorsichtig, damit seine Technologie keine ungenauen Fakten hervorbrachte, aber Bards erster Eindruck zeigte, dass das Unternehmen es überstürzt auf den Markt gebracht hatte.
Es bleibt abzuwarten, wie sich Bard gegen ChatGPT von OpenAI und Microsofts KI-betriebenes Bing behaupten wird.
„Microsoft investiert stark in OpenAI und Google in Anthropic“, sagte Baragona gegenüber DailyMail.com.
“Sie haben vielleicht das Gefühl, dass es nicht an der Zeit ist, sich über unbegründete Ängste vor möglichen negativen Folgen hinwegzusetzen.”
Musk, Wozniak und mehr als 1.000 Technologieführer haben am Mittwoch einen offenen Brief unterzeichnet, in dem sie eine sechsmonatige Pause bei der Entwicklung von KI fordern.
Die Gruppen sagten, dass mehr Risikobewertungen durchgeführt werden müssen, bevor die Menschen die Kontrolle verlieren und es zu einer empfindungsfähigen menschenhassenden Spezies wird.
Bill Gates und Google-CEO Sundar Pichai haben den offenen Brief mit Musk nicht unterzeichnet. Das Paar hat stark in die KI-Entwicklung investiert und sieht die Technologie als Weg der Zukunft
An diesem Punkt hätte die KI die Singularität erreicht, was bedeutet, dass sie die menschliche Intelligenz übertroffen hat und unabhängig denken kann.
Die KI würde Menschen nicht mehr brauchen oder ihnen zuhören, wodurch sie Nuklearcodes stehlen, Pandemien auslösen und Weltkriege auslösen könnte.
Gates und Sundarare auf der anderen Seite des Ganges.
Sie loben die ChatGPT-ähnliche KI als die „wichtigste“ Innovation unserer Zeit – und sagen, sie könne den Klimawandel lösen, Krebs heilen und die Produktivität steigern.
OpenAI startete ChatGPT im November, das sofort weltweit ein Erfolg wurde.
Der Chatbot ist ein großes Sprachmodell, das auf massiven Textdaten trainiert wurde und es ihm ermöglicht, als Reaktion auf eine bestimmte Eingabeaufforderung unheimlich menschenähnlichen Text zu generieren.
Die Öffentlichkeit verwendet ChatGPT, um Forschungsarbeiten, Bücher, Nachrichtenartikel, E-Mails und andere textbasierte Arbeiten zu schreiben, und während viele es eher als virtuellen Assistenten betrachten, sehen viele brillante Köpfe darin das Ende der Menschheit
Elon Musk und Apple-Mitbegründer Steve Wozniak unterzeichneten einen Brief, in dem sie gegen die Technologie protestierten, die „ein tiefgreifendes Risiko für die Menschheit darstellt“.
Musk und Wozniak befürchten, dass die KI sich der menschlichen Kontrolle entzieht, und fordern eine sechsmonatige Pause, um die Risiken abzuwägen
In seiner einfachsten Form ist KI ein Bereich, der Informatik und robuste Datensätze kombiniert, um Problemlösungen zu ermöglichen.
Die Technologie ermöglicht es Maschinen, aus Erfahrungen zu lernen, sich an neue Eingaben anzupassen und menschenähnliche Aufgaben auszuführen.
Die Systeme, zu denen maschinelles Lernen und Deep-Learning-Teilbereiche gehören, bestehen aus KI-Algorithmen, die darauf abzielen, Expertensysteme zu erstellen, die auf der Grundlage von Eingabedaten Vorhersagen oder Klassifizierungen treffen.
Scott Opitz, Chief Technology Officer des intelligenten Automatisierungsunternehmens ABBYY, sagte in einer Erklärung: „Das Pausieren der KI-Entwicklung ist wie das Zurückgeben der Zahnpasta in die Tube. KI-Anwendungen sind allgegenwärtig und beeinflussen praktisch jeden Aspekt unseres Lebens.
„Obwohl es lobenswert ist, kann es unglaubwürdig sein, jetzt durch eine freiwillige Pause auf die Bremse zu treten.
“Was benötigt wird, ist eine konzertierte und gutgläubige Anstrengung zwischen Industrie und Gesetzgebern, um vernünftige Vorschriften zu verabschieden, die ethische KI-Prinzipien auf der Grundlage menschenzentrierter Werte wie Fairness, Transparenz und Rechenschaftspflicht vertreten.”
Hollywood hat möglicherweise die Ängste der Menschen vor KI geweckt, die typischerweise als böse dargestellt wurden, wie in The Matrix und The Terminator, und malte ein Bild von Roboteroberherren, die die Menschheit versklaven.
Die Idee findet jedoch im gesamten Silicon Valley Widerhall, da mehr als 1.000 Technologieexperten glauben, dass sie unsere Realität werden könnte.
Dies wäre möglich, wenn die KI die Singularität erreicht, eine hypothetische Zukunft, in der die Technologie die menschliche Intelligenz übertrifft und den Weg unserer Evolution verändert – und dies wird voraussichtlich bis 2045 geschehen. Die KI müsste zuerst den Turing-Test bestehen.
Wenn dies der Fall ist, wird davon ausgegangen, dass die Technologie über eine unabhängige Intelligenz verfügt, die es ihr ermöglicht, sich selbst zu einem noch mächtigeren System zu replizieren, das Menschen nicht kontrollieren können.