Im letzten Jahr hat der KI-Bot ChatGPT Menschen mit seiner Fähigkeit, Fragen zu beantworten, Aufsätze zu schreiben und sogar Software zu programmieren, verblüfft. Unter den 13- bis 17-Jährigen in den Vereinigten Staaten, die von ChatGPT gehört haben (was die meisten von ihnen sind), geben 19 Prozent an, dass sie es für Schulaufgaben verwendet haben. ChatGPT und andere Chatbots wie Bard und Meta AI basieren alle auf großen Sprachmodellen, kurz LLMs. Diese Modelle wurden darauf trainiert, eine bemerkenswert menschenähnliche Sprache zu entwickeln, indem sie mit riesigen Textmengen aus dem Internet gefüttert wurden. Und während dieser Text Gedichte von Louise Glück, Geschenkführer und Artikel von Oprah’s Favourite Things enthält New York TimesDazu gehören, wie wir nur allzu gut wissen, auch Inhalte, die falsch, verleumderisch, gewalttätig und erschreckend sind.
Aus Sicherheitsgründen haben die Entwickler großer Chatbots diese auch darin geschult, die Bereitstellung unangemessener oder schädlicher Informationen zu verweigern, beispielsweise Schritt-für-Schritt-Anleitungen, wie man die Identität einer Person stiehlt. Aber das Training ist nicht narrensicher und die Leute haben bereits die Schwächen von Chatbots ausgenutzt.
In dieser Ausgabe befasst sich die Physikerin und leitende Autorin Emily Conover mit den Bemühungen von Informatikern, Chatbots auf dem Laufenden zu halten. Das sei eine große Herausforderung, erklärt Conover, auch weil diese LLMs noch so neu seien und Wissenschaftler gerade erst anfangen, etwas über die Schwachstellen der Chatbots zu erfahren. Und die Herausforderung wird noch größer, wenn LLMs in Alltagsprodukte integriert werden oder Aufgaben wie den Betrieb von U-Bahn-Systemen übernehmen.
Die Realität ist: Auch wenn LLMs manchmal menschlich klingen, sind sie es nicht. Als ich Conovers Artikel las, lernte ich den entzückenden Begriff „stochastischer Papagei“ kennen. Die Computerlinguistin Emily Bender von der University of Washington und ihre Kollegen erklären damit, dass LLMs zwar Wörter zu Prosa zusammenfassen können, aber die Bedeutung dessen, was sie „schreiben“, nicht verstehen und daher nicht erkennen können, ob es ungenau oder unmoralisch ist. Sie plappern nach.
Echte Papageien und die Wissenschaftler, die sie studieren, könnten sich über diesen Begriff ärgern. Die Vögel sind dafür bekannt, dass sie die menschliche Sprache nachahmen können. Jetzt entdecken Wissenschaftler, dass Papageien noch viel mehr können, darunter Werkzeuge verwenden, Werkzeugsätze erstellen, komplexe Rätsel lösen und manchmal sogar verstehen, was wir sagen. Und wie die Mitarbeiterautorin Erin Garcia de Jesús berichtet, können einige Papageien Zurückhaltung üben und jetzt auf ein kleines Leckerli verzichten, um später größere Belohnungen zu erhalten.
Viele Wissenschaftler haben Papageien lange Zeit unterschätzt und sogar für dumm gehalten, weil ihre Gehirne nicht so groß und ausgefallen sind wie die von Menschen und anderen Primaten. Kürzlich haben Wissenschaftler herausgefunden, dass die Gehirne dieser kleinen Papageien dicht mit Neuronen gefüllt sind und ähnliche Merkmale wie die Gehirne von Primaten aufweisen.
Viele Geheimnisse der Papageienintelligenz müssen noch geklärt werden, einschließlich der genauen Frage, wie und warum sich die Vögel zu diesen erstaunlichen Fähigkeiten entwickelt haben. Aber die Suche nach den Antworten kann uns letztendlich dabei helfen, die Ursprünge unserer eigenen Intelligenz sowie anderer Formen der Intelligenz, denen wir begegnen, besser zu verstehen.
Im Moment können wir die Geselligkeit der Papageien, ihre Schönheit und die Freude, die sie offenbar daran empfinden, mit Werkzeugen eine Seemango aufzubrechen und zu essen, bestaunen.