Die Kommunikation mit einem Computer verlief in den meisten Fällen anders als die Kommunikation mit einer Person. In ihren Anfangsjahren erforderten Computer sorgfältig erstellte Anweisungen, die über Lochkarten übermittelt wurden. Dann kam eine Befehlszeilenschnittstelle, gefolgt von Menüs, Optionen und Textfeldern. Wenn Sie Ergebnisse erzielen wollten, mussten Sie die Sprache des Computers lernen.
Das beginnt sich zu ändern. Große Sprachmodelle – die Technologie, die modernen Chatbots zugrunde liegt – ermöglichen Benutzern die Interaktion mit Computern durch natürliche Konversation, eine Innovation, die einiges an Ballast aus dem Austausch zwischen Menschen mit sich bringt. Zu Beginn unserer jeweiligen Erkundungen von ChatGPT tippten wir beide ein Wort, das wir noch nie zuvor zu einem Computer gesagt hatten: „Bitte.“ Die Syntax der Höflichkeit hat sich in fast jeden Aspekt unserer Begegnungen eingeschlichen; Wir sprechen mit dieser algebraischen Ansammlung, als wäre sie eine Person – selbst wenn wir wissen, dass dies nicht der Fall ist.
Im Moment ist diese Art der Interaktion ein Novum. Doch da Chatbots zu einem allgegenwärtigen Element des modernen Lebens werden und viele unserer Mensch-Computer-Interaktionen durchdringen, haben sie das Potenzial, unsere Einstellung zu Computern und unseren Mitmenschen auf subtile Weise zu verändern.
Eine Richtung, in die uns diese Chatbots führen könnten, ist eine Gesellschaft, in der wir KI-Systemen Menschlichkeit zuschreiben, seien es abstrakte Chatbots oder eher physische Roboter. So wie wir biologisch darauf vorbereitet sind, Gesichter in Objekten zu sehen, stellen wir uns Intelligenz in allem vor, was ein Gespräch führen kann. (Das ist nicht neu: Menschen haben Intelligenz und Empathie auf den sehr primitiven Chatbot der 1960er Jahre, Eliza, projiziert.) Wir sagen „Bitte“ zu LLMs, weil es sich falsch anfühlt, es nicht zu tun.
Chatbots werden immer häufiger eingesetzt, und es gibt Grund zu der Annahme, dass sie immer intimerer Teil unseres Lebens werden. Der Markt für KI-Begleiter, von Freunden bis hin zu romantischen Partnern, ist bereits überfüllt. Mehrere Unternehmen arbeiten an KI-Assistenten, ähnlich einer Sekretärin oder einem Butler, die unsere Bedürfnisse antizipieren und befriedigen. Und andere Unternehmen arbeiten an KI-Therapeuten, Mediatoren und Lebensberatern – sogar an Simulakren unserer verstorbenen Verwandten. Generell werden Chatbots wahrscheinlich zur Schnittstelle werden, über die wir mit allen möglichen computergestützten Prozessen interagieren – eine KI, die auf unseren Sprachstil, jede Emotionsnuance und sogar den Tonfall unserer Stimme reagiert.
Viele Benutzer werden diese KIs eher als Freunde betrachten und nicht als die von Unternehmen geschaffenen Systeme, die sie sind. Das Internet spioniert uns bereits über Systeme wie das Werbenetzwerk von Meta aus, und LLMs werden wahrscheinlich mitmachen: In der Datenschutzrichtlinie von OpenAI werden beispielsweise bereits die vielen verschiedenen Arten persönlicher Informationen beschrieben, die das Unternehmen sammelt. Der Unterschied besteht darin, dass sich die Chatbots durch die Benutzeroberfläche in natürlicher Sprache menschlicher anfühlen – verstärkt durch jede Höflichkeit auf beiden Seiten – und wir sie in unserem Kopf leicht falsch kategorisieren könnten.
Große Chatbots ändern die Art und Weise, wie sie mit Benutzern kommunizieren, noch nicht, um die Geschäftsinteressen ihrer Muttergesellschaft zu befriedigen, aber der Marktdruck könnte die Dinge in diese Richtung treiben. Ein Sprecher von OpenAI, der um einen Kommentar dazu gebeten wurde, verwies auf einen Abschnitt der Datenschutzrichtlinie und stellte fest, dass das Unternehmen derzeit keine personenbezogenen Daten für „kontextübergreifende Verhaltenswerbung“ verkauft oder weitergibt und dass das Unternehmen keine „sensiblen personenbezogenen Daten verarbeitet“. zu dem Zweck, Rückschlüsse auf Merkmale eines Verbrauchers zu ziehen.“ Im Interview mit Axios Sam Altman, CEO von OpenAI, sagte heute, dass künftige KI-Generationen „ziemlich viele individuelle Anpassungen“ erfordern könnten und „das für viele Menschen unangenehm sein wird“.
Es hat sich gezeigt, dass andere Computertechnologien unsere Wahrnehmung beeinflussen. Studien zeigen, dass die automatische Vervollständigung auf Websites und in Textverarbeitungsprogrammen unser Schreiben dramatisch neu organisieren kann. Im Allgemeinen führen diese Empfehlungen zu einer langweiligeren, vorhersehbareren Prosa. Und wenn Autovervollständigungssysteme voreingenommene Eingabeaufforderungen geben, führen sie zu voreingenommenem Schreiben. In einem harmlosen Experiment führten positive Autovervollständigungsvorschläge zu positiveren Restaurantbewertungen und negative Autovervollständigungsvorschläge führten zum Gegenteil. Die Auswirkungen könnten weit über die Optimierung unseres Schreibstils hinausgehen und sich auch auf unsere geistige Gesundheit auswirken, genau wie bei den potenziell Depressionen und Ängsten auslösenden Social-Media-Plattformen von heute.
Die andere Richtung, in die uns diese Chatbots führen könnten, ist sogar noch beunruhigender: in eine Welt, in der unsere Gespräche mit ihnen dazu führen, dass wir unsere Mitmenschen mit der Apathie, Respektlosigkeit und Unhöflichkeit behandeln, die wir normalerweise Maschinen zeigen.
Heutige Chatbots schneiden am besten ab, wenn sie mit einer Präzision instruiert werden, die in einer menschlichen Konversation erschreckend unhöflich wäre, und ohne jegliche Konversations-Höflichkeiten, die das Modell falsch interpretieren könnte: „Entwerfen Sie einen 250-Wörter-Absatz in meinem typischen Schreibstil und geben Sie drei Beispiele an, um das zu untermauern.“ Folgen Sie dem Punkt und geben Sie Ihre Quellen an.“ Wahrscheinlich würde nicht einmal der distanzierteste CEO eines Unternehmens auf diese Weise mit seinem Assistenten sprechen, aber bei Chatbots ist das üblich.
Wenn Chatbots für manche Menschen tatsächlich zum dominierenden täglichen Gesprächspartner werden, besteht die akute Gefahr, dass diese Benutzer auch im Gespräch mit anderen Menschen ein Lexikon von KI-Befehlen übernehmen. Anstatt mit Einfühlungsvermögen, Subtilität und Nuancen zu sprechen, wird uns beigebracht, mit der kalten Präzision eines Programmierers zu sprechen, der mit einem Computer spricht. Die farbenfrohen Aphorismen und Anekdoten, die Gesprächen ihre inhärent menschliche Qualität verleihen, aber oft große Sprachmodelle durcheinander bringen, könnten aus dem menschlichen Diskurs verschwinden.
Um einen Präzedenzfall zu schaffen, muss man sich nur die Art und Weise ansehen, wie Bot-Konten bereits den digitalen Diskurs in den sozialen Medien beeinträchtigen und Leidenschaften mit grob programmierten Reaktionen auf zutiefst emotionale Themen entfachen. Sie spielten wohl eine Rolle dabei, Zwietracht zu säen und die Wähler bei der Wahl 2016 zu polarisieren. Aber KI-Begleiter dürften einen weitaus größeren Teil des sozialen Kreises einiger Benutzer ausmachen als die Bots von heute und möglicherweise einen viel größeren Einfluss darauf haben, wie diese Menschen Sprache verwenden und Beziehungen steuern. Unklar ist, ob sich dies negativ auf einen von einer Milliarde Nutzer oder auf einen Großteil davon auswirken wird.
Es ist unwahrscheinlich, dass eine solche Verschiebung menschliche Gespräche über Nacht in karikaturhafte Roboterrezitationen verwandeln wird, aber sie könnte die umgangssprachliche Konversation im Laufe der Jahre auf subtile und sinnvolle Weise umgestalten, so wie sich die Zeichenbeschränkungen von Textnachrichten auf so viele umgangssprachliche Texte ausgewirkt haben und Begriffe wie z LOL, Meiner Meinung nachUnd TMI in die Alltagssprache.
KI-Chatbots sind immer da, wenn Sie sie brauchen, und zwar für alles, wofür Sie sie brauchen. Die Leute sind nicht so. Stellen Sie sich eine Zukunft voller Menschen vor, die sich jahrelang mit ihren KI-Freunden oder romantischen Partnern unterhalten. Wie eine Person, deren einzige sexuelle Erfahrungen durch Pornografie oder Erotik vermittelt wurden, könnten sie unrealistische Erwartungen an menschliche Partner haben. Und je allgegenwärtiger und lebensechter die Chatbots werden, desto größer könnte die Wirkung sein.
Generell könnte KI den Zerfall institutionellen und sozialen Vertrauens beschleunigen. Technologien wie Facebook sollten die Welt zusammenbringen, aber in den vergangenen Jahren ist die Öffentlichkeit immer misstrauischer gegenüber den Menschen um sie herum geworden und hat weniger Vertrauen in bürgerschaftliche Institutionen. KI kann Menschen noch weiter in die Isolation und das Misstrauen treiben, da sie immer unsicher sind, ob die Person, mit der sie chatten, tatsächlich eine Maschine ist, und sie trotzdem als unmenschlich behandeln.
Natürlich gibt es in der Geschichte viele Menschen, die behaupten, dass der digitale Himmel einstürzt, und jede neue Erfindung als das Ende der Zivilisation, wie wir sie kennen, beklagen. Am Ende sind LLMs vielleicht kaum mehr als das Textverarbeitungsprogramm von morgen, eine praktische Innovation, die die Dinge ein wenig einfacher macht, während wir die meisten unserer Leben davon unberührt lassen. Welchen Weg wir einschlagen, hängt davon ab, wie wir die Chatbots von morgen trainieren, aber auch davon, ob wir heute in die Stärkung der Bindungen der Zivilgesellschaft investieren.