Der Einsatz von Technologie geht oft schief, bemerkt Parsons, „weil wir uns zu sehr auf unsere eigenen Vorstellungen davon konzentrieren, was gut aussieht, oder auf ein bestimmtes Publikum im Gegensatz zu einem breiteren Publikum.“ Das kann wie ein App-Entwickler aussehen, der nur für einen imaginären Kunden baut, der seine Geografie, Bildung und seinen Wohlstand teilt, oder wie ein Produktteam, das nicht berücksichtigt, welchen Schaden ein böswilliger Akteur in seinem Ökosystem anrichten könnte. „Wir glauben, dass die Leute mein Produkt so nutzen werden, wie ich es mir vorstelle, um das Problem zu lösen, das sie lösen sollen, und zwar so, wie ich es mir vorstelle“, sagt Parsons. „Aber das passiert nicht, wenn Dinge in der realen Welt ans Licht kommen.“
KI bringt natürlich einige besondere soziale und ethische Herausforderungen mit sich. Einige der einzigartigen Herausforderungen der Technologie liegen in der Art und Weise, wie KI funktioniert: ihr statistischer statt deterministischer Charakter, ihre Identifizierung und Aufrechterhaltung von Mustern aus vergangenen Daten (wodurch bestehende Vorurteile verstärkt werden) und ihr mangelndes Bewusstsein für das, was sie nicht weiß (was zu Halluzinationen führt). Und einige ihrer Herausforderungen ergeben sich aus dem, was die Entwickler und Benutzer der KI selbst nicht wissen: die ungeprüften Datenmengen, die den KI-Modellen zugrunde liegen, die begrenzte Erklärbarkeit der KI-Ausgaben und die Fähigkeit der Technologie, Benutzer zu täuschen und sie als logische menschliche Intelligenz zu behandeln.
Parsons glaubt jedoch, dass KI die verantwortungsvolle Technologie nicht so sehr verändert hat, sondern dass sie einige ihrer Probleme in einen neuen Fokus gerückt hat. Konzepte zum geistigen Eigentum reichen beispielsweise Hunderte von Jahren zurück, aber der Aufstieg großer Sprachmodelle (LLMs) hat neue Fragen darüber aufgeworfen, was eine faire Nutzung ausmacht, wenn eine Maschine darauf trainiert werden kann, die Stimme eines Schriftstellers oder den Stil eines Künstlers nachzuahmen. „Es ist keine verantwortungsvolle Technologie, wenn man das geistige Eigentum von jemandem verletzt, aber darüber nachzudenken war viel einfacher, bevor es LLMs gab“, sagt sie.
Die Grundsätze, die über viele Jahrzehnte verantwortungsvoller Technologiearbeit entwickelt wurden, bleiben auch bei diesem Übergang weiterhin relevant. Transparenz, Datenschutz und Sicherheit, durchdachte Regulierung, Berücksichtigung gesellschaftlicher und ökologischer Auswirkungen sowie die Ermöglichung einer breiteren Beteiligung durch Diversitäts- und Barrierefreiheitsinitiativen bleiben der Schlüssel dafür, dass Technologie zum Wohle der Menschen funktioniert.
Der Bericht „The state of Responsible Technology“ von MIT Technology Review Insights aus dem Jahr 2023 mit Thoughtworks ergab, dass Führungskräfte diese Überlegungen ernst nehmen. So stimmten beispielsweise 73 Prozent der befragten Unternehmensführer zu, dass der verantwortungsvolle Einsatz von Technologie bei Technologieentscheidungen künftig genauso wichtig sein wird wie geschäftliche und finanzielle Überlegungen.
Dieser KI-Moment könnte jedoch eine einzigartige Gelegenheit darstellen, Hindernisse zu überwinden, die eine verantwortungsvolle Technologiearbeit bisher behindert haben. Mangelndes Bewusstsein der Geschäftsleitung (von 52 % der Befragten als größtes Hindernis für die Einführung verantwortungsvoller Praktiken genannt) stellt heute sicherlich weniger ein Problem dar: Erfahrene Führungskräfte beherrschen diese neue Technologie schnell und werden ständig an die möglichen Folgen und Fehler erinnert und gesellschaftliche Schäden.
Als weitere am häufigsten genannte Hindernisse waren organisatorischer Widerstand gegen Veränderungen (46 %) und interne konkurrierende Prioritäten (46 %). Organisationen, die sich hinter einer klaren KI-Strategie neu ausgerichtet haben und deren branchenveränderndes Potenzial verstehen, können möglicherweise auch diese Trägheit und Unentschlossenheit überwinden. In diesem einzigartigen Moment der Umwälzung, in dem KI sowohl die Werkzeuge als auch die Motivation bereitstellt, viele unserer Arbeits- und Lebensweisen neu zu gestalten, können wir verantwortungsvolle Technologieprinzipien in diesen Übergang integrieren – wenn wir wollen.
Parsons ihrerseits ist zutiefst optimistisch, was die Fähigkeit des Menschen angeht, die KI für einen guten Zweck zu nutzen und ihre Grenzen mit vernünftigen Richtlinien und gut konzipierten Prozessen mit menschlichen Leitplanken zu umgehen. „Als Technologen konzentrieren wir uns einfach so sehr auf das Problem, das wir zu lösen versuchen, und darauf, wie wir es zu lösen versuchen“, sagt sie. „Und bei verantwortungsvoller Technik geht es wirklich darum, den Kopf zu heben, sich umzusehen und zu sehen, wer sonst noch auf der Welt mit mir sein könnte.“
Weitere Informationen zu den Analysen und Empfehlungen von Thoughtworks zu verantwortungsvoller Technologie finden Sie hier Spiegel 2024.
Dieser Inhalt wurde von Insights erstellt, dem Bereich für benutzerdefinierte Inhalte von MIT Technology Review. Es wurde nicht von der Redaktion des MIT Technology Review verfasst.