Kann eine KI ein Bewusstsein entwickeln? Was hat KI wirklich mit Intelligenz zu tun? Und warum braucht es dringend Frauen, wenn es um ihre Entwicklung geht. Katharina Zweig ist Bestseller-Autorin und KI-Expertin und beschäftigt sich mit den großen Fragen der Zukunft.
Frau Zweig, Sie haben mal gesagt, Künstliche Intelligenz sei eigentlich ein Marketingtrick aus den Fünfzigern. Können Sie das erklären?
In den Fünfzigern war der große Aufbruch der Computerwelt. Ein paar Kollegen hatten damals das Gefühl, es brauche nur ein Jahr konzentrierten Arbeitens, um zum Beispiel automatische Übersetzung möglich zu machen. Wenn wir als Forscher für so etwas Geld brauchen, muss man einen Antrag schreiben. Und dann hilft es natürlich, wenn man einen sexy Titel hat. Und damit ist dieser Begriff der “Künstlichen Intelligenz” geboren worden. Am Ende hat es aber doch noch ein Weilchen gedauert – nämlich bis heute – bis wir wirklich Übersetzungen auf hohem Niveau hatten.
Handelt es sich denn bei KI überhaupt um Intelligenz?
Das Problem ist, dass wir auch bei Menschen nicht ganz sicher sind, wie wir Intelligenz definieren wollen. In der Informatik verstehen wir darunter, dass ein System angemessen auf die Umwelt reagieren kann. Vielleicht auch, dass es weiterlernen kann. Aber es ist ein Missverständnis, dass die heutige KI im Betrieb tatsächlich weiterlernt. Das ist viel zu gefährlich. Im Moment werden KIs so lange im Labor trainiert, bis man denkt, sie sind gut genug. Und dann werden sie in die Umwelt entlassen.
Soll KI irgendwann weiterlernen können?
Ja, das wäre die Idee, dass die Maschine nach einem eigenen moralischen Kompass weiterlernt. Aber genau dieser moralische Kompass ist die Schwierigkeit.
Gab es schon mal einen Versuch mit einer weiterlernenden KI, der fehlgeschlagen ist?
Ja, Microsoft hatte zum Beispiel einen Chatbot, der während der Benutzung gelernt hat. Und dann haben sich ein paar Trolle aus einem Technikforum zusammengetan und diesen Chatbot mit rassistischen, sexistischen Sprüchen beworfen – so lange, bis die Maschine innerhalb von wenigen Stunden zurückgeschimpft hat. Das waren die schlimmsten Sachen. Und seitdem sind wir in der Community, glaube ich, sehr vorsichtig, etwas Selbstlernendes in die Umwelt zu entlassen.
Es geht aber auch andersrum. Google wollte zum Beispiel verhindern, dass KI Stereotypen erfüllt. Immer wenn man eine Suchmaschine nach CEOs fragte, kam ein weißer Mann zum Vorschein. Das wollte man umtrainieren, bis am Ende nur noch afrikanische, indische und weibliche CEOs ausgespuckt wurden – und auch der Papst auf einmal eine Frau war.
Ja, aber das ist auch das, was mich im Moment so fasziniert. Einem Computer kann man keine Freiräume lassen, er braucht für jede Situation eine Handlungsanweisung. Das ist beim Menschen anders. Unsere Gesetze kommen uns zwar sehr klar vor, aber am Ende ist ganz vieles offen gelassen, das im Nachhinein vor Gericht bewertet wird. Zum Beispiel im Straßenverkehr. Niemand hat uns in einer Situation, in der wir uns entscheiden müssen, entweder in zwei spielende Kinder oder drei die Straße überquerende Erwachsene zu rasen, gesagt, was wir tun sollen. Erst im Nachhinein wird festgestellt, ob wir uns in einer Zwangssituation richtig verhalten haben oder anders hätten reagieren müssen. Das können wir bei einem Computer nicht machen. Wir müssen die Entscheidung vorher treffen. Deshalb müssen wir jetzt viel mehr darüber sprechen, wie wir unsere Welt gestalten wollen.
Wie wollen wir sein? Was würden wir selbst tun?
Genau. Deswegen ist die Informatik auch so ein toller Beruf, und ich würde mir so sehr wünschen, dass es viel mehr Frauen gibt, denn wir haben leider viel zu wenige. Auch in meinem Studiengang Sozioinformatik, wo es um gesellschaftliche Aspekte und das Design einer Gesellschaft geht, könnten wir noch mehr Studierende gebrauchen.
Die Werbung lassen wir an dieser Stelle gerne stehen, denn die Gefahr besteht, dass all diese Programme aus einer Blase heraus programmiert werden – also im Zweifelsfall von jungen, weißen Männern, die nicht zwangsweise Diversität mitdenken. War es Ihre Absicht, den Studiengang so zu gestalten, dass er auch mehr Frauen anzieht?
Tatsächlich ja. Als ich mich 2011 auf die Professur an der BTU Kaiserslautern beworben habe, war genau das die Frage: Wie kriegen wir mehr Frauen in die Informatik? Und die Idee war zu zeigen, wie viel Informatik mit Gesellschaft zu tun hat. Das Bild, dass man nur unter einem Tisch sitzt und Kabel klemmt, ist falsch. Mit unserer Software legen wir Dinge fest, zum Beispiel welche Funktionen leichter oder schwieriger werden. Und wir analysieren, wenn das mit uns Menschen und mit unseren Motivationen kollidiert.
Zur Person
Katharina Zweig leitet das “Algorithm Accountability Lab” an der RPTU Kaiserslautern-Landau, sie hat den Studiengang Sozioinformatik gegründet und ist Expertin für KI. Für ihre Expertise wurde sie mehrfach ausgezeichnet, bis 2020 war sie Mitglied der Enquetekommission “Künstliche Intelligenz”. Und sie hat zwei Bestseller geschrieben, die der breiten Masse erklären, was es mit KI und Algorithmen auf sich hat, zuletzt: “Die KI war’s!”.
Das heißt, es geht eigentlich darum, wie wir unsere Zukunft gestalten? Und diese Gestaltung sollten auch Frauen mit übernehmen.
Ja, und Diversität heißt nicht nur “mehr Frauen”. Ich bin in Hamburg zur Grundschule gegangen und hatte damals viele Mitschüler mit türkischem Migrationshintergrund, mit jugoslawischem, mit italienischem. Und die sind nicht mit uns auf die Unis mitgekommen. Ich finde auch hier haben wir in Deutschland einen großen Nachholbedarf. Wir haben es weder geschafft, die Frauen in die Informatik zu bringen, noch die vielen Kinder, die in erster, zweiter, dritter Generation hierhergekommen sind. Und auch die bräuchten wir ganz dringend, um Software zu gestalten, die für alle vorteilhaft ist. Und wir brauchen auch alte Menschen. Denn natürlich soll Software für Personen allen Alters zugänglich sein. Diversität geht von ganz jung bis ganz alt, über verschiedenste kulturelle Hintergründe und natürlich auch über Männer und Frauen.
Was können wir tun, um das herbeizuführen?
Wenn ich das wüsste! Ich habe zu meiner Zeit Unterstützung bekommen. Es gab extra Tutorien für Frauen. Das fanden wir ehrlich gesagt alle furchtbar. Wir brauchen keine Nachhilfe. Ich hatte jetzt erst ein Gespräch am Rande einer Veranstaltung, bei dem jemand in der Pause zu mir sagte, seine Tochter studiere jetzt Informatik. Das hätte er nie gedacht, und er würde ihr immer sagen: “Mach das nur, wenn du das wirklich willst.” Und dann dachte ich: Ja, ihr Eltern seid auch ein bisschen schuld. Warum bremst du denn jetzt dieses Mädchen? Es hat sowieso Druck und muss sich jeden Tag unter Männern beweisen. Und dann kommt der Papa und sagt eben nicht: “Wie großartig!” Es liegt auch an der Gesellschaft. Wir sind gegenüber Menschen, die Spaß am Lernen haben, sehr negativ eingestellt. Das sind Streber. Aber genau diese Streber sind Leute, die Lust haben, sich reinzuknien. Die brauchen wir in Deutschland.
Wie war es denn bei Ihnen?
Genauso.
Aber Ihre Eltern haben Sie nicht gebremst?
Nein, aber als ich gesagt habe, ich studiere jetzt Informatik, war das Erste, das meine Mutter geantwortet hat: “Aber das macht doch eigentlich dein Bruder.” Und das stimmte. Er war derjenige, der den Computer hatte und sich damit auskannte. Aber auch das ist ein Missverständnis: Man muss nicht schon vorher programmieren können, sondern wir bringen das den Studierenden bei. Aber man sollte auch keine Angst haben vor Technik.
Ihre Begeisterung für die Informatik ist unüberhörbar.
Ja, denn ich glaube, es ist wirklich ein guter Zeitpunkt, um in die Informatik zu gehen. Man kann Gesellschaft damit aktiv gestalten. Dazu kommt der Fachkräftemangel. Die Gelder, die man verdienen kann, sind enorm. Und – das ist jetzt vielleicht ein Klischee – aber als Frau lässt sich dieser Beruf sehr gut mit Kindern vereinen, weil man so viel aus dem Homeoffice machen kann.
Bei Ihnen ist die familiäre Rollenverteilung aber alles andere als klischeebesetzt, richtig?
Genau, man hört es vielleicht im Hintergrund ein bisschen. Mein Mann bereitet gerade das Mittagessen zu. Bei uns ist mein Mann mit den Kindern zu Hause, und ich bin vorne auf den Bühnen.
Sie sind keine Ethikerin, aber: Überwiegen für Sie eher die Chancen oder Risiken der Künstlichen Intelligenz?
Wenn wir über “die KI” sprechen, ist das ein bisschen so, als wenn man auf eine Baustelle geht und sowohl den Spaten als auch die Schubkarre und den Kran zusammenfasst unter “künstliche Kraft”. Das sind alles Werkzeuge, mit denen wir unsere Körperkraft erhöhen können. Aber erst wenn man fragt, was die Chancen eines Krans sind, wird es konkret. Genau das müssen wir bei der KI auch machen. Es gibt nicht die eine KI, die allwissend ist. Wir sprechen oft so über sie, aber das ist falsch. Es gibt eine Übersetzer-KI, die ist super. Es gibt eine Bilderkennungs-KI oder Gesichtserkennungs-KI, die ist toll, wenn man sie zum Beispiel in einer Firma einsetzen will, damit nicht jeder in jeden Bereich reinkommen kann. Wenn man sie aber am Bahnhof Südkreuz in Berlin einsetzen will, um 300 Personen zu identifizieren, ist sie nicht gut genug. Das heißt, wir müssen über KI immer im Einzelfall reden und festlegen, unter welchen Bedingungen sie hilfreich ist oder eben nicht.
Und nun die Frage aller Fragen: Kann KI ein Bewusstsein entwickeln?
Da frage ich immer zurück: Sind Sie religiös?
Nein, bin ich nicht.
Wenn man nicht religiös ist, sieht man, dass wir Bewusstsein rein aus Materie entwickelt haben. Und damit ist es, finde ich, sehr wahrscheinlich, dass man das aus anderer Form von Materie herstellen kann. Wenn man sowieso davon ausgeht, dass es dafür einen göttlichen Funken braucht oder etwas Ähnliches, muss man an der Stelle gar nicht weiterfragen. Ich kann mir vorstellen, dass wir etwas Bewusstseinsähnliches erschaffen könnten. Ich habe davon aber abgeraten.
Sie sagen also: Es geht, aber lasst es uns bitte nicht tun.
Ja, wie ich schon am Anfang des Gesprächs gesagt habe, braucht eine weiterlernende KI einen moralischen Kompass. Aber es ist schon schwierig, Kindern diesen Kompass mitzugeben, oder? Eine ganz einfache Geschichte: Meine Tochter hat irgendwann verstanden, dass Geld etwas Tolles ist, und wollte Oma und Opa zehn Euro schenken. Ich habe ihr gesagt: “Nein, Schatz, das macht man nicht. Kinder schenken Älteren kein Geld.” Es hat lange gedauert, bis sie das verstanden hat. Aber sie ist ein Regelfuchs. Als wir irgendwann in der Innenstadt in Kaiserslautern an einem Obdachlosen vorbeikamen, habe ich ihr zwei Euro in die Hand gegeben und gesagt: “Gib das doch bitte diesem Mann.” “Aber Mama, du hast doch gesagt …” Daran sieht man schon, wie schwierig es ist, unsere Entscheidungen, unsere Werturteile in Worte zu fassen. Wir vergessen Einzelfälle, die wesentlich sind. Bei meiner Tochter habe ich den Vorteil, dass sie einiges selbst merken wird. Ein Computer wird das nicht. Ich glaube, dass wir als Menschen nicht weitreichend genug denken können, um ein Regelsystem so konsistent aufsetzen zu können, dass die Maschine tatsächlich mit uns in Frieden zusammenleben würde. Und deswegen kann ich davon nur abraten.
“Die Boss”-Newsletter
“Die Boss”-Gastgeberin Simone Menne und stern-Redakteurin Laura Csapó schreiben Ihnen im Wechsel zum Thema female leadership. Analysen, Tipps und Tricks. 14-tägig, immer zwischen den Podcast-Folgen. Abonnieren Sie hier den Newsletter.
Sind wir in Deutschland vorsichtiger? Ist KI ein “German-Angst”-Thema?
Auf der einen Seite gibt es jetzt KI-Systeme in den USA, die vor Gericht verwendet werden, um bei Kriminellen vorherzusagen, ob sie rückfällig werden oder nicht – und die das nur mit einer Genauigkeit von 60 Prozent tun. So etwas ist schauderhaft, und es ist gut, dass wir das nicht machen. Auf der anderen Seite habe ich auch die Frage bekommen, warum ich immer bremse. Aber das stimmt nicht. Das liegt nicht an mir. Als wir unsere Firma TrustedAI 2019 gegründet hatten, dachten wir, jetzt geht’s los. Jetzt kommt die KI. Aber die meisten kleinen und mittleren Unternehmen sind einfach nicht ausreichend digitalisiert. Und dann kommt noch so eine grundsätzliche Angst um die Cybersecurity. Und Datenschutz muss man gut vorbereiten. Das ist ein Aufwand, das ist Bürokratie. Das heißt, es liegt eigentlich daran, dass die vor uns liegenden Früchte nicht gepflückt werden, weil nicht genug Wissen da ist, weil die Digitalisierung nicht weit genug vorangeschritten ist. Und ich glaube, an diesen Stellen müssen wir ansetzen.
Das Gespräch führte Simone Menne mit Katharina Zweig im stern-Podcast “Die Boss – Macht ist weiblich”. Es wurde für stern PLUS redaktionell angepasst.