Oh, die KI-Rony.
China hat am Dienstag ein Versprechen der Vereinten Nationen unterzeichnet, um zu verhindern, dass künstliche Intelligenz in Gesellschaften verheerende Schäden anrichtet, unter anderem durch das Verbot der Verwendung von KI für „Social Scoring“-Systeme – eine Praxis, die Peking selbst in den letzten Jahren populär gemacht hat und derzeit verwendet, um chinesische Bürger zu bewerten basierend auf ihrer wahrgenommenen Vertrauenswürdigkeit.
Der weltweite Druck, verbindliche Regeln für KI-Praktiken wie Social Scoring und Gesichtserkennung an öffentlichen Orten einzuführen, die Menschenrechte und bürgerliche Freiheiten gefährden, wächst weltweit.
Aber die Organisation für Bildung, Wissenschaft und Kultur der Vereinten Nationen (UNESCO) ist die erste internationale Organisation, die Peking dazu bringt, Prinzipien zu unterzeichnen, die ein Ende der allgegenwärtigen Massenüberwachung mit KI fordern.
Die 193 Mitgliedsländer der UNESCO haben am Dienstag eine erste Empfehlung ihrer Art zur KI-Ethik verabschiedet. Das Herzstück des Textes ist eine Warnung an Regierungen, gefährliche Anwendungsfälle für die Technologie zu meiden, da sie die Bürgerrechte bedrohen.
„Wenn Sie sich nicht sicher sind, dass die Entwicklung bestimmter Technologien negative Auswirkungen haben wird, aber davon ausgeht, dass sie es könnten – tun Sie es nicht. So einfach ist das“, sagte Gabriela Ramos, stellvertretende Generaldirektorin für Sozial- und Humanwissenschaften der UNESCO, die die KI-Bemühungen der Organisation geleitet hat, gegenüber KI: Decoded von POLITICO in einem Interview vor dem Deal.
Der UN-Text fordert Technologen auf, ethische Folgenabschätzungen durchzuführen, und fordert Regierungen auf, „starke Durchsetzungsmechanismen und Abhilfemaßnahmen“ zum Schutz der Menschenrechte einzuführen. Er fordert die Regierungen auch auf, öffentliche Mittel bereitzustellen, um die Vielfalt in der Technologie zu fördern, indigene Gemeinschaften zu schützen und zu überwachen die CO2-Bilanz von KI-Technologien.
Die UN-Empfehlungen sind freiwillig. Ramos lehnte es ab, sich dazu zu äußern, ob China, der Schöpfer des Social-Scoring-Systems, seiner Meinung nach tatsächlich sein eigenes System gemäß der Empfehlung verbieten würde.
Dass sich Russland und China engagieren wollen, sei ein gutes Zeichen, sagte Ramos: „Am Ende müssen wir [held] verantwortlich. Und manchmal ist es sogar schwierig, Rechenschaftspflicht und Verantwortung in der digitalen Welt zu hinterfragen.“
Unter Druck
Die USA, Heimat der weltweit größten KI-Unternehmen, sind nicht Teil der UNESCO und nicht Unterzeichner der neuen Empfehlung.
Ramos argumentierte jedoch, dass Gruppenzwang ein mächtiges Instrument ist und die USA in einen ähnlichen Kampf wie den um die Besteuerung digitaler Plattformen geraten könnten, wenn sie sich nicht an globalen Regeln für ethische KI beteiligen.
„Sie können sagen: ‚Das ist mir egal, weil ich meine Plattformen nicht besteuern möchte.’ Aber wenn der Rest der Welt Plattformen besteuert, dann müssen Sie in eine Diskussion einsteigen“, sagte sie.
Ramos von der UNESCO erwartet, dass die freiwillige Empfehlung ihrer Organisation die Verhandlungen über den Entwurf des EU-Gesetzes über künstliche Intelligenz beeinflusst, das das weltweit erste rechtsverbindliche Gesetz zu KI wäre.
Der im April vorgeschlagene Gesetzentwurf sieht Produktsicherheitsregeln für „Hochrisiko“-KI vor, die dem Menschen wahrscheinlich Schaden zufügen kann. Es verbietet auch bestimmte „inakzeptable“ KI-Anwendungen wie Social Scoring und die Verwendung biometrischer Fernidentifikation an öffentlichen Orten von der Strafverfolgung, es sei denn, es geht um die Bekämpfung schwerer Kriminalität wie Terrorismus.
Die Empfehlung der UNESCO lautet „der Code zur Änderung der [AI sector’s] Geschäftsmodell, mehr als alles andere“, sagte Ramos.
„Es ist an der Zeit, dass die Regierungen ihre Rolle bekräftigen, gute Qualitätsvorschriften zu haben und Anreize für den guten Einsatz von KI zu schaffen und den schlechten Einsatz zu verringern“, sagte sie.