Willkommen zu Ich war dort, als, ein neues Oral History-Projekt der In Maschinen, denen wir vertrauen Podcast. Es enthält Geschichten über Durchbrüche in der künstlichen Intelligenz und im Computing, wie sie von den Menschen erzählt wurden, die sie miterlebt haben. In dieser ersten Folge lernen wir Joseph Atick kennen, der an der Entwicklung des ersten kommerziell tragfähigen Gesichtserkennungssystems mitgewirkt hat.
Credits:
Diese Episode wurde von Jennifer Strong, Anthony Green und Emma Cillekens mit Hilfe von Lindsay Muscato produziert. Herausgegeben von Michael Reilly und Mat Honan. Gemixt von Garret Lang, mit Sounddesign und Musik von Jacob Gorski.
Vollständiges Transkript:
[TR ID]
Jennifer: Ich bin Jennifer Strong, Gastgeberin von In Maschinen, denen wir vertrauen.
Ich möchte Ihnen etwas erzählen, an dem wir hier eine Weile hinter den Kulissen gearbeitet haben.
Es heißt Ich war dort, als.
Es ist ein Oral-History-Projekt, das die Geschichten von Durchbrüchen in der künstlichen Intelligenz und der Computertechnik erzählt … wie sie von den Menschen erzählt werden, die sie miterlebt haben.
Joseph Atick: Und als ich den Raum betrat, entdeckte es mein Gesicht, zog es aus dem Hintergrund und sagte: „Ich sehe Joseph“ und das war der Moment, in dem die Haare auf dem Rücken… ich hatte das Gefühl, dass etwas passiert ist. Wir waren Zeugen.
Jennifer: Wir beginnen die Dinge mit einem Mann, der geholfen hat, das erste kommerziell tragfähige Gesichtserkennungssystem zu entwickeln … damals in den 90er Jahren …
[IMWT ID]
Ich bin Joseph Atick. Heute bin ich Executive Chairman von ID for Africa, einer humanitären Organisation, die sich darauf konzentriert, Menschen in Afrika eine digitale Identität zu geben, damit sie auf Dienste zugreifen und ihre Rechte wahrnehmen können. Aber ich war nicht immer im humanitären Bereich. Nach meiner Promotion in Mathematik gelang mir zusammen mit meinen Mitarbeitern einige grundlegende Durchbrüche, die zur ersten kommerziell tragfähigen Gesichtserkennung führten. Deshalb wird ich als Gründervater der Gesichtserkennung und der biometrischen Industrie bezeichnet. Der Algorithmus, wie ein menschliches Gehirn bekannte Gesichter erkennt, wurde mir klar, als wir recherchierten, mathematische Forschungen, während ich am Institute for Advanced Study in Princeton war. Aber es war weit davon entfernt, eine Vorstellung davon zu haben, wie man so etwas umsetzen würde.
Es war ein langer Zeitraum von Monaten der Programmierung und des Scheiterns und der Programmierung und des Scheiterns. Und eines Nachts, am frühen Morgen, hatten wir gerade eine Version des Algorithmus fertiggestellt. Wir haben den Quellcode zur Kompilierung eingereicht, um einen Ausführungscode zu erhalten. Und wir stiegen aus, ich stieg aus, um in den Waschraum zu gehen. Und als ich dann wieder in den Raum trat und der Quellcode von der Maschine kompiliert worden war und zurückgekehrt war. Und normalerweise, nachdem Sie es kompiliert haben, wird es automatisch ausgeführt, und als ich den Raum betrat, sah es einen Menschen, der den Raum betrat, und es entdeckte mein Gesicht, extrahierte es aus dem Hintergrund und sagte: “Ich sehe Joseph.” und das war der Moment, in dem die Haare auf dem Rücken – ich hatte das Gefühl, als wäre etwas passiert. Wir waren Zeugen. Und ich fing an, die anderen Leute, die noch im Labor waren, zu rufen, und jeder von ihnen kam in den Raum.
Und es würde sagen: „Ich sehe Norman. Ich würde Paulus sehen, ich würde Joseph sehen.“ Und wir liefen abwechselnd im Raum herum, nur um zu sehen, wie viele es im Raum entdecken können. Es war ein Moment der Wahrheit, in dem ich sagen würde, dass mehrere Jahre Arbeit schließlich zum Durchbruch führten, obwohl theoretisch kein zusätzlicher Durchbruch erforderlich war. Allein die Tatsache, dass wir herausgefunden haben, wie wir es implementieren können, und diese Fähigkeit schließlich in Aktion gesehen haben, war sehr, sehr lohnend und befriedigend. Wir hatten ein Team entwickelt, das eher ein Entwicklungsteam als ein Forschungsteam ist, das sich darauf konzentriert, all diese Fähigkeiten in eine PC-Plattform zu integrieren. Und das war die Geburtsstunde, wirklich die Geburtsstunde der kommerziellen Gesichtserkennung, würde ich sagen, im Jahr 1994.
Meine Sorge fing sehr schnell an. Ich sah eine Zukunft, in der es kein Versteck gab, mit der Verbreitung von Kameras überall und der Kommerzialisierung von Computern und der immer besser werdenden Verarbeitungsfähigkeiten von Computern. Also habe ich 1998 Lobbyarbeit bei der Industrie gemacht und gesagt, wir müssen Prinzipien für einen verantwortungsvollen Umgang zusammenstellen. Und ich fühlte mich eine Weile gut, weil ich das Gefühl hatte, dass wir es richtig gemacht haben. Ich hatte das Gefühl, dass wir einen verantwortungsvollen Nutzungscode eingeführt haben, der von jeder Implementierung befolgt wird. Dieser Code hat jedoch den Test der Zeit nicht bestanden. Und der Grund dafür ist, dass wir das Aufkommen von Social Media nicht vorhergesehen haben. Als wir 1998 den Code einführten, sagten wir im Grunde, das wichtigste Element eines Gesichtserkennungssystems sei die mit Tags versehene Datenbank bekannter Personen. Wir sagten, wenn ich nicht in der Datenbank bin, wird das System blind sein.
Und es war schwierig, die Datenbank aufzubauen. Wir könnten höchstens tausend 10.000, 15.000, 20.000 bauen, weil jedes Bild gescannt und von Hand eingegeben werden musste – in der Welt, in der wir heute leben, befinden wir uns jetzt in einem Regime, in dem wir das Biest aus dem Sack gelassen haben indem wir es mit Milliarden von Gesichtern füttern und ihm helfen, indem wir uns selbst markieren. Ähm, wir befinden uns jetzt in einer Welt, in der es schwierig ist, die Verwendung der Gesichtserkennung zu kontrollieren und von jedem zu verlangen, dass er verantwortlich ist. Und gleichzeitig mangelt es nicht an bekannten Gesichtern im Internet, weil man einfach kratzen kann, wie es zuletzt bei einigen Firmen der Fall ist. Und so begann ich 2011 in Panik zu geraten und schrieb einen Kommentar dazu, dass es an der Zeit ist, den Panikknopf zu drücken, weil die Welt in eine Richtung geht, in der Gesichtserkennung allgegenwärtig sein wird und Gesichter überall verfügbar sein werden in Datenbanken.
Und damals sagten die Leute, ich sei ein Panikmacher, aber heute erkennen sie, dass es genau das ist, was heute passiert. Und wohin gehen wir von hier aus? Ich habe Lobbyarbeit für Gesetze gemacht. Ich habe mich für rechtliche Rahmenbedingungen eingesetzt, die es für Sie zur Verpflichtung machen, das Gesicht von jemandem ohne deren Zustimmung zu verwenden. Es ist also kein technologisches Problem mehr. Wir können diese mächtige Technologie nicht mit technischen Mitteln eindämmen. Es muss einen rechtlichen Rahmen geben. Wir können nicht zulassen, dass die Technologie uns zu weit vorauseilt. Vor unseren Werten, vor dem, was wir für akzeptabel halten.
Die Frage der Einwilligung ist nach wie vor eines der schwierigsten und herausforderndsten Themen, wenn es um Technologie geht. Eine Kündigung allein reicht nicht aus. Mir muss die Einwilligung mitgeteilt werden. Sie müssen die Konsequenzen dessen verstehen, was es bedeutet. Und nicht nur um zu sagen, na ja, wir haben uns angemeldet und das hat gereicht. Wir haben es den Leuten gesagt, und wenn sie nicht wollten, hätten sie überall hingehen können.
Und ich finde auch, dass es so leicht ist, sich von auffälligen technologischen Merkmalen verführen zu lassen, die uns kurzfristig einen Vorteil in unserem Leben verschaffen könnten. Und dann erkennen wir auf der ganzen Linie, dass wir etwas aufgegeben haben, das zu kostbar war. Und zu diesem Zeitpunkt haben wir die Bevölkerung desensibilisiert und sind an einem Punkt angelangt, an dem wir uns nicht zurückziehen können. Darum mache ich mir Sorgen. Ich bin besorgt über die Tatsache, dass die Gesichtserkennung durch die Arbeit von Facebook und Apple und anderen erfolgt. Ich sage nicht, dass alles illegitim ist. Vieles ist legitim.
Wir sind an einem Punkt angelangt, an dem die breite Öffentlichkeit möglicherweise blasiert und desensibilisiert wird, weil sie es überall sieht. Und vielleicht gehst du in 20 Jahren aus deinem Haus. Sie werden nicht mehr die Erwartung haben, dass Sie es nicht sein würden. Es wird von Dutzenden von Menschen, die Sie unterwegs überqueren, nicht erkannt. Ich denke, zu diesem Zeitpunkt wird die Öffentlichkeit sehr alarmiert sein, weil die Medien beginnen werden, über Fälle zu berichten, in denen Menschen verfolgt wurden. Menschen wurden ins Visier genommen, Menschen wurden sogar nach ihrem Vermögen auf der Straße ausgewählt und entführt. Ich denke, das ist eine Menge Verantwortung auf unseren Händen.
Daher denke ich, dass die Frage der Zustimmung die Branche weiterhin beschäftigen wird. Und bis diese Frage ein Ergebnis ist, wird sie vielleicht nicht gelöst. Ich denke, wir müssen Grenzen setzen, was mit dieser Technologie getan werden kann.
Meine Karriere hat mich auch gelehrt, dass es nicht gut ist, zu viel voraus zu sein, denn die Gesichtserkennung, wie wir sie heute kennen, wurde 1994 erfunden. Aber die meisten Leute denken, dass sie von Facebook und den maschinellen Lernalgorithmen erfunden wurde, die sind mittlerweile auf der ganzen Welt verbreitet. Im Grunde musste ich irgendwann als öffentlicher CEO zurücktreten, weil ich den Einsatz von Technologie, die mein Unternehmen fördern wollte, aus Angst vor negativen Folgen für die Menschheit einschränkte. Ich glaube daher, dass Wissenschaftler den Mut haben müssen, in die Zukunft zu projizieren und die Konsequenzen ihrer Arbeit zu sehen. Ich sage nicht, dass sie aufhören sollten, Durchbrüche zu machen. Nein, Sie sollten mit voller Kraft vorgehen, mehr Durchbrüche erzielen, aber wir sollten auch ehrlich zu uns selbst sein und die Welt und die politischen Entscheidungsträger grundsätzlich darauf aufmerksam machen, dass dieser Durchbruch Vor- und Nachteile hat. Daher benötigen wir bei der Verwendung dieser Technologie eine Art Anleitung und Rahmen, um sicherzustellen, dass sie für eine positive und nicht für eine negative Anwendung kanalisiert wird.
Jennifer: Ich war da, als… ist ein Oral-History-Projekt, das die Geschichten von Menschen zeigt, die Durchbrüche in der künstlichen Intelligenz und im Computing erlebt oder geschaffen haben.
Haben Sie eine Geschichte zu erzählen? Kennen Sie jemanden, der das tut? Schreiben Sie uns eine E-Mail an [email protected].
[MIDROLL]
[CREDITS]
Jennifer: Diese Episode wurde im Dezember 2020 in New York City aufgenommen und von mir mit Hilfe von Anthony Green und Emma Cillekens produziert. Wir werden von Michael Reilly und Mat Honan bearbeitet. Unser Mix Engineer ist Garret Lang… mit Sounddesign und Musik von Jacob Gorski.
Danke fürs Zuhören, ich bin Jennifer Strong.
[TR ID]