Okay, das letzte Szenario ist nur ein Albtraumszenario mit freundlicher Genehmigung des KI-Pioniers Geoffrey Hinton, der es Anfang des Jahres auf einer unserer EmTech Digital-Veranstaltungen vorgestellt hat. Aber es spricht einen anderen Punkt von Ng an und das Thema dieser Ausgabe. Ng fordert die Innovatoren dazu auf, Verantwortung für ihre Arbeit zu übernehmen; Er schreibt: „Da wir uns auf KI als Treiber wertvoller Innovationen in der gesamten Gesellschaft konzentrieren, ist soziale Verantwortung wichtiger denn je.“
Die jungen Innovatoren, die wir in dieser Ausgabe feiern, veranschaulichen in vielerlei Hinsicht, wie wir ethisches Denken in die Technologieentwicklung integrieren können. Das gilt sicherlich für unsere Innovatorin des Jahres, Sharon Li, die sich dafür einsetzt, KI-Anwendungen sicherer zu machen, indem sie sie dazu bringt, nicht zu handeln, wenn sie mit etwas konfrontiert werden, für das sie nicht geschult wurden. Dies könnte dazu beitragen, zu verhindern, dass die von uns erstellten KIs alle möglichen unerwarteten Wendungen nehmen und unsäglichen Schaden anrichten.
In dieser Ausgabe geht es um Fragen der Ethik und darum, wie diese durch Technologie angegangen, verstanden oder vermittelt werden können.
Hätten relativ wohlhabende Westler aufhören sollen, Kleinunternehmern in Entwicklungsländern Geld zu leihen, weil die Kreditplattform ihre Top-Führungskräfte hoch entlohnt? Wie viel Kontrolle sollten wir darüber haben, was wir verschenken? Dies sind nur einige der heiklen Fragen, denen Mara Kardas-Nelson über eine Revolte der Kreditgeber gegen die Mikrofinanz-Nonprofit-Organisation Kiva nachgeht.
Jessica Hamzelou hinterfragt die Richtlinien für den Zugang zu experimentellen medizinischen Behandlungen, die für verzweifelte Patienten und ihre Familien manchmal der letzte Ausweg sind. Wer sollte in der Lage sein, diese unbewiesenen Behandlungen anzuwenden, und welche Wirksamkeits- und (noch wichtiger) Sicherheitsnachweise sollten verlangt werden?
In einer weiteren Frage, bei der es um Leben und Tod geht, beschäftigt sich Arthur Holland Michel mit der computergestützten Kriegsführung. Wie sehr sollten wir unsere tödlichen Entscheidungen auf Analysen durch künstliche Intelligenz stützen? Wie können wir diese KI-Systeme so aufbauen, dass wir sie eher als Berater denn als Entscheider behandeln?
Rebecca Ackermann wirft einen Blick auf die lange Entwicklung der Open-Source-Bewegung (und die Art und Weise, wie sie Freiheit immer wieder neu definiert hat – frei wie im Bier, frei wie in der Sprache, frei wie in Welpen). Wenn Open Source etwas sein soll Wir alle profitieren davon, und viele profitieren sogar davon. Wie sollten wir über seine Erhaltung und Weiterentwicklung nachdenken? Wer sollte dafür verantwortlich sein?
Und auf einer eher metaphysischen Ebene wirft Gregory Epstein, ein humanistischer Geistlicher am MIT und Präsident der Harvard-Seelsorgerorganisation, der sich auf die Schnittstelle zwischen Technologie und Ethik konzentriert, einen tiefen Blick auf All Tech Is Human, eine gemeinnützige Organisation, die Ethik und Ethik fördert Verantwortung in der Tech. Er fragt sich, wie seine Beziehung zur Technologiebranche definiert werden sollte, wenn diese wächst und Finanzmittel von Riesenkonzernen und Multimilliardären erhält. Wie kann eine Gruppe, die sich für Offenheit und Transparenz einsetzt, mit Mitgliedern und sogar Führungskräften koexistieren, die sich der technischen Geheimhaltung verschrieben haben?