Künstliche Intelligenz (KI) birgt das Potenzial, das Gesundheitswesen zu verändern, indem sie verschiedene Aspekte der Patientenversorgung, Diagnostik und Verwaltungsaufgaben verbessert. Allerdings ist die Auseinandersetzung mit Ethik von entscheidender Bedeutung, um sicherzustellen, dass sie der Gesellschaft nützt, ohne Schaden anzurichten.
Während einer Veranstaltung im Januar in Brüssel startete die Europäische Kommission die European Cancer Imaging Initiative, eines der Schlüsselprojekte des Europäischen Krebsbekämpfungsplans (EBCP). Die Initiative zielt darauf ab, das Potenzial von KI oder Hochleistungsrechnen (HPC) zur Krebsbekämpfung freizusetzen.
„Digitale Technologien und künstliche Intelligenz sind in unserem Kampf gegen Krebs von entscheidender Bedeutung“, sagte Thierry Breton, Kommissar für den Binnenmarkt, in einer Pressemitteilung nach der Einführung.
Die Initiative zielt darauf ab, eine digitale Infrastruktur zu schaffen, die Ressourcen und Datenbanken mit Krebsbildgebungsdaten in der gesamten EU, einschließlich Krankenhausnetzwerken und Forschungsrepositorien, miteinander verbindet, um Innovationen und den Einsatz digitaler Technologien in der Krebsbehandlung und -pflege zu fördern.
Die verantwortungsvolle Entwicklung, Bereitstellung und Nutzung künstlicher Intelligenz ist jedoch von zentraler Bedeutung für die Vermeidung potenzieller Schäden. Die Initiative der Kommission, nur eines der Beispiele dafür, wie KI im Gesundheitsbereich Einzug hält, soll die Einhaltung hoher Ethikstandards gewährleisten.
Doch nach Angaben der Weltgesundheitsorganisation (WHO) sind die europäischen Länder nicht bereit, sich den Risiken der KI zu stellen.
„Wir müssen viel härter arbeiten, um sicherzustellen, dass KI ihren Zweck erfüllt, sodass Patienten und Gesundheitspersonal viel stärker in die Gestaltung und Entwicklung von KI einbezogen werden müssen“, Natasha Azzopardi-Muscat, Direktorin für Ländergesundheitspolitik und -systeme bei der WHO Europa, sagte Euractiv beim Europäischen Gesundheitsforum in Gastein (EHFG) im September.
Die WHO arbeitet derzeit an einem Policy Brief zur Regulierung von KI im Gesundheitswesen. „Wir wollen die Entwicklung der KI nicht stoppen, aber wir müssen sicherstellen, dass sie sicher ist“, sagte Azzopardi-Muscat.
Ethik in der KI
Eines der Hauptanliegen ist die Diskriminierung, die KI erzeugen kann. KI kann verzerrt sein, wenn die zur Entwicklung von KI-Algorithmen verwendeten Trainingsdaten Ungleichgewichte aufweisen, Ungleichheiten in der Gesundheitsversorgung widerspiegeln oder bestehende Verzerrungen bei Diagnosen und Behandlungsentscheidungen widerspiegeln.
Wenn die Daten beispielsweise überwiegend eine bestimmte demografische Gruppe repräsentieren oder bestimmte Gesundheitszustände in anderen nicht ausreichend erfassen, kann die KI ungenaue Empfehlungen oder Diagnosen liefern, was zu Ungleichheiten bei den Gesundheitsergebnissen führt.
„In bestimmten Fällen hat die KI Gerechtigkeit und Vielfalt nicht respektiert. Wir hatten zum Beispiel Algorithmen, die bei Frauen oder bei Menschen anderer Rassen nicht so gut funktionierten“, betonte Azzopardi-Muscat.
In einer im Juni 2022 veröffentlichten Studie teilte das Europäische Parlament die gleiche Sorge.
„Mangelnde Transparenz wird allgemein als ein wichtiges Problem bei der Entwicklung und Nutzung aktueller KI-Tools im Gesundheitswesen angesehen“, heißt es in der Studie.
Am Donnerstag (28. September) wies Amnesty International darauf hin, dass KI-Systeme „kolossale Mengen oft sensibler Daten verwenden, die in automatisierte Systeme eingespeist werden, um festzustellen, ob eine bestimmte Person Anspruch auf Wohnraum, Sozialleistungen, Gesundheitsversorgung und Bildung hat“.
„Doch anstatt gesellschaftliche Probleme zu lösen, verstärken viele KI-basierte Systeme eklatant Rassismus und Ungleichheit und verewigen Menschenrechtsverletzungen und Diskriminierung“, fügte Amnesty hinzu und sagte, dass das KI-Gesetz noch weiter gehen sollte, um EU-Bürger zu schützen.
Bedenken hinsichtlich Ethik und KI sind nichts Neues. Im Jahr 2021 hat die UNESCO, die UN-Organisation für Bildung, Wissenschaft und Kultur, eine Liste mit Empfehlungen für den ethischen Einsatz künstlicher Intelligenz erstellt.
Eine der Empfehlungen lautete: „KI-Akteure sollten soziale Gerechtigkeit, Fairness und Nichtdiskriminierung fördern und gleichzeitig einen integrativen Ansatz verfolgen, um sicherzustellen, dass die Vorteile der KI für alle zugänglich sind.“
Eine weitere häufige Sorge ergibt sich aus der Tatsache, dass einige Ärzte befürchten, dass sie durch KI-gesteuerte Geräte ersetzt werden könnten. Das Ziel von KI bestehe jedoch nicht darin, Ärzte durch Maschinen zu ersetzen, sondern Ärzte darin zu schulen, mit Maschinen zu arbeiten, betonte Terje Peetso, Chief Medical Innovation Officer am Nordestland Medical Centre, beim EHFG.
Azzopardi-Muscat betonte, dass „KI die Möglichkeit hat, die Art und Weise, wie wir die Bereitstellung von Gesundheitsdiensten optimieren, wirklich zu verändern.“ Die Möglichkeiten sind unendlich.“
EU-KI-Gesetz
Im April 2021 stellte die Europäische Kommission den ersten EU-Rechtsrahmen für KI vor und zwei Jahre später verabschiedete das Europäische Parlament seine Verhandlungsposition zum KI-Gesetz.
„Die Regeln zielen darauf ab, die Einführung menschenzentrierter und vertrauenswürdiger KI zu fördern und die Gesundheit, Sicherheit, Grundrechte und Demokratie vor ihren schädlichen Auswirkungen zu schützen“, heißt es in der Erklärung des Parlaments.
Das KI-Gesetz berücksichtigt KI-Systeme, die in Produkten verwendet werden, die darunter fallen die Produktsicherheitsgesetzgebung der EUeinschließlich Spielzeug, Luftfahrt, Autos, medizinische Geräte und Aufzüge, stellen ein hohes Risiko dar.
Das Parlament erweiterte die Liste außerdem um Verbote aufdringlicher und diskriminierender Nutzungen von KI, etwa biometrische Kategorisierungssysteme, die sensible Merkmale wie Geschlecht oder Rasse verwenden.
Im Gesundheitssektor könnte diese neue Regelung dazu beitragen, die Diskriminierung zu bekämpfen, auf die Amnesty International und die WHO hingewiesen haben.
„Wir sind zuversichtlich und optimistisch, dass sich die KI weiter verbessern wird. Es muss Teil der Lösung sein, aber wir müssen den richtigen Weg finden, es zu regulieren, damit Patienten und Gesundheitspersonal ihm vertrauen können“, schloss Azzopardi-Muscat.
Co-Berichterstatter Dragos Tudorache (Renew, Rumänien) sagte am Tag der Abstimmung: „Das KI-Gesetz wird weltweit den Ton bei der Entwicklung und Steuerung künstlicher Intelligenz angeben und sicherstellen, dass diese Technologie.“ […] entwickelt sich und wird im Einklang mit den europäischen Werten Demokratie, Grundrechte und Rechtsstaatlichkeit genutzt.“
Da die Gespräche zwischen Parlament und EU-Ländern nun im Rat beginnen, wird eine Einigung über das KI-Gesetz bis Ende 2023 erwartet.
[Edited by Giedrė Peseckytė/Zoran Radosavljevic]
