Ob eine dieser Strategien die Verzerrung bei Pulsoximetern beheben kann, bleibt abzuwarten. Es ist jedoch wahrscheinlich, dass die Messlatte für die Leistung höher sein wird, wenn verbesserte Geräte zur behördlichen Genehmigung anstehen. Bei der Sitzung letzte Woche prüften die Ausschussmitglieder einen Vorschlag, der Unternehmen dazu verpflichten würde, das Gerät an mindestens 24 Personen zu testen, deren Hauttöne die gesamte Skala von 10 Farbtönen abdecken. Die derzeitige Anforderung besteht darin, dass an der Studie zehn Personen teilnehmen müssen, von denen zwei „dunkel pigmentierte“ Haut haben.
In der Zwischenzeit kämpfen die Beschäftigten im Gesundheitswesen mit der Frage, wie sie die vorhandenen Instrumente nutzen und ob sie ihnen vertrauen sollen. In der Sitzung des Beratungsausschusses am Freitag fragte ein Ausschussmitglied einen Vertreter von Medtronic, einem der größten Anbieter von Pulsoximetern, ob das Unternehmen über einen freiwilligen Rückruf seiner Geräte nachgedacht habe. „Wir glauben mit 100-prozentiger Sicherheit, dass unsere Geräte den aktuellen FDA-Standards entsprechen“, sagte Sam Ajizian, Chief Medical Officer für Patientenüberwachung bei Medtronic. Ein Rückruf „würde die öffentliche Sicherheit gefährden, da es sich um ein grundlegendes Gerät in Operationssälen, Intensivstationen, Notaufnahmen, Krankenwagen und überall handelt.“
Aber nicht alle sind sich einig, dass der Nutzen den Schaden überwiegt. Im vergangenen Herbst reichte ein kommunales Gesundheitszentrum in Oakland, Kalifornien, eine Klage gegen einige der größten Hersteller und Verkäufer von Pulsoximetern ein und forderte das Gericht auf, den Verkauf der Geräte in Kalifornien zu verbieten, bis die Messwerte für Menschen mit dunkler Hautfarbe nachweislich korrekt sind bis die Geräte einen Warnhinweis tragen.
„Das Pulsoximeter ist ein Beispiel für den tragischen Schaden, der entsteht, wenn die Gesundheitsbranche des Landes und die Aufsichtsbehörden, die es überwachen, der weißen Gesundheit Vorrang vor der Realität nicht-weißer Patienten einräumen“, sagte Noha Aboelata, CEO des Roots Community Health Center , in einer Stellungnahme. „Die Geschichte der Herstellung, Vermarktung und Nutzung rassistisch motivierter Pulsoximeter ist eine Anklage gegen unser Gesundheitssystem.“
Lesen Sie mehr von MIT Technology Review‘s Archiv
Melissa Heikkiläs Berichterstattung zeigte ihr, wie „blass, männlich und abgestanden“ die Menschen der KI sind. Könnten wir einfach darum bitten, es besser zu machen?
„Kein Wunder, dass Technologie Rassismus verewigt“, schrieb Charlton McIlwain im Jahr 2020. So wurde es konzipiert. „Die Frage, mit der wir uns auseinandersetzen müssen, ist, ob wir weiterhin Instrumente entwickeln und einsetzen werden, die den Interessen von Rassismus und weißer Vorherrschaft dienen.“
Wir haben gesehen, dass Deep-Learning-Modelle bei Bildgebungsaufgaben genauso gut abschneiden können wie medizinische Fachkräfte, aber sie können auch Vorurteile aufrechterhalten. Einige Forscher sagen, der Weg, das Problem zu lösen, bestehe darin, die Algorithmen nicht mehr so zu trainieren, dass sie mit den Experten übereinstimmen, berichtete Karen Hao im Jahr 2021.
Aus dem Internet
Die in Apfelmusbeuteln gefundenen hohen Bleiwerte stammten aus einer einzigen Zimtverarbeitungsanlage in Ecuador. (NBC)