Das US-Gesundheitssystem stützt sich auf kommerzielle Vorhersage-Algorithmen, um Patienten mit komplexen Gesundheitsbedürfnissen zu identifizieren und durch eine intensivere medizinische Betreuung eine Verschlimmerung und die damit verbundenen höhere Kosten zu verhindern. Ein nun in einer Studie untersuchter Algorithmus, der von vielen Krankenkassen in den USA eingesetzt wird, benachteiligt schwarze Patienten und betrifft mehrere Millionen Versicherte. Der Algorithmus selbst sei aber nicht rassistisch, das Problem wurde in den zur Auswertung herangezogenen Daten identifiziert, die die strukturellen Ungleichheiten des US-Gesundheitssystem widerspiegeln.

Der untersuchte, weit verbreitete Algorithmus, der für den branchenweiten Ansatz typisch ist, weist aufgrund der Daten eine signifikante rassistische Verzerrung auf. Die Verzerrung entsteht, weil eher die Gesundheitskosten bewertet werden und die eigentliche Krankheit weniger berücksichtigt wird. Schwarze Patienten haben in den USA weniger Vertrauen in das Gesundheitssystem als weiße Patienten und nehmen es weniger in Anspruch, die Folge sind geringere Kosten bei den schwarzen Patienten mit gleicher Erkrankung.

Lösbares Problem

Die mit dem Algorithmus ermittelten Patienten sollen eine umfangreiche Versorgung bekommen, indem zusätzliche Ressourcen für das Krankheitsbild bereitgestellt werden und die Ergebnisse langfristig für eine verbesserte Gesundheit und Kostensenkung sorgen sollen. Die verminderte Inanspruchnahme der Gesundheitsversorgung von Afroamerikanern sorgte laut der Studie von Ziad Obermeyer (School of Public Health, University of California) und seinem Team für ein signifikantes Ungleichgewicht bei der Vorhersage durch den Algorithmus.

Die Beseitigung dieser Ungleichheit würde den Prozentsatz von schwarzen Patienten, die zusätzliche Hilfe erhalten, von 17,7 Prozent auf 46,5 Prozent erhöhen. Nach Abschluss der Analysen teilte das Team seine Ergebnisse mit dem Unternehmen, das für den Algorithmus verantwortlich ist. Das Unternehmen bestätigte nach eigenen Analysen die Ergebnisse der Studie und arbeitet zusammen mit Obermeyer und seinem Team an einer Lösung des Problems, das berichtet Science.

Kein Einzelfall

Die Untersuchungen zeigen, wie Verzerrungen durch die Wahl der Daten, mit denen ein Algorithmus trainiert wird, unabsichtlich auftreten können. Wahrscheinlich sei der Gesundheitssektor kein Einzelfall.

Die zehn am häufigsten eingesetzten Algorithmen nutzen Kostenvorhersagen als Grundlage, erklären die Forscher. Die in der Studie aufgetretenen Probleme seien auch in anderen Branchen zu erwarten. (bme)