全国的に用いられている健康アルゴリズムは、健康保険会社が毎年数百万にのぼる人の医療決定に関する決定についての情報を得るために用いている最大規模の市販ツールの1つであるが、黒人患者における健康リスクの予測において重大な人種的バイアスがあることが示された、と研究者らが報告している。この新たな研究によれば、広く用いられているこのツールは、黒人患者のニーズを白人患者よりも過小評価しているという。同じリスクスコアでみると、このアルゴリズムによると黒人患者は同様の病気を有する白人患者よりも健康であると判定され、その結果、さらなるケアが必要と見なされる黒人患者の数が少なくなる。この結果から、こうしたバイアスが生じる理由はこのアルゴリズムによる健康上のニーズの予測が、実は医療費の予測であるためであることが示される。「この研究は、技術開発に対するより社会を意識したアプローチに大きく寄与するものである。なぜなら、一見したところ安全な分類の選択（すなわち医療費）が、生命を脅かす可能性を伴うプロセスを始動させるからである」と、関連するPerspectiveでRuha Benjaminは記している。医療施設では、健康リスクを予測して最もニーズの高い人にリソースを割り当てるために、アルゴリズムを用いた予測の使用に頼ることが多くなっている。これらの自動化システムにバイアスがあるという可能性は、認識される懸念として増大しつつあるが、大部分が所有権で守られている市販の健康評価アルゴリズムに対する独立した評価はあまり行われていない。今回Ziad Obermeyerらは、全米の医療システムで広く用いられているリスク予測アルゴリズムに対して初めて評価を行ったものの1つとしてその結果を提示している。このツールの基礎となっているデータと機能にアクセスして、Obermeyerらはこのアルゴリズムに内在する働き、例えばそこに潜む人種格差やその発生機序について調べることができた。同アルゴリズムは、医療費を医療ニーズの代理指標として用いている。しかしこの著者らは、医療費が人種的バイアスを有する指標であると主張している。そもそも黒人では白人よりもかかっている医療費が少ないが、それは医療へのアクセスが少ないことに加えて、構造的な人種差別の存在が原因となっている。このため、医療ニーズの予測にも同じバイアスが入り込むことになる存在している。Obermeyerらは、別の代理指標を用いてこのアルゴリズムを改訂することで、人種的バイアスが84％低下したことを示した。今回の結果に基づいて、著者らはこのアルゴリズムの開発者と協働して、バイアスを低減するための作業に取り組んでいる。
###
Journal
Science