個人の健康は信じられないほど個人的な問題であり、医者に行くことは威圧的でストレスの多い経験になる可能性があります. これは、医療システムが歴史的に失敗してきたグループの一部である人々に特に当てはまります. 医療システムにおけるこれらの構造的な問題は、患者の診断と治療にますます使用されるアルゴリズムに浸透しています。 CCC は、「健康の公平性: アルゴリズムとデータは害を悪化させるのではなく、緩和することができるか?」というパネルを開催しました。 これらの問題に対処しました。 パネリストは、Amaka Eneanya 博士 (Fresenius Medical Care)、Mona Singh 博士 (プリンストン大学)、Melanie Moses 博士 (ニューメキシコ大学)、および Katie Siek 博士 (インディアナ大学) でした。
Dr. Eneanya は、どのように等式が体系的に腎疾患を過小評価したかを議論することからパネルを開始しました。何十年もの間、黒人アメリカ人に見られました。 彼女は、米国では、腎臓病を患っているすべての患者がレジストリに登録されていると説明しました. この病気の有病率は、ここ数十年で全体的に増加しており、黒人の場合、それはさらに一般的で深刻になる傾向があります.
Dr. Eneanya は、慢性腎臓病 (CKD) の危険因子と転帰におけるこれらの人種的/民族的格差について概説しました (Eneaya ND et al. ネイチャー レヴ ネップh. 2021、米国腎臓データシステム。):
- 糖尿病の有病率は、他の人種グループと比較して黒人の個人で最も高い
- 黒人およびヒスパニック系の人は、白人の人に比べて若い年齢で診断されます
- 黒人は白人に比べて高血圧になる率が有意に高い
- 黒人およびヒスパニック系は白人に比べて高血圧のコントロールが少ない
- 黒人は、他の人種グループと比較して、透析を開始する前に腎臓科のケアを受ける可能性が低い
- 透析や腎移植が必要な腎不全になるリスク
- 黒人対白人では 4 倍高い
- ヒスパニック系は白人よりも 1.3 倍高い
- 黒人は他の人種グループに比べて腎臓移植を受ける可能性が低い
構造的人種差別は、腎臓関連疾患による健康状態の悪化を助長すると、Eneaya 博士は詳しく述べた (Eneaya ND et al. ネイチャー レヴ ネップh. 2021.):
何を食べるかなど、あなたが許容できる生活習慣や、人種差別や差別のストレスなどの生物学的影響はすべて、体内の代謝変化につながり、腎機能の低下につながる可能性があります.
Eneanya 博士は、臨床医が現在使用しているアルゴリズムが現実世界にどのように影響するかの例に焦点を当てました。 eGFR 方程式は、患者の腎機能の強さを判断するために使用されるアルゴリズムです。 eGFR が高いほど、腎機能が良好であることを表します。 患者の eGFR レベルによって、特定の治療を受ける資格があるかどうかが決まります。おそらく最も重要なのは、腎移植です。 しかし、このアルゴリズムは、年齢、性別が同じで、クレアチニン測定値 (腎機能を測定する血液検査) が同じである黒人と非黒人の eGFR レベルが異なることを示しています。 アルゴリズムは、黒人が非黒人よりも高いeGFR、おそらく優れた腎機能を持っていると計算します. これは、彼らが受ける資格のある治療を制限し、彼らが受ける資格があるべき支援を受けるには、より病気になる必要があることを意味します.
Eneanya 博士はアルゴリズムの歴史を説明し、アルゴリズムがなぜこの誤った方法で計算するのかを明らかにしました. この研究では、米国で使用された最初の eGFR 方程式を開発し、黒人の eGFR を高める原因となる「黒人」の乗算係数を組み込みました。 eGFR の使用には問題があります。臨床医は外見や医療記録に基づいて誰かの人種を判断しなければならないからです (前の臨床医からの残りの仮定として人種がリストされている可能性があります)。 また、混血個体の区別も分類方法もありません。
Eneanya 博士は、推定に人種を考慮しない式を提唱することで、ヘルスケアにおける eGFR の計算方法を変更した記事の著者でした (Inker LA, Eneanya ND, et al. NEJM 2021年、デルガドC他 JASN2021）。 Eneanya 博士と彼女の同僚は、元の 1999 年の研究に戻り、方程式から人種を取り除き、他のインプットで再適合させました。 今日、米国の病院と診療所の 2022 分の 2023 が新しい方程式を使用しており、XNUMX 年 XNUMX 月には、全米臓器共有ネットワーク (UNOS) が人種に基づく方程式の使用をすべての移植センターに制限しました。 XNUMX年、米国のすべての移植センターは、腎臓移植の待機リストにあるすべての黒人患者を確認し、人種に基づくeGFR方程式の影響を受けた場合は待機リストの時間を変更する必要があると宣言しました. Eneanya 博士は、UNOS は連邦政府の一部であるが、政府は人種に基づく方程式の使用を禁止する決定に直接関与していないと述べた。
新しい eGFR 式の普遍的な採用以外に、Eneaya 医師は、腎疾患治療への公平なアクセスの鍵となるいくつかの将来のアプローチを考えていました。
- 慢性腎臓病予防ケアへのアクセスを改善するためのポリシーとプロセスを開発する
- 腎移植へのアクセスを増やすための政策を策定する
- 腎機能および疾患の進行に対する環境の影響（ストレス、差別など）を調査する
- 腎機能の決定について患者と話し合う際の透明性 (eGFR 式の制限を含む)
Eneanya 博士は、黒人についての固定観念を解きほぐすことは、科学的根拠のない誤謬やフェイク ニュースを排除することになると詳しく説明しました。 たとえば、医学部のカリキュラムは、ある人種の筋肉量が他の人種よりも多いという人類学的根拠がないことを示すように変更されています. メディアもこの破綻した神話をうまく共有しており、Eneaya 博士は、腎臓移植を必要とする黒人患者に対する eGFR 方程式の壊滅的な影響を強調したグレイズ・アナトミーのエピソードについても相談しました。
シン博士は、黒人は他の人種に分類される人々と比較して、あらゆる種類の癌による死亡率が高いことを説明して、健康格差についての会話を続けました. この事実は、医療専門家とコンピューティング研究者が直面しなければならない多くの課題があり、既存の格差を広げない方法を開発する多くの機会があることを示しています。
Singh 博士は最初に癌の生物学について次のように説明しました。 したがって、ある個人のがんの分子基盤を理解したい場合は、その人のがん細胞と非がん細胞のゲノム、および配列を調べることができます。 正常細胞とがん細胞の配列を決定したら、ゲノムを比較し、がん細胞で獲得した変異を明らかにすることができます。これにより、どの変化がその個人のがんに関連するものであるかについてのヒントが得られる可能性があります。 これはまさに過去 15 年ほどの間に行われたことであり、何万人もの個人の腫瘍の配列が決定され、それらの変異が特定されました。」
がんと診断された人はほとんどの人が知っていますが、万能の治療法はありません。 しかし、Singh 博士は次に、科学者が患者の腫瘍の配列を決定し、DNA 変異を特定し、計算解析を実行して、どの変化を標的にできるかを判断する精密腫瘍学の可能性について説明しました。 免疫療法は、患者自身の免疫システムを利用して腫瘍を標的とするアプローチです。 有望な新進気鋭の免疫療法は、各個人に個別化されたワクチンを設計することであり、これらのワクチンは腫瘍に対する免疫反応を呼び起こします。
Singh 博士は、これがどのように機能するかについて、私たちの免疫系のそれぞれが古典的な主要組織適合遺伝子複合体 (MHC) クラス I 遺伝子の 6 つの異なるコピーを持っていると説明しています。 これらの遺伝子には 13,000 以上の異なる MHC バリアントがあるため、各人は異なる MHC 遺伝子セットを持っています。 がん細胞内の一部の突然変異は「外来」タンパク質をもたらし、これらの一部は個人の MHC によって結合される可能性があります。 がん由来タンパク質の断片と結合した MHC のこれらの複合体は、免疫細胞によって認識され、免疫応答を活性化することができます。 これは、各個人の腫瘍が異なる変異を持つ可能性があり、各個人が異なる MHC を持っているため、高度に個別化されています。 科学者は、機械学習を使用して、どの MHC バリアントがどのペプチドに結合するかを予測しています。これにより、免疫療法の有効性が向上し、最終的にはパーソナライズされたネオアンチゲン ワクチンの設計につながることが期待されます。
MHC 遺伝子の種類は世界中で大きく異なる、と Singh 博士は詳しく説明しています。 ほとんどの MHC 対立遺伝子には、それらに関連する結合データがなく、それらの結合に関するデータを持っているものは、一部の人種グループに有利に偏っています. データセットをテストするときは、全体的なパフォーマンスだけに焦点を当てるだけでなく、データの部分母集団を考慮して、誰もがこの研究の潜在的な利益に平等にアクセスできるようにすることが重要です.
トレーニング セットは、適用する前にバイアスを分析する必要があります。 さらに、目に見えないデータのパフォーマンスを推定する方法は、トレーニングされたデータの偏りを明らかにする可能性があります。 偏りのない方法でデータを収集することは、後でアルゴリズムを使用する際に偏りが生じる可能性を制限するために不可欠です。 このトピックに関する今後の作業領域は、代替トレーニング手順と、対象を絞ったデータ収集のためのアルゴリズム戦略に焦点を当てています。 全体として、下流の治療と研究が公平になるように、公正な精密医療アプローチの開発を優先することが重要です。
次に Moses 博士が話し、eGFR および MHC ペプチド結合アルゴリズムが、医療アルゴリズムが社会的転帰にどのように影響するかというより大きなエコシステムにどのように適合するかを文脈化しました。 彼女は、科学者はアルゴリズムと AI を使用して、簡単に測定できるプロキシから関心のある結果を予測しますが、それらのプロキシは不正確である可能性があると説明しています。 医療アルゴリズムをさらに複雑にしているのは、アルゴリズムが予測不可能な方法で常に相互に作用しているため、患者の診断に関するアルゴリズムの全容は通常不明確です。 したがって、特にアルゴリズムが失敗すると、最も脆弱な人にとって最も有害になる可能性があるため、アルゴリズムを慎重に使用することが重要です。
アルゴリズムが誰に影響を与え、その理由を理解することは、医療の公平性の重要な部分です。 モーゼス博士は一歩下がって公平性を定義します。 共通のグラフィック 公平と平等を区別するために使用される、身長の異なる 3 人の個人が野球の試合を見るのに苦労し、それらをサポートする方法が異なる場合、バリアを取り除く 3 番目の画像にも欠陥があります。そもそも不平等を引き起こしたかもしれない社会的理由ではなく、なぜ彼らが支援を必要とするのか。
モーゼス博士は、体系的な不正が存在する社会において公平性がどのようなものかを定義する別の図を示しました (Copyright 2020 by Nicolás E. Barceló and Sonya Shadravan (Artist: Aria Ghalili)):
この図は、障壁が取り除かれただけで誰もが恩恵を受けるわけではないことを示していますが、公平性を達成するために対処する必要がある根深い問題があります。
コンピューティング サイエンティストは、この重要なコンテキストを常に念頭に置く必要があるとモーゼス博士は主張します。 最も単純なアルゴリズムであっても、アルゴリズムの作成時に存在していた仮定を特定することは、しばしば困難です。 統計的相関を使用して結果を予測し、相関が因果関係に等しいと推測することも簡単ですが、それは誤りです。
モーゼス博士は、今日の社会で他の分野で使用されている不公平なアルゴリズムの具体例を挙げて続けます。 たとえば、公判前の拘留を金銭的な保釈金に置き換える刑事司法制度のアルゴリズムです。 その意図は、プロセスが、裁判に出廷しない危険性またはリスクが高い人々を拘留するためのデータ駆動型で偏りのない方法であることです。 ただし、アルゴリズムには、公平で正確な予測を行うアルゴリズムの能力と、バイアスされた入力や出力のバイアスされた解釈など、アルゴリズムが含まれるシステムのバイアスの両方に多くの欠点があります。 アルゴリズムによって刑事司法制度で人種的偏見がどのように永続化されているかを示す別の例は、顔認識ソフトウェアです。 顔認識は、肌の色が濃い女性の顔を識別するのに最も正確ではないことが示されていますが、これらのアルゴリズムによって誤認されることが最も多いのは黒人男性の顔であり、誤認逮捕につながります. これは、正確な分類という点で XNUMX つのグループ (黒人女性) に最も影響を与える偏見が、刑事司法制度の偏りのために別のグループ (黒人男性) に最大の影響を与える可能性があることを示しています。
アルゴリズムは人間の偏見を悪化させる可能性があり、アルゴリズムに相談せずに行ったであろう判断を強化していない場合は却下することもできます. これは、医療における偏ったアルゴリズムにも当てはまります。 たとえば、パルスオキシメータは、皮膚の色が濃いほど酸素レベルを検出する精度が低く、重度の COVID のような呼吸器疾患の過小診断につながる可能性があります。 ヘルスケアに費やされた金額を、健康状態の代用として使用することは、もう XNUMX つの不公平な尺度です。 Eneanya 博士と Singh 博士が説明した例、アフリカ系アメリカ人の eGFR 腎臓割引腎障害、およびヨーロッパの祖先を過剰に代表するゲノム データセットは、影響を受ける人々に危険な下流の結果をもたらす医療における偏ったアルゴリズムの他の顕著な例です。 eGFR方程式は、COVID中に刑務所から釈放されるのに十分な病気の囚人を特定するために使用され、腎臓機能が過大評価されていたため、アフリカ系アメリカ人の男性が釈放を拒否されました.
フィードバックは、アルゴリズムを改善したり、アルゴリズムの害を悪化させたりする可能性があります。 アルゴリズムは、データから行動を予測することを目的としており、XNUMX 年間の予測が翌年のデータに影響するため、一方通行ではありません。 アルゴリズムは、時間の経過とともにバイアスを減らすことを目指す必要があります。 たとえば、保釈審理は、被告が失敗を予測するのではなく、裁判に出廷するのに役立つはずです。 警察は、犯罪と誤認逮捕の両方を減らすことを目指すべきです。 ドメイン間で使用されるアルゴリズムは、人、アルゴリズム、および社会的状況の間でフィードバックが発生するため、決して固定化されるべきではありません。
Moses 博士は、データセットから偏りを取り除き、仮定に疑問を投げかけ、体系的な偏りを逆転させ (強化しないで)、さまざまな視点で評価し、透明で説明可能なアルゴリズムを要求し、段階的で適応性のある展開を使用するという追加の道筋も提案しました。 一般的な認識では、アルゴリズムは何らかの形で偏見を取り除きますが、実際には偏見を成文化することが多く、アルゴリズムとその結果に注意する必要があります。
パネルの最後の部分は質疑応答でした。 モデレーターの Siek 博士は、「アルゴリズムとデータが害を悪化させないようにするにはどうすればよいでしょうか?」と質問してセッションを開始しました。
- Eneanya 博士: 研究者がアルゴリズムの差別化要因を探すときに人種で立ち止まっている場合、それは怠惰で科学的に無効です。 遺伝的に、人間は人種内よりも人種間で似ています。 腎臓のような人間のシステムに実際に影響を与える生物学的特性について考えることがより重要です. たとえば、パルスオキシメータをテストする場合、研究者は皮膚科医に相談して、肌の色が異なる人に XNUMX 種類のデバイスを使用するのではなく、異なる肌の色に基づいてパルスオキシメータをテストおよび検証する必要がありました。
- モーゼス博士: アルゴリズムが使用された後、アルゴリズムを検証するために同じアプローチを使用する必要があります。 人種を社会的構成要素として認識することで、人種盲検研究が影響を与えることに気付くことができます。 アルゴリズムが強化している潜在的な格差を特定するために、グループ間の違いを探すことが重要です。 アルゴリズムが問題を最小限に抑えているか、それとも改善しているかを評価する必要がありますか?
- Dr. Singh: 人種は決して入力として使用されるべきではありませんが、出力のバイアスを評価するために使用できます。 人種のことを考えなければ、健康格差があるとは言えません。 ゲノムデータの収集と祖先による分類もまた、欠陥のある方法論です。 メソッドが母集団全体でうまく機能するかどうかを確実に評価する必要があります。
- Eneanya 博士: 研究対象集団を多様化する場合、単に白人または黒人のグループを連れてくるのではなく、移動する必要があります。 社会的地位、性別、セクシュアリティなどの要因など、これらのグループ内のより多くの違いを調べる必要があります。人種に基づく多様性のデータセットだけでなく、全体像を見る必要があります。
- モーゼス博士: アルゴリズムは、まさにそれを行うのに役立つツールの一種です。役立つ潜在的なコンピューティング戦略がたくさんあります。
- Dr. Singh: ここでアルゴリズムが大きな役割を果たしていることに同意します。 それをどのように行うかを非常に慎重に考える必要があります。
次に、聴衆の XNUMX 人が、「バイアスのある現在のデータセットに基づくアルゴリズムの開発が急がれていることを考えると、データセットのバイアスを取り除く以外に、アルゴリズムのバイアスに対抗する方法はありますか?」と尋ねました。
- Dr. Singh: データセットの偏りを克服するのは困難です。 それは活発な研究分野です。 サンプルデータをオーバーまたはアンダーにするのは簡単です。 全体的な目標 (通常は、通常はデータセット全体を使用して最小化しようとしている関数) が最適化のように見えるようにする ML モデルをトレーニングするさまざまな方法があります。
- Eneanya 博士: 多くの医療アルゴリズムは、より正確に言うと人種を含める必要があると見なされています.. 人種を変数として削除しても、アルゴリズムのパフォーマンスは思ったほど変わらないかもしれません。 人種などの変数を取り除いた後、結果がほんの少しだけ変化した場合、それは（臨床的に）何か意味がありますか?
- シン博士: トレーニング セットとそれを使用するセットが大きく異なる場合、特に意味はありません。
Siek 博士はパネリストに別の質問を投げかけました。
- Eneanya 博士: 健康転帰の違いの理由を評価する際に、人種で立ち止まるべきではありませんでした。 たとえば、クレアチニン レベルでは、他に何がクレアチニンに影響を与える可能性があるかを考える必要がありますか? より良いデータセットが必要であり、それにはコミュニティで信頼を築く必要があります。 これは、試験集団の多様性を改善する、研究スタッフがどのように見えるかを評価するなどのように見える可能性があります。国立衛生研究所の助成金では、研究チームの一員としてコミュニティベースのパートナーと健康公平の専門家がますます必要になっています。 古いセットを変更する必要がありますが、将来的にはより良いセットを構築する必要もあります。 そこにあるものを再構成しようとすることでできることは限られています。
- モーゼス博士: 再開したら何ができるかということ以上に、私はアルゴリズムを社会の鏡と考えるのが好きです。 彼らはインターネット上のすべての人によって訓練されています。 それを次のレベルのアルゴリズムへの入力として使用することで、バイアスがどこにあるのか、なぜそこにあるのか、将来の影響は何かを判断できます。 これらの定量的ツールをどのように使用して、これらの状況を悪化させるのではなく修正するかを検討する必要があります。
- シン博士: 収集された多くのゲノムは、集団全体を表していません。 多様な人々の関与から始める必要があります。
聴衆の最後の質問は次のとおりでした。 30 年後に修正する必要がないように、現在実行できるピア レビュー レベルの現実的なものは何ですか?」
- Eneanya 博士: 完璧は善の敵です。 私たちはできる限りのことをしなければなりません。 偏見を特定し、前進できる最善を尽くすことができます。 臨床アルゴリズムとは何の関係もない障壁が存在します。 人種を取り除いて eGFR アルゴリズムを修正するだけでは、腎臓病の格差は解決しません。 抑圧の多変数側面については、多くの作業を行う必要があります。
- モーゼス博士: あなた [Dr. Eneanya は、すべてのアルゴリズムを再設計するために行った、まさに前進する方法です。 システムを修正する必要があります。 また、修正する必要があるという事実を使用します。 式に書き込まれたバイアスを確認するのは簡単でした。 腎臓の方程式は、何十年にもわたってアフリカ系アメリカ人を不利な立場に置いてきた方法で人種をコード化することを許可した社会の鏡として機能します. その方程式のバイアスは、明示的かつ意図的なものでした。 将来的には、より複雑なアルゴリズムでバイアスを特定することははるかに難しくなります。
別の AAAS 2023 CCC 主催のパネルの要約にご期待ください!
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- Platoblockchain。 Web3メタバースインテリジェンス。 知識の増幅。 こちらからアクセスしてください。
- 情報源： https://feeds.feedblitz.com/~/733934357/0/cccblog~Health-Equity-How-Can-Algorithms-and-Data-Mitigate-Not-Exacerbate-Harms-AAAS-Panel-Recap/
