صحة الفرد هي موضوع شخصي بشكل لا يصدق ، والذهاب إلى الطبيب يمكن أن يكون تجربة مخيفة ومرهقة. هذا ينطبق بشكل خاص على الأشخاص الذين هم جزء من المجموعات التي فشل النظام الطبي فيها تاريخيًا. لقد تغلغلت هذه المشكلات الهيكلية في نظام الرعاية الصحية في الخوارزميات التي يتم استخدامها بشكل متزايد في تشخيص وعلاج المرضى. نظمت CCC حلقة نقاش بعنوان "العدالة الصحية: كيف يمكن للخوارزميات والبيانات أن تخفف ، لا تفاقم ، تضر؟" التي تناولت هذه القضايا. وكان أعضاء اللجنة هم الدكتور أماكا إينيانيا (فريزينيوس ميديكال كير) ، والدكتورة منى سينغ (جامعة برينستون) ، والدكتورة ميلاني موسيس (جامعة نيومكسيكو) ، والدكتورة كاتي سيك (جامعة إنديانا).

بدأ الدكتور إنيانيا الجلسة بمناقشة كيف أن المعادلة قللت بشكل منهجي من أهمية مرض الكلىحد ذاتها في الأمريكيين السود لعقود. وأوضحت أنه في الولايات المتحدة ، يتم تسجيل جميع المرضى الذين يعانون من أمراض الكلى في السجل. ازداد انتشار المرض بشكل عام في العقود الأخيرة ، ويميل إلى أن يكون أكثر انتشارًا وشدة بالنسبة للأفراد السود. 

أوجز الدكتور إنيانيا هذه التباينات العرقية / الإثنية في عوامل الخطر لأمراض الكلى المزمنة (CKD) والنتائج (Eneanya ND et al. نيتشر ريف نيبح. 2021 ، نظام بيانات الكلى بالولايات المتحدة.):

• انتشار مرض السكري أعلى بين الأفراد السود مقارنة بالمجموعات العرقية الأخرى 
  • يتم تشخيص الأفراد ذوي الأصول الأسبانية والسود في سن أصغر مقارنة بالأفراد البيض 
• الأفراد السود لديهم معدلات أعلى من ارتفاع ضغط الدم مقارنة بالأفراد البيض 
  • السيطرة على ارتفاع ضغط الدم أقل بين الأفراد السود واللاتينيين مقارنة بالأفراد البيض
• من غير المرجح أن يتلقى الأفراد السود رعاية أمراض الكلى قبل بدء غسيل الكلى مقارنةً بالمجموعات العرقية الأخرى 
• خطر الإصابة بالفشل الكلوي الذي يتطلب غسيل الكلى أو زرع الكلى 
  • أعلى بأربعة أضعاف في الأفراد السود مقابل البيض 
  • 1.3 ضعف في الأفراد ذوي الأصول الأسبانية مقابل البيض 
• الأفراد السود أقل عرضة لتلقي زرع الكلى مقارنة بالمجموعات العرقية الأخرى

إن العنصرية البنيوية تضيف إلى النتائج الصحية السيئة للأمراض المرتبطة بالكلى ، كما أوضحت الدكتورة إنيانيا (Eneanya ND et al. نيتشر ريف نيبح. 2021.):

ما هي عادات نمط الحياة التي يمكنك تحملها - مثل ما تأكله ، والآثار البيولوجية مثل الإجهاد الناتج عن العنصرية والتمييز ، تؤدي جميعها إلى تغييرات التمثيل الغذائي في الجسم ، والتي يمكن أن تؤدي إلى انخفاض وظائف الكلى.

ركز الدكتور إنيانيا على مثال يوضح كيف أن الخوارزمية المستخدمة حاليًا من قبل الأطباء لها عواقب في العالم الحقيقي. معادلة eGFR هي خوارزمية تستخدم لتحديد مدى قوة وظيفة الكلى لدى المريض. يمثل معدل الترشيح الكبيبي الأعلى (eGFR) وظيفة أفضل للكلى. يحدد مستوى eGFR للمريض ما إذا كان مؤهلاً للحصول على علاجات معينة ، وربما الأهم من ذلك ، زراعة الكلى. ومع ذلك ، تُظهر الخوارزمية أن الشخص الأسود وغير الأسود الذين هم من نفس العمر والجنس ولديهم نفس مقياس الكرياتينين (اختبار الدم الذي يقيس وظائف الكلى) ، لديهم مستويات مختلفة من eGFR. تحسب الخوارزمية أن الشخص الأسود لديه معدل eGFR أعلى ، ويفترض أن وظيفة الكلى أعلى من الشخص غير الأسود. هذا يحد من العلاج الذي يحق لهم الحصول عليه ، ويعني أنهم بحاجة إلى أن يكونوا أكثر مرضًا لتلقي المساعدة التي ينبغي أن يحق لهم الحصول عليها.

أوضح الدكتور إنيانيا تاريخ الخوارزمية التي تكشف سبب قيامها بالحساب بهذه الطريقة الخاطئة: عزت دراسة أجريت عام 1999 ارتفاع مستوى الكرياتينين في الدم إلى الأفراد السود بسبب الافتراض الخاطئ بأن لديهم كتلة عضلية أعلى. طورت الدراسة أول معادلة eGFR مستخدمة في الولايات المتحدة وأدرجت عامل مضاعفة "العرق الأسود" الذي يتسبب في ارتفاع معدل eGFR بين الأفراد السود. يعد استخدام eGFR مشكلة لأنه يُترك للأطباء الحكم على عرق شخص ما بناءً على المظهر أو السجلات الطبية (التي قد يكون العرق مدرجًا على أنه افتراض متبقي من طبيب سابق). لا يوجد أيضًا تمييز للأفراد من الأعراق المختلطة ، أو طريقة لتصنيفهم.

كان الدكتور إنيانيا مؤلفًا لمقال غيّر كيفية حساب معدل eGFR في الرعاية الصحية من خلال الدعوة إلى معادلة لا تأخذ العرق في التقدير (Inker LA ، Eneanya ND ، وآخرون. نجم 2021 ، ديلجادو سي وآخرون. جاسن 2021). عادت الدكتورة إنيانيا وزملاؤها إلى الدراسة الأصلية لعام 1999 وأزلت العرق من المعادلة وأعدتها بمدخلات أخرى. اليوم ، تستخدم ⅓ من المستشفيات والعيادات في الولايات المتحدة المعادلة الجديدة ، وقيدت الشبكة المتحدة لمشاركة الأعضاء (UNOS) بشكل ملحوظ جميع مراكز الزرع من استخدام المعادلة القائمة على العرق في يونيو 2022. لقد اتخذوا خطوة أخرى إلى الأمام في يناير 2023 وأعلن أن جميع مراكز الزرع الأمريكية مطالبة بمراجعة جميع المرضى السود في قائمة انتظار زراعة الكلى وتعديل وقت قائمة الانتظار إذا تأثرت بمعادلة eGFR القائمة على السباق. حدد الدكتور إنيانيا أنه في حين أن UNOS جزء من الحكومة الفيدرالية ، فإن الحكومة لم تشارك بشكل مباشر في قرار حظر استخدام المعادلة القائمة على العرق.

بخلاف التبني العالمي لمعادلة eGFR الجديدة ، كان لدى الدكتورة إنيانيا عدد قليل من الأساليب المستقبلية التي تعتبرها مفتاحًا للوصول العادل إلى علاج أمراض الكلى:

• وضع سياسات وعمليات لتحسين الوصول إلى الرعاية الوقائية من أمراض الكلى المزمنة 
• وضع سياسات لزيادة الوصول إلى زراعة الكلى 
• تحقق من الآثار البيئية (مثل الإجهاد والتمييز) على وظائف الكلى وتطور المرض
• الشفافية في مناقشة تحديد وظائف الكلى مع المرضى (بما في ذلك قيود معادلات معدل الترشيح الكبيبي)

أوضح الدكتور إنيانيا أن إثارة القوالب النمطية حول العرق الأسود تتلخص في القضاء على المغالطات والأخبار الكاذبة التي ليس لها أساس علمي. على سبيل المثال ، تتغير مناهج كلية الطب لتظهر أنه لا يوجد أساس أنثروبولوجي يشير إلى وجود كتلة عضلية أكبر في عرق على آخر. قامت وسائل الإعلام أيضًا بعمل جيد في مشاركة هذه الأسطورة المحطمة ، وقد استشار الدكتور إنيانيا في حلقة غريز أناتومي التي سلطت الضوء على الآثار المدمرة لمعادلة eGFR للمرضى السود الذين يحتاجون إلى عملية زرع كلى.

واصل الدكتور سينغ الحديث حول التفاوتات الصحية من خلال توضيح أن السود لديهم أيضًا معدلات وفاة أعلى من جميع أنواع السرطان مقارنة بالأشخاص المصنفين على أنهم أعراق أخرى. توضح هذه الحقيقة أن هناك العديد من التحديات التي يجب على المتخصصين الطبيين والباحثين في مجال الحوسبة مواجهتها ، وهناك أيضًا العديد من الفرص لتطوير أساليب لا توسع الفوارق القائمة.

شرح الدكتور سينغ أولاً بيولوجيا السرطان: "السرطان مرض تكتسب فيه خلايانا طفرات تسمح لها بالنمو دون حسيب ولا رقيب. لذا إذا أردنا فهم الأسس الجزيئية للسرطان في أي فرد ، فيمكننا النظر في جينومات خلاياه السرطانية وخلاياه غير السرطانية ، وتسلسلها. بمجرد أن ننتهي من تسلسل الخلايا الطبيعية والسرطانية ، يمكننا مقارنة الجينومات ، واكتشاف الطفرات التي اكتسبناها في الخلايا السرطانية ، وهذا قد يعطينا تلميحًا حول التغييرات التي قد تكون ذات صلة بسرطان هذا الفرد. هذا هو بالضبط ما تم القيام به في الخمسة عشر عامًا الماضية أو نحو ذلك ، حيث تم تحديد تسلسل أورام عشرات الآلاف من الأفراد ، وتم تحديد الطفرات داخلها ".

يعرف الجميع تقريبًا شخصًا تم تشخيص إصابته بالسرطان ، ولا يوجد علاج شامل. ومع ذلك ، ناقش الدكتور سينغ بعد ذلك الوعد بعلم الأورام الدقيق ، حيث يقوم عالم بتسلسل ورم المريض ، وتحديد طفرات الحمض النووي وإجراء تحليل حسابي لتحديد التعديلات التي يمكن استهدافها. العلاج المناعي هو طريقة لتسخير الجهاز المناعي لشخص ما لاستهداف أورامهم. يتمثل أحد العلاجات المناعية الواعدة والقادمة في تصميم لقاحات مخصصة لكل فرد وتثير هذه اللقاحات استجابة مناعية لأورامهم.

يشرح الدكتور سينغ الطريقة التي يعمل بها هذا هو أن كل جهاز مناعي لديه 6 نسخ مختلفة من جينات الفئة الأولى من معقد التوافق النسيجي الرئيسي الكلاسيكي (MHC). يوجد أكثر من 13,000 نوع مختلف من معقد التوافق النسيجي الكبير لهذه الجينات ، لذلك لكل شخص مجموعة مختلفة من جينات معقد التوافق النسيجي الكبير. تؤدي بعض الطفرات داخل الخلايا السرطانية إلى بروتينات "غريبة" ويمكن ربط بعضها بواسطة معقدات التوافق النسيجي الكبير (MHCs) للفرد. تتعرف الخلايا المناعية على مجمعات معقد التوافق النسيجي الكبير المرتبطة بجزء من البروتين المشتق من السرطان ويمكن أن تنشط الاستجابة المناعية. هذا مخصص للغاية لأن ورم كل فرد يمكن أن يكون له طفرات مختلفة ولكل فرد معطيات MHCs مختلفة. يستخدم العلماء التعلم الآلي للتنبؤ بمتغيرات معقد التوافق النسيجي الكبير التي تربط الببتيدات ، والتي نأمل أن تعزز فعالية العلاج المناعي وتؤدي في النهاية إلى تصميم لقاحات المستضدات الجديدة الشخصية.

يوضح الدكتور سينغ أن تنوع جينات MHC يختلف اختلافًا كبيرًا في جميع أنحاء العالم. معظم أليلات MHC لا تحتوي على بيانات ملزمة مرتبطة بها ، وتلك التي لديها بيانات حول ارتباطها متحيزة لصالح بعض المجموعات العرقية. من المهم عند اختبار مجموعة بيانات ليس فقط التركيز على الأداء العام ، ولكن أيضًا للنظر في مجموعات سكانية فرعية من البيانات بحيث يكون لكل فرد إمكانية متساوية للوصول إلى الفوائد المحتملة لهذا البحث.

يجب تحليل مجموعة التدريب من أجل التحيز قبل تطبيقها. علاوة على ذلك ، يمكن أن تكشف طرق تقدير الأداء على البيانات غير المرئية عن التحيز في البيانات التي تم التدريب عليها. يعد جمع البيانات بطريقة غير متحيزة أمرًا ضروريًا للحد من فرصة التحيز لاحقًا في استخدام الخوارزمية. تركز مجالات العمل المستقبلي حول هذا الموضوع على إجراءات التدريب البديلة ، والاستراتيجيات الحسابية لجمع البيانات المستهدفة. بشكل عام ، من الأهمية بمكان إعطاء الأولوية لتطوير مناهج الطب الدقيق العادلة بحيث تكون العلاجات والبحوث عادلة.

تحدثت الدكتورة موسى بعد ذلك ، ووضعت في سياقها كيف تتلاءم خوارزميات ربط eGFR و MHC-peptide مع نظام بيئي أكبر لكيفية تأثير الخوارزميات الطبية على النتائج الاجتماعية. تشرح أن العلماء يستخدمون الخوارزميات والذكاء الاصطناعي للتنبؤ بالنتائج التي نهتم بها من الوكلاء الذين يمكن قياسهم بسهولة ، ويمكن أن تكون هذه الوكلاء غير دقيقة. لجعل الخوارزميات الطبية أكثر تعقيدًا ، فإنها تتفاعل باستمرار مع بعضها البعض بطرق غير متوقعة ، لذا فإن المدى الكامل للخوارزميات في تشخيص المريض غير واضح عادةً. لذلك ، من الضروري استخدام الخوارزميات بحذر ، خاصةً لأنه عندما تفشل الخوارزميات يمكن أن تكون أكثر ضررًا للفئات الأكثر ضعفًا.

معرفة من تؤثر الخوارزمية ولماذا هو جزء مهم من العدالة الطبية. يأخذ الدكتور موسى خطوة إلى الوراء ويحدد الإنصاف. الرسم المشترك تستخدم للتمييز بين العدالة والمساواة ، حيث يكافح الأفراد الذين لديهم 3 ارتفاعات مختلفة لرؤية لعبة بيسبول وطرق مختلفة لدعمهم ، معيبة حتى في الصورة الثالثة التي تزيل الحاجز لأنها تشير إلى أن هناك شيئًا متأصلًا في الشخص فيما يتعلق لماذا يحتاجون إلى الدعم بدلاً من الأسباب الاجتماعية التي ربما تسببت في عدم المساواة في المقام الأول.

أظهر الدكتور موسى رسمًا بديلاً لتحديد شكل الإنصاف في مجتمع يعاني من ظلم منهجي (حقوق الطبع والنشر 2020 بواسطة Nicolás E. Barceló و Sonya Shadravan (الفنانة: Aria Ghalili)):

يكشف هذا الرسم البياني أنه لا يمكن للجميع الاستفادة فقط من إزالة الحاجز ، ولكن هناك مشاكل عميقة الجذور يجب التعامل معها من أجل تحقيق العدالة.

يجادل الدكتور موسى بأنه يجب على علماء الحوسبة دائمًا وضع هذا السياق المهم في الاعتبار. من الصعب في كثير من الأحيان تحديد الافتراضات التي كانت موجودة في إنشاء الخوارزميات ، حتى مع الخوارزميات الأكثر وضوحًا. من السهل أيضًا استخدام الارتباط الإحصائي للتنبؤ بالنتيجة وافتراض أن الارتباط يساوي السببية ، لكن هذه مغالطة.

يواصل الدكتور موسى تقديم أمثلة ملموسة للخوارزميات غير العادلة المستخدمة في المجتمع اليوم في مجالات أخرى. على سبيل المثال ، الخوارزميات في نظام العدالة الجنائية التي تحل محل الكفالة المالية للاحتجاز السابق للمحاكمة. القصد من العملية أن تكون طريقة مدفوعة بالبيانات وغير منحازة لاحتجاز أولئك الذين يمثلون خطرًا أو معرضين لخطر كبير لعدم المثول للمحاكمة. ومع ذلك ، فإن الخوارزميات بها العديد من أوجه القصور في كل من قدرة الخوارزمية على إجراء تنبؤات عادلة ودقيقة وتحيزات النظام التي تعد الخوارزمية جزءًا منها ، بما في ذلك المدخلات المتحيزة والتفسيرات المتحيزة للمخرجات. مثال آخر على كيفية استمرار التحيز العنصري في نظام العدالة الجنائية بواسطة الخوارزميات هو برنامج التعرف على الوجه. بينما ثبت أن التعرف على الوجه هو الأقل دقة في تحديد الوجوه ذات البشرة الداكنة ، فإن وجوه الذكور السود هي التي غالبًا ما تم التعرف عليها بشكل خاطئ بواسطة هذه الخوارزميات مما أدى إلى اعتقالات خاطئة. يوضح هذا كيف أن التحيز الذي يؤثر على مجموعة واحدة (النساء السود) من حيث التصنيف الدقيق يمكن أن يكون له أكبر تأثير على مجموعة أخرى (الرجال السود) بسبب التحيزات في نظام العدالة الجنائية

يمكن أن تؤدي الخوارزميات إلى تفاقم التحيز البشري ، ويمكن أيضًا رفضها إذا لم تعزز الحكم الذي كنت ستتخذه دون استشارة الخوارزمية. هذا صحيح أيضًا في الخوارزميات المتحيزة في الطب. على سبيل المثال ، تكون مقاييس التأكسج النبضي أقل دقة في الكشف عن مستويات الأكسجين في البشرة الداكنة ، مما قد يؤدي إلى عدم تشخيص أمراض الجهاز التنفسي مثل COVID الشديدة. إن استخدام مبلغ الأموال التي يتم إنفاقها على الرعاية الصحية كبديل لمدى صحة الشخص هو إجراء آخر غير عادل. الأمثلة التي وصفها الدكتور إنيانيا والدكتور سينغ ، وخلل الكلى المخفض لـ eGFR لدى الأمريكيين من أصل أفريقي ، ومجموعات البيانات الجينومية التي تمثل الأصل الأوروبي ، هي أمثلة بارزة أخرى للخوارزميات المتحيزة في الطب والتي لها عواقب خطيرة على الأشخاص المتأثرين. تم استخدام معادلة eGFR لتحديد السجناء المرضى بدرجة كافية ليتم إطلاق سراحهم من السجن خلال COVID ، مما أدى إلى حرمان رجل أمريكي من أصل أفريقي من الإفراج بسبب المبالغة في تقدير وظائف كليته.

يمكن أن تحسن التغذية الراجعة الخوارزميات أو تفاقم أضرارها. الخوارزميات ليست طريقًا ذا اتجاه واحد ، لأنها تهدف إلى التنبؤ بالسلوك من البيانات والتنبؤ لسنة واحدة يؤثر على بيانات العام المقبل. يجب أن تهدف الخوارزميات إلى تقليل التحيزات بمرور الوقت ؛ على سبيل المثال ، يجب أن تساعد جلسات الاستماع بكفالة المتهمين على المثول للمحاكمة بدلاً من التنبؤ بالفشل ؛ يجب أن تهدف الشرطة إلى الحد من الجرائم والاعتقالات الباطلة. لا ينبغي أبدًا وضع الخوارزميات المستخدمة عبر المجالات في حجر لأنه سيكون هناك ملاحظات بين الأشخاص والخوارزميات والسياق الاجتماعي.

اقترح الدكتور موسى مسارات إضافية للأمام أيضًا: إزالة التحيز من مجموعات البيانات ، وافتراضات الأسئلة ، وعكس (وليس تعزيز) التحيز النظامي ، وتقييم مع مجموعة متنوعة من وجهات النظر ، والمطالبة بخوارزميات شفافة وقابلة للتفسير ، واستخدام عمليات النشر التدريجي والتكيف. التصور الشائع هو أن الخوارزميات تزيل التحيز بطريقة ما ، لكنها في الواقع غالبًا ما تقنن التحيز وعلينا أن نكون حذرين من الخوارزميات ونتائجها.

كان الجزء الأخير من اللوحة عبارة عن أسئلة وأجوبة. استهل المنسق الدكتور سيك الجلسة بالسؤال ، "كيف لا تؤدي الخوارزميات والبيانات إلى تفاقم الضرر؟"

• د. إنيانيا: إذا توقف الباحث عن العرق عند البحث عن مفارقات في خوارزمية ، فهذا كسول وغير صالح علميًا. من الناحية الجينية ، يبدو البشر أكثر تشابهًا بين الأعراق من الداخل. من المهم التفكير في الخصائص البيولوجية التي تؤثر فعليًا على نظام الإنسان مثل الكلى. على سبيل المثال ، عند اختبار مقياس التأكسج النبضي ، كان يجب على الباحثين استشارة طبيب أمراض جلدية لاختبار مقاييس التأكسج النبضي والتحقق من صحتها بناءً على درجات لون البشرة المختلفة - بدلاً من استخدام نوع واحد من الأجهزة للأشخاص ذوي البشرة المختلفة.
• د. موسى: يجب أن نستخدم نفس الأسلوب للتحقق من صحة الخوارزميات بعد أن يتم استخدامها. إن التعرف على العرق على أنه بناء اجتماعي يسمح بملاحظة تأثير الدراسات الخاصة بالمكفوفين عن العرق. من المهم البحث عن التمييز بين المجموعات لتحديد التباينات المحتملة التي تعززها الخوارزمية. هل يجب عليك تقييم ما إذا كانت الخوارزمية تقلل المشكلات أم تعمل على تحسينها؟
• د. سينغ: لا ينبغي أبدًا استخدام العرق كمدخل ، ولكن يمكن استخدامه لتقييم مخرجات التحيز. إذا لم نفكر في العرق ، فلن نكون قادرين حتى على القول بأن هناك تباينات صحية. جمع البيانات الجينومية والتصنيف حسب السلالة هي أيضًا منهجية معيبة. علينا التأكد من تقييم ما إذا كانت الأساليب تعمل بشكل جيد عبر السكان.
• د. إنيانيا: عندما نقوم بتنويع مجموعة الدراسة ، نحتاج إلى الابتعاد عن مجرد جلب مجموعات من البيض أو السود. نحن بحاجة إلى النظر إلى المزيد من الاختلافات داخل هذه المجموعات مثل عوامل مثل الحالة الاجتماعية والجنس والجنس ، وما إلى ذلك. نحن بحاجة إلى النظر إلى الصورة الكاملة وليس فقط مجموعات البيانات المتنوعة على أساس العرق.
• د. موسى: الخوارزميات هي بالضبط أنواع الأدوات التي يجب أن تساعدنا في القيام بذلك ، هناك الكثير من استراتيجيات الحوسبة المحتملة التي يمكن أن تساعد.
• د. سينغ: أوافق على أن الخوارزميات تلعب دورًا كبيرًا هنا ، فكيف نعطي الأولوية لجمع البيانات؟ نحن بحاجة إلى التفكير في كيفية قيامنا بذلك بعناية شديدة.

سأل أحد أعضاء الجمهور بعد ذلك ، "نظرًا للاندفاع الكبير لتطوير الخوارزميات بناءً على مجموعات البيانات الحالية ذات التحيزات ، هل هناك طرق لمواجهة التحيز في الخوارزمية بخلاف التخلص من التحيزات في مجموعة البيانات؟" 

• د. سينغ: من الصعب التغلب على التحيز في مجموعة البيانات. إنه مجال نشط للبحث. من السهل زيادة أو نقص بيانات العينة. هناك طرق مختلفة لتدريب نماذج ML حيث يكون الهدف العام (عادةً وظيفة تحاول تقليلها ، عادةً باستخدام مجموعة البيانات الكاملة) هو الشكل الذي يجب أن يبدو عليه التحسين.
• د. إنيانيا: يُنظر إلى الكثير من الخوارزميات الطبية على أنها تحتاج إلى تضمين العرق لتكون أكثر دقة .. ومع ذلك ، يحتاج الناس إلى فحص نقدي لماذا يتم تقديم العرق في المقام الأول؟ قد لا تؤدي إزالة العرق كمتغير إلى تغيير أداء الخوارزمية بقدر ما تعتقد. هل يعني أي شيء (سريريًا) عندما تتغير النتائج بمقدار ضئيل فقط بعد إزالة متغير مثل العرق؟
• د. سينغ: لا يعني ذلك أي شيء على وجه الخصوص عندما تكون مجموعة التدريب الخاصة بك والمجموعة التي تستخدمها فيها مختلفة تمامًا.

دفع الدكتور سيك أعضاء اللجنة بسؤال آخر ، "إذا كان بإمكاننا القيام بذلك مرة أخرى ، فماذا سنفعل بشكل مختلف؟"

• د. إنيانيا: التوقف عن العرق عند تقييم أسباب الاختلافات في النتائج الصحية لا ينبغي أن يحدث. على سبيل المثال مع مستويات الكرياتينين ، يجب أن نفكر فيما يمكن أن يؤثر على الكرياتينين؟ نحتاج إلى مجموعات بيانات أفضل ، الأمر الذي يتطلب بناء الثقة في المجتمعات. يمكن أن يبدو هذا وكأنه تحسين تنوع مجموعات التجارب ، وتقييم شكل طاقم الدراسة ، وما إلى ذلك. وتتطلب منح المعهد الوطني للصحة بشكل متزايد شركاء من المجتمع المحلي ومتخصصين في الإنصاف الصحي كجزء من فريق البحث. نحن بحاجة إلى تغيير المجموعات القديمة ، ولكن نحتاج أيضًا إلى بناء مجموعات أفضل في المستقبل. لا يمكننا فعل الكثير إلا بمحاولة إعادة تهيئة ما هو موجود.
• د. موسى: إلى جانب ما يمكن أن نفعله إذا أعدنا التشغيل ، أحب أن أفكر في الخوارزميات على أنها مرايا للمجتمع. يتم تدريبهم من قبل الجميع على الإنترنت. باستخدام ذلك كمدخل إلى المستوى التالي من الخوارزمية ، يمكننا تحديد مكان التحيزات ، وسبب وجودها ، والتأثير المستقبلي. نحتاج إلى التساؤل عن كيفية استخدام هذه الأدوات الكمية لمعرفة كيفية إصلاح هذه المواقف بدلاً من تفاقمها.
• د. سينغ: الكثير من الجينومات التي تم جمعها لا تمثل السكان بشكل عام. نحتاج أن نبدأ بمشاركة مجموعات متنوعة من الناس.

كان سؤال الجمهور الأخير هو: "حتى نصل إلى نقطة يكون لدينا فيها صورة جينومية كاملة لجميع البشر ، سيكون هناك حماس لاستخدام ML والخوارزميات. ما هي الأشياء الحقيقية على مستوى مراجعة الأقران التي يمكننا القيام بها الآن حتى لا نضطر إلى إصلاحها خلال 30 عامًا؟ "

• د. إنيانيا: الكمال هو عدو الخير. علينا أن نبذل قصارى جهدنا. يمكننا تحديد التحيزات ، ثم بذل قصارى جهدنا للمضي قدمًا. توجد حواجز لا علاقة لها بالخوارزميات السريرية. إن مجرد إصلاح خوارزمية eGFR عن طريق التخلص من العرق لن يحل تفاوتات أمراض الكلى. هناك الكثير من العمل الذي يتعين القيام به بشأن جوانب متعددة من القمع.
• د.موسى: العمل معك [د. Eneanya] لإعادة هندسة الخوارزمية للجميع هي بالضبط كيفية المضي قدمًا. نحن بحاجة إلى إصلاح النظام. أيضًا باستخدام حقيقة أنه كان لا بد من إصلاحه ؛ كان من السهل رؤية التحيز مكتوبًا في المعادلة. تعمل معادلة الكلى كمرآة لمجتمع سمح بتشفير العرق بطريقة حرمت الأمريكيين من أصل أفريقي لعقود. كان التحيز في تلك المعادلة صريحًا ومتعمدًا. سيكون تحديد التحيز في الخوارزميات الأكثر تعقيدًا في المستقبل أكثر صعوبة.

ترقبوا ملخص لوحة AAAS 2023 CCC آخر!

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• بلاتوبلوكشين. Web3 Metaverse Intelligence. تضخيم المعرفة. الوصول هنا.
• المصدر https://feeds.feedblitz.com/~/733934357/0/cccblog~Health-Equity-How-Can-Algorithms-and-Data-Mitigate-Not-Exacerbate-Harms-AAAS-Panel-Recap/