التحيز العنصري في الرعاية الطبية يمكن أن يظهر في أماكن غير متوقعة. أحد الأمثلة: أدوات اتخاذ القرار السريرية التي تلعب دورًا هامًا في كيفية اختبار وتشخيص وعلاج المرضى اليوم.
تحتوي هذه الأدوات على خوارزميات، أو إجراءات خطوة بخطوة، عادةً محوسبة، لحساب عوامل مثل خطر الإصابة بأمراض القلب، الحاجة إلى أشعة صدر، وجرعات الأدوية الموصوفة. يمكن استخدام الذكاء الاصطناعي للبحث في السجلات الصحية وأنظمة الفوترة لإنشاء مجموعات البيانات اللازمة.
على السطح، قد يبدو الأمر موضوعيًا. لكن أظهرت الدراسات أن التحليل البيانات المستخدم في هذه الخوارزميات يمكن أن يكون متحيزًا بشكل حاسم ضد مجموعات عرقية واجتماعية واقتصادية معينة. هذا يمكن أن يكون له عواقب متعددة من حيث كمية وجودة الرعاية الصحية التي يتلقاها هؤلاء الأشخاص.
النقاط الرئيسية
تلعب أدوات اتخاذ القرار الطبي دورًا كبيرًا في كيفية اختبار وتشخيص وعلاج المرضى اليوم.
للأسف، يمكن أن تكون الخوارزميات التي تعتمد عليها هذه الأدوات متحيزة أحيانًا.
استخدام بيانات الإنفاق الطبي لتقييم حالة الشخص الصحية قد يسيء تقدير شدة مرض المرضى الفقراء والأقليات عندما يعكس انخفاض الإنفاق الطبي نقص الوصول إلى الرعاية الطبية بدلاً من الحاجة الفعلية.
خوارزمية مؤشر كتلة الجسم (BMI) المستخدمة لتشخيص المرضى على أنهم يعانون من زيادة الوزن أو السمنة خلقت جوًا من إحراج الوزن وعدم الثقة بين المرضى والأطباء، حيث يتم تصنيف المزيد من النساء السود على أنهن يعانين من السمنة مقارنةً بالنساء من أصول إسبانية أو بيضاء.
بدأ الآن فحص مدخلات البيانات والنتائج للتحقق من وجود تحيز عرقي، إثني، دخل، جنس، وعمر، بحيث يمكن التعرف على الفوارق وتصحيح الخوارزميات.
إجابات Investopedia
اسأل
التحيز العنصري يؤثر على المرضى الأكثر مرضًا
في عام 2019، أظهرت دراسة أن خوارزمية تستخدم على نطاق واسع من قبل المستشفيات وشركات التأمين في الولايات المتحدة لتخصيص المساعدة الإضافية في إدارة الصحة كانت تميز ضد الأشخاص السود بشكل منهجي. كانت أداة القرار أقل احتمالًا في إحالة الأشخاص السود إلى برامج إدارة الرعاية لاحتياجات طبية معقدة مقارنةً بالأشخاص البيض عندما كان كلا المجموعتين يعانيان من نفس مستوى المرض.
السبب الأساسي للتحيز كان مرتبطًا بتعيين الخوارزمية لدرجات المخاطر للمرضى بناءً على تكاليفهم الطبية في العام السابق. كانت الفكرة أن تحديد المرضى ذوي التكاليف الأعلى سيساعد في تحديد من يحتاجون إلى رعاية طبية أكبر. لكن، العديد من المرضى السود لديهم وصول أقل، وقدرة أقل على الدفع، وثقة أقل في الرعاية الطبية مقارنةً بالبيض الذين يعانون من نفس الحالة. في هذه الحالة، لم تكن تكاليفهم الطبية المنخفضة تتنبأ بدقة بحالتهم الصحية.
تستخدم برامج إدارة الرعاية نهجًا مكثفًا، مثل المكالمات الهاتفية، الزيارات المنزلية من قبل الممرضات، وإعطاء الأولوية لمواعيد الأطباء لمعالجة الاحتياجات المعقدة لأكثر المرضى مرضًا. أظهرت الدراسات أن هذه البرامج تحسن النتائج، وتقلل من زيارات الطوارئ، والإقامة في المستشفيات، وتخفض التكاليف الطبية. نظرًا لأن البرامج نفسها مكلفة، فهي تُخصص للأشخاص ذوي درجات المخاطر الأعلى. تقنيات التقييم التي تميز ضد المرضى السود الأكثر مرضًا قد تكون عاملاً مهمًا في زيادة خطر وفاتهم من العديد من الأمراض.
العرق كمتغير في أمراض الكلى
يمكن أن تحتوي الخوارزميات على تحيز دون أن تتضمن العرق كمتغير، لكن بعض الأدوات تستخدم العرق عمدًا كمعيار. خذ على سبيل المثال درجة eGFR، التي تقيم صحة الكلى وتستخدم لتحديد من يحتاج إلى زراعة كلية.
في دراسة عام 1999 وضعت معايير لدرجة eGFR، لاحظ الباحثون أن الأشخاص السود لديهم، في المتوسط، مستويات أعلى من الكرياتينين (ناتج تحلل العضلات) مقارنةً بالبيض. افترض العلماء أن المستويات الأعلى كانت بسبب زيادة كتلة العضلات لدى السود. لذلك، عدلوا التقييم، مما يعني أن السود يجب أن يكون لديهم درجة eGFR أقل من البيض ليتم تشخيصهم بمرض الكلى في مرحلته النهائية. ونتيجة لذلك، كان على السود الانتظار حتى تصل حالة مرض الكلى لديهم إلى مرحلة أكثر حدة للتأهل للعلاج.
في عام 2018، لاحظت طالبة طب وصحة عامة في جامعة واشنطن في سياتل أن درجات eGFR لم تكن دقيقة في تشخيص شدة مرض الكلى لدى المرضى السود. ناضلت لإزالة العرق من الخوارزمية وفازت. في عام 2020، وافقت جامعة واشنطن على أن استخدام العرق كان متغيرًا غير فعال ولا يفي بالصرامة العلمية في أدوات التشخيص الطبي.
مهم
في عام 2021، أوصت فرقة عمل مشتركة من مؤسسة الكلى الوطنية والجمعية الأمريكية لعلم الكلى باعتماد معادلة eGFR الجديدة لعام 2021 CKD EPI التي تقدر وظيفة الكلى بدون استخدام العرق كمتغير.
مؤشر كتلة الجسم والتحيز العنصري
حتى أبسط أدوات اتخاذ القرار الطبي التي لا تتضمن العرق يمكن أن تعكس تحيزًا اجتماعيًا. على سبيل المثال، مؤشر كتلة الجسم (BMI) يعتمد على حساب يضرب الوزن في الطول. يُستخدم لتحديد المرضى الذين يعانون من نقص الوزن، زيادة الوزن، والسمنة.
في عام 1985، ربط المعهد الوطني للصحة تعريف السمنة بمؤشر كتلة الجسم للفرد، وفي عام 1998، وضعت لجنة خبراء إرشادات تعتمد على BMI التي حولت 29 مليون أمريكي كانوا سابقًا مصنفين على أنهم ذوو وزن طبيعي أو زيادة وزن بسيطة إلى فئات السمنة وزيادة الوزن.
اليوم، وفقًا لمعايير BMI، فإن غالبية السود، والأشخاص من أصول إسبانية، والبيض يُصنفون على أنهم يعانون من زيادة الوزن أو السمنة. لكن تقريرًا من مراكز السيطرة على الأمراض والوقاية منها (CDC) لعام 2021 وجد أن نسبة الأمريكيين الذين يمكن تصنيفهم على أنهم يعانون من السمنة تختلف حسب العرق أو المجموعة الإثنية.
وفقًا لمراكز السيطرة على الأمراض، كانت النسب بين البالغين بشكل عام:
غير إسباني أسود: 49.9%
إسباني: 45.6%
غير إسباني أبيض: 41.4%
غير إسباني آسيوي: 16.1%
عند تصنيف النساء البالغات على أنهن يعانين من السمنة، تظهر الفروقات بشكل أكثر وضوحًا:
غير إسباني أسود: 57.9%
إسباني: 45.7%
غير إسباني أبيض: 39.6%
غير إسباني آسيوي: 14.5%
تصنيف نسب كبيرة من السكان على أنهن يعانين من زيادة الوزن أو السمنة خلق جوًا من إحراج الوزن وعدم الثقة بين المرضى والأطباء. يشتكي الأشخاص ذوو الوزن الزائد من أن الأطباء لا يعالجون المشاكل الصحية أو المخاوف التي دفعتهم للفحص. بدلاً من ذلك، يلوم الأطباء وزن المريض على مشاكله الصحية ويدفعون نحو فقدان الوزن كحل. هذا يؤدي إلى تجنب العديد من المرضى السود والأسبان لمقدمي الرعاية الصحية، وربما يفوتون فرصًا للوقاية أو الكشف المبكر عن المشاكل.
علاوة على ذلك، يتضح بشكل متزايد أن كون الشخص يعاني من زيادة الوزن أو السمنة ليس دائمًا مشكلة صحية. معدلات بعض الحالات الخطيرة، مثل أمراض القلب، السكتة الدماغية، داء السكري من النوع 2، وأنواع معينة من السرطان، أعلى بين الأشخاص الذين يعانون من السمنة. لكن، في حالات معينة، مثل التعافي بعد جراحة القلب، فإن زيادة الوزن أو السمنة المعتدلة (وليس السمنة المفرطة) مرتبطة بمعدلات بقاء أفضل.
تؤكد إرشادات السمنة الجديدة للأطباء الكنديين، المنشورة في أغسطس 2020، على ضرورة توقف الأطباء عن الاعتماد فقط على مؤشر كتلة الجسم في تشخيص المرضى. يجب أن يُشخص الأشخاص بالسمنة فقط إذا كان وزن جسمهم يؤثر على صحتهم الجسدية أو النفسية، وفقًا للإرشادات الجديدة. يجب أن يكون العلاج شاملاً وليس فقط يركز على فقدان الوزن. وتلاحظ الإرشادات أيضًا أن “الأشخاص الذين يعانون من السمنة يواجهون تحيزًا ووصمة اجتماعية كبيرة، تساهم في زيادة الأمراض والوفيات بشكل مستقل عن الوزن أو مؤشر كتلة الجسم.”
قد يُستبدل النظر في مؤشر كتلة الجسم بقياسات أخرى، مثل محيط الخصر. وقد يُعاد تعريف السمنة نفسها. في يناير 2025، اقترح مجموعة من 58 باحثًا تعريفًا جديدًا يركز على الدهون الزائدة في الجسم وتأثيرها على الصحة، مقسمًا السمنة إلى فئتين: قبل سريري، عندما يكون لدى الشخص دهون زائدة لكن أعضاؤه تعمل بشكل طبيعي، وسريرياً، عندما تضر الدهون الزائدة الأنسجة والأعضاء.
تقليل التحيز في أدوات اتخاذ القرار
ليست الخوارزميات الطبية هي النوع الوحيد من الخوارزميات التي يمكن أن تكون متحيزة. كما أشار مقال في The New England Journal of Medicine في عام 2020، “هذه المشكلة ليست حصرية بالطب. على سبيل المثال، يستخدم نظام العدالة الجنائية أدوات التنبؤ بالتكرار لتوجيه القرارات بشأن مبالغ الكفالة والأحكام بالسجن.” وقال المؤلفون إن أداة واحدة واسعة الاستخدام، “على الرغم من عدم استخدام العرق بشكل مباشر، إلا أنها تعتمد على عوامل كثيرة تتعلق بالعرق وتعيد درجات مخاطر أعلى للمحاكمين السود.”
كما أن الاستخدام المتزايد للذكاء الاصطناعي — خاصة التعلم الآلي — أثار أسئلة حول التحيز بناءً على العرق، الحالة الاجتماعية والاقتصادية، وعوامل أخرى. في الرعاية الصحية، غالبًا ما يعتمد التعلم الآلي على السجلات الصحية الإلكترونية. قد يتلقى المرضى الفقراء والأقليات رعاية غير متماسكة ويُرون في مؤسسات متعددة. هم أكثر عرضة للزيارة في عيادات التعليم حيث قد تكون إدخال البيانات أو التفكير السريري أقل دقة. وقد لا يتمكنون من الوصول إلى بوابات المرضى عبر الإنترنت وتوثيق النتائج. ونتيجة لذلك، قد تحتوي سجلات هؤلاء المرضى على بيانات مفقودة أو خاطئة. لذلك، قد تؤدي الخوارزميات التي تدير التعلم الآلي إلى استبعاد المرضى الفقراء والأقليات من مجموعات البيانات ومن الرعاية اللازمة.
الخبر السار هو أن الوعي بالتحيزات في خوارزميات الرعاية الصحية قد زاد خلال السنوات القليلة الماضية. يتم الآن فحص مدخلات البيانات والنتائج للتحقق من وجود تحيز عرقي، إثني، دخل، جنس، وعمر. تعترف جمعيات التخصصات الطبية في الولايات المتحدة بالأضرار التي يسببها الطب المبني على العرق وتتحرك نحو إنهاء اعتبار العرق في الخوارزميات السريرية. عندما يتم التعرف على الفوارق، يمكن تعديل الخوارزميات ومجموعات البيانات لتحقيق موضوعية أفضل.
ما هو الخوارزمية؟
لا توجد تعريفات قانونية أو علمية موحدة للخوارزمية، لكن المعهد الوطني للمقاييس والتكنولوجيا يصفها بأنها “عملية حسابية محددة بوضوح؛ مجموعة من القواعد التي، إذا تم اتباعها، ستعطي نتيجة محددة.”
ما هو مثال على الخوارزمية؟
بأوسع معانيها، الخوارزمية ببساطة هي عملية خطوة بخطوة للإجابة على سؤال أو تحقيق نتيجة مرغوبة. على سبيل المثال، وصفة الكعكة هو نوع من الخوارزميات. في عالم التمويل، نظام التداول الآلي هو مثال على ذلك.
ما هو التعلم الآلي؟
تعرف شركة IBM، الرائدة في المجال، التعلم الآلي بأنه “الجزء من الذكاء الاصطناعي (AI) الذي يركز على الخوارزميات التي يمكنها ‘تعلم’ أنماط بيانات التدريب، ومن ثم إجراء استنتاجات دقيقة حول بيانات جديدة.”
الخلاصة
على الرغم من مظهرها الموضوعي غير العاطفي، فإن الخوارزميات التي يستخدمها المهنيون الطبيون لاتخاذ قرارات معينة قد تكون عرضة للتحيز بناءً على العرق، الطبقة الاجتماعية، وعوامل أخرى. لذلك، لا يمكن الاعتماد على الخوارزميات على أنها موثوقة بشكل كامل، بل يجب إخضاعها لتحليل دقيق. كما أشار مقال في عام 2021 في MIT Technology Review، “مصطلح ‘خوارزمية’، مهما كان تعريفه، لا ينبغي أن يكون درعًا يعفي البشر الذين صمموها ونشروها من المسؤولية عن نتائج استخدامها.”
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
التحيز العنصري في أدوات اتخاذ قرارات الرعاية الطبية
التحيز العنصري في الرعاية الطبية يمكن أن يظهر في أماكن غير متوقعة. أحد الأمثلة: أدوات اتخاذ القرار السريرية التي تلعب دورًا هامًا في كيفية اختبار وتشخيص وعلاج المرضى اليوم.
تحتوي هذه الأدوات على خوارزميات، أو إجراءات خطوة بخطوة، عادةً محوسبة، لحساب عوامل مثل خطر الإصابة بأمراض القلب، الحاجة إلى أشعة صدر، وجرعات الأدوية الموصوفة. يمكن استخدام الذكاء الاصطناعي للبحث في السجلات الصحية وأنظمة الفوترة لإنشاء مجموعات البيانات اللازمة.
على السطح، قد يبدو الأمر موضوعيًا. لكن أظهرت الدراسات أن التحليل البيانات المستخدم في هذه الخوارزميات يمكن أن يكون متحيزًا بشكل حاسم ضد مجموعات عرقية واجتماعية واقتصادية معينة. هذا يمكن أن يكون له عواقب متعددة من حيث كمية وجودة الرعاية الصحية التي يتلقاها هؤلاء الأشخاص.
النقاط الرئيسية
إجابات Investopedia
اسأل
التحيز العنصري يؤثر على المرضى الأكثر مرضًا
في عام 2019، أظهرت دراسة أن خوارزمية تستخدم على نطاق واسع من قبل المستشفيات وشركات التأمين في الولايات المتحدة لتخصيص المساعدة الإضافية في إدارة الصحة كانت تميز ضد الأشخاص السود بشكل منهجي. كانت أداة القرار أقل احتمالًا في إحالة الأشخاص السود إلى برامج إدارة الرعاية لاحتياجات طبية معقدة مقارنةً بالأشخاص البيض عندما كان كلا المجموعتين يعانيان من نفس مستوى المرض.
السبب الأساسي للتحيز كان مرتبطًا بتعيين الخوارزمية لدرجات المخاطر للمرضى بناءً على تكاليفهم الطبية في العام السابق. كانت الفكرة أن تحديد المرضى ذوي التكاليف الأعلى سيساعد في تحديد من يحتاجون إلى رعاية طبية أكبر. لكن، العديد من المرضى السود لديهم وصول أقل، وقدرة أقل على الدفع، وثقة أقل في الرعاية الطبية مقارنةً بالبيض الذين يعانون من نفس الحالة. في هذه الحالة، لم تكن تكاليفهم الطبية المنخفضة تتنبأ بدقة بحالتهم الصحية.
تستخدم برامج إدارة الرعاية نهجًا مكثفًا، مثل المكالمات الهاتفية، الزيارات المنزلية من قبل الممرضات، وإعطاء الأولوية لمواعيد الأطباء لمعالجة الاحتياجات المعقدة لأكثر المرضى مرضًا. أظهرت الدراسات أن هذه البرامج تحسن النتائج، وتقلل من زيارات الطوارئ، والإقامة في المستشفيات، وتخفض التكاليف الطبية. نظرًا لأن البرامج نفسها مكلفة، فهي تُخصص للأشخاص ذوي درجات المخاطر الأعلى. تقنيات التقييم التي تميز ضد المرضى السود الأكثر مرضًا قد تكون عاملاً مهمًا في زيادة خطر وفاتهم من العديد من الأمراض.
العرق كمتغير في أمراض الكلى
يمكن أن تحتوي الخوارزميات على تحيز دون أن تتضمن العرق كمتغير، لكن بعض الأدوات تستخدم العرق عمدًا كمعيار. خذ على سبيل المثال درجة eGFR، التي تقيم صحة الكلى وتستخدم لتحديد من يحتاج إلى زراعة كلية.
في دراسة عام 1999 وضعت معايير لدرجة eGFR، لاحظ الباحثون أن الأشخاص السود لديهم، في المتوسط، مستويات أعلى من الكرياتينين (ناتج تحلل العضلات) مقارنةً بالبيض. افترض العلماء أن المستويات الأعلى كانت بسبب زيادة كتلة العضلات لدى السود. لذلك، عدلوا التقييم، مما يعني أن السود يجب أن يكون لديهم درجة eGFR أقل من البيض ليتم تشخيصهم بمرض الكلى في مرحلته النهائية. ونتيجة لذلك، كان على السود الانتظار حتى تصل حالة مرض الكلى لديهم إلى مرحلة أكثر حدة للتأهل للعلاج.
في عام 2018، لاحظت طالبة طب وصحة عامة في جامعة واشنطن في سياتل أن درجات eGFR لم تكن دقيقة في تشخيص شدة مرض الكلى لدى المرضى السود. ناضلت لإزالة العرق من الخوارزمية وفازت. في عام 2020، وافقت جامعة واشنطن على أن استخدام العرق كان متغيرًا غير فعال ولا يفي بالصرامة العلمية في أدوات التشخيص الطبي.
مهم
في عام 2021، أوصت فرقة عمل مشتركة من مؤسسة الكلى الوطنية والجمعية الأمريكية لعلم الكلى باعتماد معادلة eGFR الجديدة لعام 2021 CKD EPI التي تقدر وظيفة الكلى بدون استخدام العرق كمتغير.
مؤشر كتلة الجسم والتحيز العنصري
حتى أبسط أدوات اتخاذ القرار الطبي التي لا تتضمن العرق يمكن أن تعكس تحيزًا اجتماعيًا. على سبيل المثال، مؤشر كتلة الجسم (BMI) يعتمد على حساب يضرب الوزن في الطول. يُستخدم لتحديد المرضى الذين يعانون من نقص الوزن، زيادة الوزن، والسمنة.
في عام 1985، ربط المعهد الوطني للصحة تعريف السمنة بمؤشر كتلة الجسم للفرد، وفي عام 1998، وضعت لجنة خبراء إرشادات تعتمد على BMI التي حولت 29 مليون أمريكي كانوا سابقًا مصنفين على أنهم ذوو وزن طبيعي أو زيادة وزن بسيطة إلى فئات السمنة وزيادة الوزن.
اليوم، وفقًا لمعايير BMI، فإن غالبية السود، والأشخاص من أصول إسبانية، والبيض يُصنفون على أنهم يعانون من زيادة الوزن أو السمنة. لكن تقريرًا من مراكز السيطرة على الأمراض والوقاية منها (CDC) لعام 2021 وجد أن نسبة الأمريكيين الذين يمكن تصنيفهم على أنهم يعانون من السمنة تختلف حسب العرق أو المجموعة الإثنية.
وفقًا لمراكز السيطرة على الأمراض، كانت النسب بين البالغين بشكل عام:
عند تصنيف النساء البالغات على أنهن يعانين من السمنة، تظهر الفروقات بشكل أكثر وضوحًا:
تصنيف نسب كبيرة من السكان على أنهن يعانين من زيادة الوزن أو السمنة خلق جوًا من إحراج الوزن وعدم الثقة بين المرضى والأطباء. يشتكي الأشخاص ذوو الوزن الزائد من أن الأطباء لا يعالجون المشاكل الصحية أو المخاوف التي دفعتهم للفحص. بدلاً من ذلك، يلوم الأطباء وزن المريض على مشاكله الصحية ويدفعون نحو فقدان الوزن كحل. هذا يؤدي إلى تجنب العديد من المرضى السود والأسبان لمقدمي الرعاية الصحية، وربما يفوتون فرصًا للوقاية أو الكشف المبكر عن المشاكل.
علاوة على ذلك، يتضح بشكل متزايد أن كون الشخص يعاني من زيادة الوزن أو السمنة ليس دائمًا مشكلة صحية. معدلات بعض الحالات الخطيرة، مثل أمراض القلب، السكتة الدماغية، داء السكري من النوع 2، وأنواع معينة من السرطان، أعلى بين الأشخاص الذين يعانون من السمنة. لكن، في حالات معينة، مثل التعافي بعد جراحة القلب، فإن زيادة الوزن أو السمنة المعتدلة (وليس السمنة المفرطة) مرتبطة بمعدلات بقاء أفضل.
تؤكد إرشادات السمنة الجديدة للأطباء الكنديين، المنشورة في أغسطس 2020، على ضرورة توقف الأطباء عن الاعتماد فقط على مؤشر كتلة الجسم في تشخيص المرضى. يجب أن يُشخص الأشخاص بالسمنة فقط إذا كان وزن جسمهم يؤثر على صحتهم الجسدية أو النفسية، وفقًا للإرشادات الجديدة. يجب أن يكون العلاج شاملاً وليس فقط يركز على فقدان الوزن. وتلاحظ الإرشادات أيضًا أن “الأشخاص الذين يعانون من السمنة يواجهون تحيزًا ووصمة اجتماعية كبيرة، تساهم في زيادة الأمراض والوفيات بشكل مستقل عن الوزن أو مؤشر كتلة الجسم.”
قد يُستبدل النظر في مؤشر كتلة الجسم بقياسات أخرى، مثل محيط الخصر. وقد يُعاد تعريف السمنة نفسها. في يناير 2025، اقترح مجموعة من 58 باحثًا تعريفًا جديدًا يركز على الدهون الزائدة في الجسم وتأثيرها على الصحة، مقسمًا السمنة إلى فئتين: قبل سريري، عندما يكون لدى الشخص دهون زائدة لكن أعضاؤه تعمل بشكل طبيعي، وسريرياً، عندما تضر الدهون الزائدة الأنسجة والأعضاء.
تقليل التحيز في أدوات اتخاذ القرار
ليست الخوارزميات الطبية هي النوع الوحيد من الخوارزميات التي يمكن أن تكون متحيزة. كما أشار مقال في The New England Journal of Medicine في عام 2020، “هذه المشكلة ليست حصرية بالطب. على سبيل المثال، يستخدم نظام العدالة الجنائية أدوات التنبؤ بالتكرار لتوجيه القرارات بشأن مبالغ الكفالة والأحكام بالسجن.” وقال المؤلفون إن أداة واحدة واسعة الاستخدام، “على الرغم من عدم استخدام العرق بشكل مباشر، إلا أنها تعتمد على عوامل كثيرة تتعلق بالعرق وتعيد درجات مخاطر أعلى للمحاكمين السود.”
كما أن الاستخدام المتزايد للذكاء الاصطناعي — خاصة التعلم الآلي — أثار أسئلة حول التحيز بناءً على العرق، الحالة الاجتماعية والاقتصادية، وعوامل أخرى. في الرعاية الصحية، غالبًا ما يعتمد التعلم الآلي على السجلات الصحية الإلكترونية. قد يتلقى المرضى الفقراء والأقليات رعاية غير متماسكة ويُرون في مؤسسات متعددة. هم أكثر عرضة للزيارة في عيادات التعليم حيث قد تكون إدخال البيانات أو التفكير السريري أقل دقة. وقد لا يتمكنون من الوصول إلى بوابات المرضى عبر الإنترنت وتوثيق النتائج. ونتيجة لذلك، قد تحتوي سجلات هؤلاء المرضى على بيانات مفقودة أو خاطئة. لذلك، قد تؤدي الخوارزميات التي تدير التعلم الآلي إلى استبعاد المرضى الفقراء والأقليات من مجموعات البيانات ومن الرعاية اللازمة.
الخبر السار هو أن الوعي بالتحيزات في خوارزميات الرعاية الصحية قد زاد خلال السنوات القليلة الماضية. يتم الآن فحص مدخلات البيانات والنتائج للتحقق من وجود تحيز عرقي، إثني، دخل، جنس، وعمر. تعترف جمعيات التخصصات الطبية في الولايات المتحدة بالأضرار التي يسببها الطب المبني على العرق وتتحرك نحو إنهاء اعتبار العرق في الخوارزميات السريرية. عندما يتم التعرف على الفوارق، يمكن تعديل الخوارزميات ومجموعات البيانات لتحقيق موضوعية أفضل.
ما هو الخوارزمية؟
لا توجد تعريفات قانونية أو علمية موحدة للخوارزمية، لكن المعهد الوطني للمقاييس والتكنولوجيا يصفها بأنها “عملية حسابية محددة بوضوح؛ مجموعة من القواعد التي، إذا تم اتباعها، ستعطي نتيجة محددة.”
ما هو مثال على الخوارزمية؟
بأوسع معانيها، الخوارزمية ببساطة هي عملية خطوة بخطوة للإجابة على سؤال أو تحقيق نتيجة مرغوبة. على سبيل المثال، وصفة الكعكة هو نوع من الخوارزميات. في عالم التمويل، نظام التداول الآلي هو مثال على ذلك.
ما هو التعلم الآلي؟
تعرف شركة IBM، الرائدة في المجال، التعلم الآلي بأنه “الجزء من الذكاء الاصطناعي (AI) الذي يركز على الخوارزميات التي يمكنها ‘تعلم’ أنماط بيانات التدريب، ومن ثم إجراء استنتاجات دقيقة حول بيانات جديدة.”
الخلاصة
على الرغم من مظهرها الموضوعي غير العاطفي، فإن الخوارزميات التي يستخدمها المهنيون الطبيون لاتخاذ قرارات معينة قد تكون عرضة للتحيز بناءً على العرق، الطبقة الاجتماعية، وعوامل أخرى. لذلك، لا يمكن الاعتماد على الخوارزميات على أنها موثوقة بشكل كامل، بل يجب إخضاعها لتحليل دقيق. كما أشار مقال في عام 2021 في MIT Technology Review، “مصطلح ‘خوارزمية’، مهما كان تعريفه، لا ينبغي أن يكون درعًا يعفي البشر الذين صمموها ونشروها من المسؤولية عن نتائج استخدامها.”