Расовая предвзятость в инструментах принятия решений в медицинском обслуживании

Расовая предвзятость в медицинской помощи может проявляться в неожиданных местах. Один из примеров — клинические инструменты принятия решений, которые играют важную роль в том, как сегодня тестируют, диагностируют и лечат пациентов.

Эти инструменты содержат алгоритмы или пошаговые процедуры, обычно компьютеризированные, для расчета таких факторов, как риск сердечных заболеваний, необходимость рентгенографии грудной клетки и дозировки лекарственных средств. Искусственный интеллект может использоваться для анализа медицинских записей и систем выставления счетов с целью создания необходимых наборов данных.

На первый взгляд это может звучать объективно. Но исследования показали, что анализ данных, используемый в этих алгоритмах, может быть предвзятым в критически важных аспектах по отношению к определенным расовым и социально-экономическим группам. Это может иметь множество последствий в отношении объема и качества медицинской помощи, которую получают представители этих групп.

Основные выводы

• Медицинские инструменты принятия решений играют большую роль в том, как сегодня тестируют, диагностируют и лечат пациентов.
• К сожалению, алгоритмы, на которых основываются эти инструменты, иногда могут быть предвзятыми.
• Использование данных о медицинских расходах для оценки состояния здоровья человека может неправильно оценивать тяжесть заболеваний у бедных и меньшинственных пациентов, когда низкие медицинские расходы отражают недостаток доступа к медицинской помощи, а не отсутствие необходимости.
• Алгоритм определения индекса массы тела (ИМТ), используемый для диагностики избыточного веса или ожирения, создал атмосферу стыда и недоверия между пациентами и врачами, поскольку больше чернокожих женщин, чем испаноязычных или белых женщин, теперь классифицируются как страдающие ожирением.
• Ввод данных и результаты теперь начинают проверяться на наличие расовых, этнических, доходных, гендерных и возрастных предвзятостей, чтобы выявлять различия и корректировать алгоритмы.

Ответы Investopedia

ЗАПРОС

Расовая предвзятость влияет на самых больных пациентов

В 2019 году исследование широко используемого в американских больницах и страховых компаниях алгоритма для распределения дополнительной помощи в управлении здоровьем показало системную дискриминацию чернокожих. Инструмент принятия решений реже направлял чернокожих пациентов, чем белых, в программы по управлению сложными медицинскими потребностями, когда оба расовых группы были одинаково больны.

Основной причиной предвзятости было присвоение алгоритмом риск-оценок пациентам на основе их медицинских затрат за прошлый год. Предполагалось, что выявление пациентов с более высокими затратами поможет определить тех, у кого есть наибольшие медицинские потребности. Однако у многих чернокожих пациентов меньше доступа к медицинской помощи, меньшие возможности оплатить лечение и меньше доверия к медицине, чем у белых, даже при одинаковой степени болезни. В этом случае их меньшие медицинские расходы не точно отражали их состояние здоровья.

Программы управления уходом используют интенсивный подход, такой как телефонные звонки, домашние визиты медсестер и приоритетные приемы у врачей для решения сложных потребностей самых тяжелых пациентов. Было показано, что такие программы улучшают результаты, уменьшают количество посещений отделений неотложной помощи и госпитализаций, а также снижают медицинские расходы. Поскольку сами программы дорогие, их назначают людям с самыми высокими баллами риска. Методы оценки, дискриминирующие самых тяжелых чернокожих пациентов, могут значительно повышать их риск смерти от многих заболеваний.

Расовая переменная при определении болезни почек

Алгоритмы могут содержать предвзятость и без учета расы как переменной, но некоторые инструменты специально используют расу как критерий. Например, показатель eGFR, который оценивает здоровье почек и используется для определения необходимости пересадки почки.

В исследовании 1999 года, в ходе которого устанавливались критерии для оценки eGFR, ученые заметили, что у чернокожих в среднем выше уровень креатинина (продукт распада мышечной ткани), чем у белых. Предполагалось, что более высокие уровни связаны с большей мышечной массой у чернокожих. Поэтому скоринг был скорректирован так, что чернокожие должны иметь более низкий показатель eGFR, чтобы диагностировать у них терминальную стадию болезни почек. В результате чернокожие должны ждать, пока их заболевание почек не достигнет более тяжелой стадии, чтобы получить лечение.

В 2018 году студентка-медик и специалист по общественному здравоохранению из Университета Вашингтона в Сиэтле заметила, что показатели eGFR не точны для диагностики тяжести болезни почек у чернокожих пациентов. Она боролась за исключение расы из алгоритма и победила. В 2020 году медицинский центр UW согласился, что использование расы — неэффективная переменная, не соответствующая научным стандартам в медицинской диагностике.

Важно

В 2021 году совместная рабочая группа Национального фонда почек и Американского общества нефрологии рекомендовала принять новую формулу eGFR 2021 CKD EPI для оценки функции почек без использования расы как переменной.

Индекс массы тела и расовая предвзятость

Даже самый простой медицинский инструмент, не учитывающий расу, может отражать социальную предвзятость. Например, индекс массы тела (ИМТ) основан на расчетах, умножающих вес на рост. Он используется для определения недостаточного веса, избыточного веса и ожирения.

В 1985 году Национальные институты здравоохранения связали определение ожирения с ИМТ человека, а в 1998 году экспертная группа установила руководящие принципы, основанные на ИМТ, которые перевели 29 миллионов американцев из категории нормального веса или чуть выше в категории избыточного веса и ожирения.

Сегодня по стандартам ИМТ большинство чернокожих, испаноязычных и белых людей считаются страдающими избыточным весом или ожирением. Но в отчете Центров по контролю и профилактике заболеваний (CDC) за 2021 год было установлено, что процент американцев, которых можно классифицировать как страдающих ожирением, варьируется в зависимости от расы или этнической группы.

По данным CDC, распределение среди взрослых в целом было следующим:

• Негритянские американцы: 49,9%
• Испаноязычные: 45,6%
• Белые неиспаноамериканцы: 41,4%
• Азиаты неиспаноамериканцы: 16,1%

Если выделить женщин, классифицированных как страдающие ожирением, различия становятся еще более заметными:

• Негритянские американки: 57,9%
• Испаноязычные: 45,7%
• Белые неиспаноамериканки: 39,6%
• Азиатки неиспаноамериканки: 14,5%

Объявление таких больших процентов населения как страдающих ожирением создало атмосферу стыда и недоверия между пациентами и врачами. Люди с большим весом жалуются, что врачи не обращают внимания на их проблемы со здоровьем или опасения, которые привели их на прием. Вместо этого врачи обвиняют вес пациента в его проблемах со здоровьем и настаивают на снижении веса как решении. Это способствует тому, что многие чернокожие и испаноязычные пациенты избегают обращения к медицинским специалистам и, возможно, пропускают возможности профилактики или раннего выявления проблем.

Более того, становится все яснее, что избыточный вес или ожирение не всегда являются проблемой здоровья. Уровни некоторых серьезных заболеваний, таких как сердечно-сосудистые болезни, инсульт, диабет 2 типа и некоторые виды рака, выше у страдающих ожирением. Но в определенных ситуациях, например, после сердечных операций, избыточный вес или умеренное ожирение (но не морбидное ожирение) связаны с лучшими показателями выживаемости.

Новые рекомендации по ожирению для канадских врачей, опубликованные в августе 2020 года, подчеркивают, что врачи должны перестать полагаться только на ИМТ при диагностике пациентов. Людей следует считать страдающими ожирением только в том случае, если их масса тела влияет на их физическое здоровье или психоэмоциональное состояние, согласно новым руководящим принципам. Лечение должно быть комплексным и не ограничиваться только снижением веса. В руководствах также отмечается, что «люди, страдающие ожирением, сталкиваются с существенной предвзятостью и стигмой, что способствует увеличению заболеваемости и смертности независимо от веса или индекса массы тела».

Рассмотрение ИМТ может быть заменено другими мерами, например, окружностью талии. А само понятие ожирения может быть переосмыслено. В январе 2025 года группа из 58 исследователей предложила новое определение, которое сместит акцент с ИМТ на избыток жира и его влияние на здоровье. Группа предложила две категории ожирения: предклиническое, когда у человека есть избыток жира, но органы функционируют нормально, и клиническое, когда избыток жира повреждает ткани и органы.

Снижение предвзятости в инструментах принятия решений

Медицинские алгоритмы — не единственный тип алгоритмов, которые могут быть предвзятыми. Как отметил один из материалов 2020 года в The New England Journal of Medicine, «Эта проблема не уникальна для медицины. Например, система уголовного правосудия использует инструменты предсказания рецидива для определения размеров залога и сроков заключения». Авторы отметили, что один широко используемый инструмент, «хотя и не использует расу как таковую, использует множество факторов, коррелирующих с расой, и возвращает более высокие оценки риска для чернокожих обвиняемых».

Рост использования искусственного интеллекта (ИИ), особенно машинного обучения, также вызывает вопросы о предвзятости по расовым, социально-экономическим и другим признакам. В здравоохранении машинное обучение часто опирается на электронные медицинские записи. Бедные и меньшинственные пациенты могут получать разрозненную помощь и обращаться в разные учреждения. Они чаще всего попадают в учебные клиники, где ввод данных или клиническое мышление могут быть менее точными. Также у них может не быть доступа к онлайн-порталам для пациентов и документирования результатов. В результате у таких пациентов могут отсутствовать полные или точные данные. Алгоритмы, управляющие машинным обучением, могут исключать бедных и меньшинственных пациентов из наборов данных и необходимого ухода.

Хорошая новость — за последние годы возросло осознание предвзятости в медицинских алгоритмах. Ввод данных и результаты начинают проверяться на наличие расовых, этнических, доходных, гендерных и возрастных предвзятостей. Медицинские профессиональные общества в США признают вред, причиняемый расовой медицине, и работают над исключением учета расы в клинических алгоритмах. Когда выявляются различия, алгоритмы и наборы данных могут быть пересмотрены для повышения объективности.

Что такое алгоритм?

Нет единого юридического или научного определения алгоритма, но Национальный институт стандартов и технологий (NIST) определяет его как «четко определенный математический процесс для вычислений; набор правил, которые, если соблюдать, дадут предписанный результат».

Пример алгоритма

В самом широком смысле алгоритм — это просто пошаговый процесс для ответа на вопрос или достижения желаемого результата. Например, рецепт торта — это форма алгоритма. В сфере финансов автоматизированная торговая система также является примером.

Что такое машинное обучение?

IBM, пионер в этой области, определяет машинное обучение как «подмножество искусственного интеллекта (ИИ), сосредоточенное на алгоритмах, которые могут «учиться» распознавать шаблоны обучающих данных и, впоследствии, делать точные выводы о новых данных».

Итог

Несмотря на кажущуюся объективность, алгоритмы, используемые медицинскими специалистами для принятия определенных решений, могут быть предвзятыми по признакам расы, класса и другим факторам. Поэтому алгоритмы нельзя принимать на веру без критического анализа. Как отметил один из материалов 2021 года в MIT Technology Review, «Термин ‘алгоритм’, каким бы определением он ни обладал, не должен служить щитом, освобождающим создателей и внедрителей системы от ответственности за последствия ее использования».