Thiên vị chủng tộc trong các công cụ ra quyết định chăm sóc y tế

Thiên vị chủng tộc trong chăm sóc y tế có thể xuất hiện ở những nơi không ngờ tới. Một ví dụ: các công cụ quyết định lâm sàng đóng vai trò quan trọng trong cách thức xét nghiệm, chẩn đoán và điều trị bệnh nhân ngày nay.

Những công cụ này chứa các thuật toán, hoặc các quy trình từng bước, thường được số hóa, để tính toán các yếu tố như nguy cơ mắc bệnh tim, nhu cầu chụp X-quang ngực, và liều thuốc kê đơn. Trí tuệ nhân tạo có thể được sử dụng để quét qua hồ sơ sức khỏe và hệ thống thanh toán để tạo ra các bộ dữ liệu cần thiết.

Trên bề mặt, có thể nghe có vẻ khách quan. Nhưng các nghiên cứu đã chỉ ra rằng phân tích dữ liệu được sử dụng trong các thuật toán này có thể mang tính thiên vị quan trọng chống lại một số nhóm chủng tộc và xã hội kinh tế nhất định. Điều này có thể gây ra nhiều hậu quả về số lượng và chất lượng chăm sóc y tế mà các nhóm này nhận được.

Những điểm chính

• Các công cụ quyết định y tế đóng vai trò lớn trong cách thức xét nghiệm, chẩn đoán và điều trị bệnh nhân ngày nay.
• Thật không may, các thuật toán mà các công cụ này dựa vào đôi khi có thể mang tính thiên vị.
• Sử dụng dữ liệu chi tiêu y tế để đánh giá tình trạng sức khỏe của một người có thể đánh giá sai mức độ nghiêm trọng của bệnh của bệnh nhân nghèo và thiểu số khi chi tiêu y tế thấp phản ánh thiếu tiếp cận dịch vụ y tế hơn là thiếu nhu cầu.
• Thuật toán chỉ số khối cơ thể (BMI) dùng để chẩn đoán bệnh nhân béo phì hoặc thừa cân đã tạo ra môi trường xấu hổ về cân nặng và mất lòng tin giữa bệnh nhân và bác sĩ, khi nhiều phụ nữ da đen hơn so với phụ nữ Hispanic hoặc da trắng hiện nay bị phân loại là béo phì.
• Dữ liệu đầu vào và kết quả hiện đang bắt đầu được kiểm tra để phát hiện thiên vị về chủng tộc, dân tộc, thu nhập, giới tính và tuổi tác nhằm nhận diện các chênh lệch và chỉnh sửa các thuật toán.

Trả lời của Investopedia

HỎI

Thiên vị chủng tộc ảnh hưởng đến những bệnh nhân nặng nhất

Năm 2019, một nghiên cứu về một thuật toán được các bệnh viện và công ty bảo hiểm tại Mỹ sử dụng rộng rãi để phân bổ hỗ trợ quản lý sức khỏe thêm đã cho thấy nó phân biệt đối xử có hệ thống chống lại người da đen. Công cụ quyết định này ít có khả năng giới thiệu người da đen vào các chương trình quản lý chăm sóc cho các nhu cầu y tế phức tạp hơn so với người da trắng khi cả hai nhóm đều cùng bệnh.

Nguyên nhân gốc rễ của thiên vị này liên quan đến việc thuật toán gán điểm rủi ro cho bệnh nhân dựa trên chi phí y tế của năm trước. Giả định là việc xác định bệnh nhân có chi phí cao hơn sẽ giúp nhận diện những người có nhu cầu y tế lớn nhất. Tuy nhiên, nhiều bệnh nhân da đen có ít tiếp cận hơn, khả năng chi trả thấp hơn và ít tin tưởng vào dịch vụ y tế hơn so với người da trắng cùng bệnh. Trong trường hợp này, chi phí y tế thấp hơn của họ không phản ánh chính xác tình trạng sức khỏe của họ.

Các chương trình quản lý chăm sóc sử dụng phương pháp tiếp cận cao chạm, như gọi điện thoại, thăm khám tại nhà bởi y tá, và ưu tiên lịch hẹn bác sĩ để giải quyết các nhu cầu phức tạp của những bệnh nhân nặng nhất. Các chương trình này đã được chứng minh là cải thiện kết quả, giảm số lần đến phòng cấp cứu và nhập viện, cũng như giảm chi phí y tế. Vì các chương trình này tốn kém, nên họ được phân bổ cho những người có điểm rủi ro cao nhất. Các kỹ thuật chấm điểm phân biệt đối xử với những bệnh nhân da đen nặng nhất có thể là yếu tố quan trọng làm tăng nguy cơ tử vong do nhiều bệnh.

Chủng tộc như một biến số trong bệnh thận

Các thuật toán có thể chứa thiên vị mà không cần đưa chủng tộc vào biến số, nhưng một số công cụ cố ý sử dụng chủng tộc như một tiêu chí. Lấy ví dụ, điểm eGFR, đánh giá sức khỏe thận và dùng để xác định ai cần ghép thận.

Trong một nghiên cứu năm 1999 thiết lập tiêu chí điểm eGFR, các nhà nghiên cứu nhận thấy rằng người da đen trung bình có mức creatinine (sản phẩm phụ của quá trình phân hủy cơ) cao hơn người da trắng. Các nhà khoa học giả định rằng mức cao hơn này do khối lượng cơ cao hơn ở người da đen. Do đó, họ điều chỉnh điểm số, nghĩa là người da đen phải có điểm eGFR thấp hơn người da trắng để chẩn đoán mắc bệnh thận giai đoạn cuối. Kết quả là, người da đen phải chờ đợi cho đến khi bệnh thận tiến triển nặng hơn mới đủ điều kiện điều trị.

Năm 2018, một sinh viên y khoa và y tế cộng đồng tại Trường Y khoa Đại học Washington ở Seattle nhận thấy điểm eGFR không chính xác trong chẩn đoán mức độ nặng của bệnh thận ở bệnh nhân da đen. Cô đã đấu tranh để loại bỏ chủng tộc khỏi thuật toán và đã thắng. Năm 2020, UW Medicine đồng ý rằng việc sử dụng chủng tộc là biến số không hiệu quả và không đáp ứng tiêu chuẩn khoa học trong các công cụ chẩn đoán y học.

Quan trọng

Năm 2021, một nhóm công tác liên ngành của Quỹ Thận Quốc gia và Hiệp hội Thận học Mỹ đã đề xuất áp dụng công thức creatinine eGFR CKD EPI mới năm 2021, ước lượng chức năng thận mà không sử dụng chủng tộc làm biến số.

Chỉ số khối cơ thể và thiên vị chủng tộc

Ngay cả công cụ quyết định y tế đơn giản nhất không bao gồm chủng tộc cũng có thể phản ánh định kiến xã hội. Ví dụ, chỉ số khối cơ thể (BMI) dựa trên phép tính nhân trọng lượng với chiều cao. Nó được dùng để xác định bệnh nhân thiếu cân, thừa cân hoặc béo phì.

Năm 1985, Viện Y tế Quốc gia Mỹ (NIH) đã liên kết định nghĩa béo phì với BMI của cá nhân, và năm 1998, một nhóm chuyên gia đã đưa ra hướng dẫn dựa trên BMI, chuyển 29 triệu người Mỹ từng được phân loại là bình thường hoặc chỉ thừa cân sang nhóm thừa cân hoặc béo phì.

Ngày nay, theo tiêu chuẩn BMI, phần lớn người da đen, Hispanic và da trắng đều bị xếp vào nhóm thừa cân hoặc béo phì. Nhưng một báo cáo năm 2021 của Trung tâm Kiểm soát và Phòng ngừa Dịch bệnh (CDC) cho thấy tỷ lệ người Mỹ có thể bị béo phì khác nhau theo chủng tộc hoặc nhóm dân tộc.

Theo CDC, tỷ lệ chung của người trưởng thành là:

• Người da đen không Hispanic: 49.9%
• Người Hispanic: 45.6%
• Người da trắng không Hispanic: 41.4%
• Người da Áo không Hispanic: 16.1%

Trong số phụ nữ trưởng thành bị béo phì, các khác biệt còn rõ rệt hơn:

• Người da đen không Hispanic: 57.9%
• Người Hispanic: 45.7%
• Người da trắng không Hispanic: 39.6%
• Người da Áo không Hispanic: 14.5%

Việc gán nhãn tỷ lệ lớn dân số là thừa cân hoặc béo phì đã tạo ra môi trường xấu hổ về cân nặng và mất lòng tin giữa bệnh nhân và bác sĩ. Người có cân nặng cao hơn phàn nàn rằng bác sĩ không đề cập đến các vấn đề sức khỏe hoặc mối quan tâm đã đưa họ đến khám. Thay vào đó, bác sĩ đổ lỗi cho cân nặng của bệnh nhân và thúc đẩy giảm cân như một giải pháp. Điều này khiến nhiều bệnh nhân da đen và Hispanic tránh xa các nhà chăm sóc sức khỏe, có thể bỏ lỡ cơ hội phòng ngừa hoặc phát hiện sớm các vấn đề.

Hơn nữa, ngày càng rõ ràng rằng việc thừa cân hoặc béo phì không phải lúc nào cũng là vấn đề sức khỏe. Tỷ lệ mắc các bệnh nghiêm trọng như bệnh tim, đột quỵ, tiểu đường loại 2 và một số loại ung thư cao hơn ở những người béo phì. Nhưng trong một số tình huống, như hồi phục sau phẫu thuật tim, thừa cân hoặc béo phì vừa phải (không béo phì nặng) lại liên quan đến tỷ lệ sống sót cao hơn.

Các hướng dẫn mới về béo phì dành cho các bác sĩ Canada, công bố tháng 8 năm 2020, nhấn mạnh rằng bác sĩ nên ngừng dựa vào BMI đơn thuần trong chẩn đoán bệnh nhân. Người ta chỉ nên chẩn đoán béo phì khi cân nặng ảnh hưởng đến sức khỏe thể chất hoặc tinh thần của họ, theo hướng dẫn mới. Điều trị nên toàn diện và không chỉ tập trung vào giảm cân. Các hướng dẫn cũng ghi chú rằng, “Những người sống chung với béo phì phải đối mặt với định kiến và kỳ thị đáng kể, điều này góp phần làm tăng tỷ lệ mắc bệnh và tử vong độc lập với cân nặng hoặc chỉ số khối cơ thể.”

Việc xem xét BMI của cá nhân có thể được thay thế bằng các biện pháp khác, như vòng eo. Và béo phì có thể được định nghĩa lại. Vào tháng 1 năm 2025, một nhóm gồm 58 nhà nghiên cứu đã đề xuất một định nghĩa mới, chuyển trọng tâm từ BMI sang lượng mỡ thừa trong cơ thể và ảnh hưởng của nó đến sức khỏe. Nhóm đề xuất hai loại béo phì: tiền lâm sàng, khi người đó có lượng mỡ thừa nhưng các cơ quan vẫn hoạt động bình thường, và lâm sàng, khi quá nhiều mỡ gây hại cho mô và các cơ quan.

Giảm thiên vị trong các công cụ quyết định

Các thuật toán y tế không phải là loại thuật toán duy nhất có thể mang thiên vị. Như một bài báo năm 2020 trong The New England Journal of Medicine đã lưu ý, “Vấn đề này không chỉ riêng trong y học. Hệ thống tư pháp hình sự, ví dụ, sử dụng các công cụ dự đoán tái phạm để hướng dẫn các quyết định về số tiền bảo lãnh và án tù.” Các tác giả cho biết một công cụ phổ biến, “mặc dù không sử dụng chủng tộc trực tiếp, nhưng sử dụng nhiều yếu tố liên quan đến chủng tộc và trả điểm rủi ro cao hơn cho các bị cáo da đen.”

Việc sử dụng trí tuệ nhân tạo (AI)—đặc biệt là học máy—ngày càng tăng cũng đặt ra câu hỏi về thiên vị dựa trên chủng tộc, tình trạng kinh tế xã hội và các yếu tố khác. Trong chăm sóc sức khỏe, học máy thường dựa vào hồ sơ sức khỏe điện tử. Bệnh nhân nghèo và thiểu số có thể nhận được dịch vụ chăm sóc rời rạc và khám nhiều nơi khác nhau. Họ có khả năng cao hơn để khám tại các phòng khám đào tạo, nơi dữ liệu nhập vào hoặc lý luận lâm sàng có thể ít chính xác hơn. Và họ có thể không truy cập được cổng thông tin bệnh nhân trực tuyến hoặc ghi nhận kết quả. Do đó, hồ sơ của những bệnh nhân này có thể thiếu dữ liệu hoặc chứa dữ liệu sai lệch. Các thuật toán điều khiển học máy có thể vô tình loại trừ các bệnh nhân nghèo và thiểu số khỏi các bộ dữ liệu và dịch vụ cần thiết.

Tin tốt là nhận thức về thiên vị trong các thuật toán y tế đã tăng lên trong vài năm gần đây. Dữ liệu đầu vào và kết quả đang được kiểm tra để phát hiện thiên vị về chủng tộc, dân tộc, thu nhập, giới tính và tuổi tác. Các hội y khoa chuyên ngành ở Mỹ đang nhận thức rõ tác hại của y học dựa trên chủng tộc và đang nỗ lực chấm dứt việc xem xét chủng tộc trong các thuật toán lâm sàng. Khi các chênh lệch được nhận diện, các thuật toán và bộ dữ liệu có thể được chỉnh sửa để hướng tới tính khách quan tốt hơn.

Thuật toán là gì?

Không có định nghĩa pháp lý hoặc khoa học chính thức nào cho thuật toán, nhưng Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) gọi nó là “Một quá trình toán học rõ ràng để tính toán; một bộ quy tắc, nếu tuân thủ, sẽ cho ra kết quả đã định.”

Ví dụ về thuật toán là gì?

Ở phạm vi rộng nhất, thuật toán đơn giản là một quy trình từng bước để trả lời một câu hỏi hoặc đạt được kết quả mong muốn. Ví dụ, một công thức làm bánh là một dạng thuật toán. Trong lĩnh vực tài chính, hệ thống giao dịch tự động cũng là một ví dụ.

Học máy là gì?

IBM, một trong những tiên phong trong lĩnh vực này, định nghĩa học máy là “phần của trí tuệ nhân tạo (AI) tập trung vào các thuật toán có thể ‘học’ các mẫu của dữ liệu huấn luyện và sau đó, dựa trên đó, đưa ra các suy luận chính xác về dữ liệu mới.”

Kết luận

Dù có vẻ khách quan không cảm xúc, các thuật toán mà các chuyên gia y tế sử dụng để đưa ra quyết định nhất định có thể dễ bị thiên vị dựa trên chủng tộc, tầng lớp xã hội và các yếu tố khác. Vì lý do đó, các thuật toán không thể chỉ đơn thuần tin tưởng mà phải trải qua phân tích nghiêm ngặt. Như một bài báo năm 2021 trong MIT Technology Review đã lưu ý, “Thuật ngữ ‘thuật toán’, dù được định nghĩa thế nào, cũng không nên trở thành tấm khiên để che giấu trách nhiệm của con người trong việc thiết kế và triển khai hệ thống, cũng như hậu quả của việc sử dụng nó.”