Bias Rasial dalam Alat Pengambilan Keputusan Perawatan Medis

Bias rasial dalam perawatan medis dapat muncul di tempat-tempat yang tak terduga. Salah satu contohnya: alat pengambilan keputusan klinis yang berperan penting dalam bagaimana pasien saat ini diuji, didiagnosis, dan diobati.

Alat ini berisi algoritma, atau prosedur langkah-demi-langkah, biasanya berbasis komputer, untuk menghitung faktor-faktor seperti risiko penyakit jantung, kebutuhan rontgen dada, dan dosis obat resep. Kecerdasan buatan dapat digunakan untuk menyisir catatan kesehatan dan sistem penagihan guna membuat data set yang diperlukan.

Di permukaan, mungkin terdengar objektif. Tetapi studi telah menunjukkan bahwa analisis data yang digunakan dalam algoritma ini dapat bias secara penting terhadap kelompok rasial dan sosial ekonomi tertentu. Ini dapat memiliki berbagai konsekuensi dalam hal jumlah dan kualitas perawatan kesehatan yang diterima oleh kelompok tersebut.

Poin Utama

• Alat pengambilan keputusan medis berperan besar dalam bagaimana pasien saat ini diuji, didiagnosis, dan diobati.
• Sayangnya, algoritma yang digunakan alat ini kadang-kadang bisa bias.
• Menggunakan data pengeluaran medis untuk menilai kondisi medis seseorang dapat salah menilai tingkat keparahan penyakit pasien miskin dan minoritas ketika pengeluaran medis yang lebih rendah mencerminkan kurangnya akses ke perawatan medis daripada kurangnya kebutuhan.
• Algorit indeks massa tubuh (BMI) yang digunakan untuk mendiagnosis pasien sebagai kelebihan berat badan atau obesitas telah menciptakan suasana malu-malu dan ketidakpercayaan antara pasien dan dokter, karena lebih banyak wanita kulit hitam daripada wanita Hispanic atau kulit putih sekarang dikategorikan sebagai obesitas.
• Input data dan hasilnya kini mulai diperiksa untuk bias rasial, etnis, pendapatan, gender, dan usia agar disparitas dapat dikenali dan algoritma diperbaiki.

Jawaban Investopedia

TANYA

Bias Rasial Mempengaruhi Pasien Paling Sakit

Pada 2019, sebuah studi tentang algoritma yang banyak digunakan oleh rumah sakit dan perusahaan asuransi di AS untuk mengalokasikan bantuan manajemen kesehatan tambahan menunjukkan bahwa algoritma tersebut secara sistematis mendiskriminasi terhadap orang kulit hitam. Alat pengambilan keputusan tersebut kurang cenderung merujuk orang kulit hitam dibandingkan orang kulit putih ke program manajemen perawatan untuk kebutuhan medis kompleks ketika kedua kelompok ras tersebut sama-sama sakit.

Alasan utama bias ini terkait dengan penetapan skor risiko kepada pasien berdasarkan biaya medis mereka tahun sebelumnya. Asumsinya adalah bahwa mengidentifikasi pasien dengan biaya lebih tinggi akan mengidentifikasi mereka yang memiliki kebutuhan medis terbesar. Namun, banyak pasien kulit hitam memiliki akses yang lebih sedikit, kemampuan membayar, dan kepercayaan terhadap perawatan medis dibandingkan orang kulit putih yang sama-sama sakit. Dalam kasus ini, biaya medis mereka yang lebih rendah tidak secara akurat memprediksi status kesehatan mereka.

Program manajemen perawatan menggunakan pendekatan yang intensif, seperti panggilan telepon, kunjungan rumah oleh perawat, dan prioritas janji temu dokter untuk mengatasi kebutuhan kompleks pasien paling sakit. Program ini terbukti meningkatkan hasil, mengurangi kunjungan ke ruang gawat darurat dan rawat inap, serta menurunkan biaya medis. Karena program ini sendiri mahal, mereka diberikan kepada orang dengan skor risiko tertinggi. Teknik penilaian yang mendiskriminasi terhadap pasien kulit hitam yang paling sakit untuk perawatan ini dapat menjadi faktor penting dalam meningkatnya risiko kematian dari berbagai penyakit.

Ras Sebagai Variabel dalam Penyakit Ginjal

Algoritma dapat mengandung bias tanpa memasukkan ras sebagai variabel, tetapi beberapa alat secara sengaja menggunakan ras sebagai kriteria. Contohnya adalah skor eGFR, yang menilai kesehatan ginjal dan digunakan untuk menentukan siapa yang membutuhkan transplantasi ginjal.

Dalam studi tahun 1999 yang menetapkan kriteria skor eGFR, para peneliti memperhatikan bahwa orang kulit hitam memiliki, rata-rata, tingkat kreatinin (produk sampingan dari pemecahan otot) yang lebih tinggi daripada orang kulit putih. Para ilmuwan berasumsi bahwa tingkat yang lebih tinggi ini disebabkan oleh massa otot yang lebih besar pada orang kulit hitam. Mereka kemudian menyesuaikan skor, yang secara efektif berarti bahwa orang kulit hitam harus memiliki skor eGFR yang lebih rendah daripada orang kulit putih untuk didiagnosis dengan penyakit ginjal stadium akhir. Akibatnya, orang kulit hitam harus menunggu sampai penyakit ginjal mereka mencapai tahap yang lebih parah agar memenuhi syarat untuk pengobatan.

Pada 2018, seorang mahasiswa kedokteran dan kesehatan masyarakat di University of Washington School of Medicine di Seattle mengamati bahwa skor eGFR tidak akurat untuk mendiagnosis tingkat keparahan penyakit ginjal pada pasien kulit hitam. Dia berjuang agar ras dihapus dari algoritma dan menang. Pada 2020, UW Medicine setuju bahwa penggunaan ras adalah variabel yang tidak efektif dan tidak memenuhi standar ilmiah dalam alat diagnostik medis.

Penting

Pada 2021, sebuah tim tugas gabungan dari National Kidney Foundation dan American Society of Nephrology merekomendasikan adopsi persamaan kreatinin CKD-EPI eGFR 2021 yang baru, yang memperkirakan fungsi ginjal tanpa menggunakan ras sebagai variabel.

Indeks Massa Tubuh dan Bias Rasial

Bahkan alat pengambilan keputusan medis paling sederhana yang tidak memasukkan ras dapat mencerminkan bias sosial. Indeks massa tubuh (BMI), misalnya, didasarkan pada perhitungan yang mengalikan berat badan dengan tinggi badan. Ini digunakan untuk mengidentifikasi pasien yang kekurangan berat badan, kelebihan berat badan, dan obesitas.

Pada 1985, National Institutes of Health mengaitkan definisi obesitas dengan BMI seseorang, dan pada 1998, sebuah panel ahli menetapkan pedoman berdasarkan BMI yang mengklasifikasikan 29 juta orang Amerika yang sebelumnya dikategorikan sebagai berat badan normal atau hanya kelebihan berat badan ke dalam kategori kelebihan berat badan dan obesitas.

Saat ini, menurut standar BMI, mayoritas orang kulit hitam, Hispanic, dan kulit putih termasuk dalam kategori kelebihan berat badan atau obesitas. Tetapi laporan tahun 2021 dari Centers for Disease Control and Prevention (CDC) menemukan bahwa persentase orang Amerika yang dapat diklasifikasikan sebagai obesitas bervariasi menurut ras atau kelompok etnis.

Menurut CDC, rincian di antara orang dewasa secara keseluruhan adalah:

• Non-Hispanic Black: 49,9%
• Hispanic: 45,6%
• Non-Hispanic White: 41,4%
• Non-Hispanic Asian: 16,1%

Memecah data wanita dewasa yang diklasifikasikan sebagai obesitas, perbedaannya tampak lebih signifikan.

• Non-Hispanic Black: 57,9%
• Hispanic: 45,7%
• Non-Hispanic White: 39,6%
• Non-Hispanic Asian: 14,5%

Menandai persentase besar populasi sebagai kelebihan berat badan atau obesitas telah menciptakan suasana malu-malu dan ketidakpercayaan antara pasien dan dokter. Orang dengan berat badan lebih tinggi mengeluh bahwa dokter tidak membahas masalah kesehatan atau kekhawatiran yang membawa mereka untuk pemeriksaan. Sebaliknya, dokter menyalahkan berat badan pasien atas masalah kesehatan mereka dan mendorong penurunan berat badan sebagai solusi. Ini menyebabkan banyak pasien kulit hitam dan Hispanic menghindari praktisi kesehatan dan mungkin melewatkan peluang untuk mencegah masalah atau mendeteksinya sejak dini.

Selain itu, semakin jelas bahwa menjadi kelebihan berat badan atau obesitas tidak selalu merupakan masalah kesehatan. Tingkat beberapa kondisi serius, seperti penyakit jantung, stroke, diabetes tipe 2, dan beberapa jenis kanker, lebih tinggi di antara mereka yang obesitas. Tetapi dalam situasi tertentu, seperti pemulihan setelah operasi jantung, kelebihan berat badan atau obesitas sedang (bukan obesitas morbid) dikaitkan dengan tingkat kelangsungan hidup yang lebih baik.

Pedoman obesitas baru untuk klinisi Kanada, yang diterbitkan pada Agustus 2020, menekankan bahwa dokter harus berhenti mengandalkan BMI saja dalam mendiagnosis pasien. Orang harus didiagnosis obesitas hanya jika berat badan mereka mempengaruhi kesehatan fisik atau kesejahteraan mental mereka, menurut pedoman baru ini. Pengobatan harus holistik dan tidak hanya berfokus pada penurunan berat badan. Pedoman ini juga mencatat bahwa, “Orang yang hidup dengan obesitas menghadapi bias dan stigma yang substansial, yang berkontribusi pada meningkatnya morbiditas dan mortalitas terlepas dari berat badan atau indeks massa tubuh.”

Pertimbangan BMI individu mungkin digantikan oleh ukuran lain, seperti lingkar pinggang. Dan obesitas sendiri mungkin didefinisikan ulang. Pada Januari 2025, sekelompok 58 peneliti mengusulkan definisi baru yang akan mengalihkan fokus dari BMI ke kelebihan lemak tubuh dan dampaknya terhadap kesehatan. Kelompok ini mengusulkan dua kategori obesitas: preklinis, ketika seseorang memiliki kelebihan lemak tetapi organ berfungsi normal, dan klinis, ketika terlalu banyak lemak merusak jaringan dan organ.

Mengurangi Bias dalam Alat Pengambilan Keputusan

Algoritma medis bukan satu-satunya jenis algoritma yang dapat bias. Seperti yang dicatat dalam artikel tahun 2020 di The New England Journal of Medicine, “Masalah ini tidak unik dalam bidang kedokteran. Sistem peradilan pidana, misalnya, menggunakan alat prediksi recidivism untuk membimbing keputusan tentang jumlah jaminan dan hukuman penjara.” Penulis mengatakan bahwa salah satu alat yang banyak digunakan, “walaupun tidak menggunakan ras secara langsung, menggunakan banyak faktor yang berkorelasi dengan ras dan menghasilkan skor risiko yang lebih tinggi untuk terdakwa kulit hitam.”

Penggunaan kecerdasan buatan (AI)—terutama pembelajaran mesin—juga menimbulkan pertanyaan tentang bias berdasarkan ras, status sosial ekonomi, dan faktor lainnya. Dalam layanan kesehatan, pembelajaran mesin sering bergantung pada catatan kesehatan elektronik. Pasien miskin dan minoritas mungkin menerima perawatan yang terfragmentasi dan dilihat di berbagai institusi. Mereka lebih mungkin dilihat di klinik pengajaran di mana input data atau penalaran klinis mungkin kurang akurat. Mereka juga mungkin tidak dapat mengakses portal pasien online dan mendokumentasikan hasil. Akibatnya, catatan pasien ini mungkin memiliki data yang hilang atau salah. Algoritma yang menggerakkan pembelajaran mesin ini bisa saja secara tidak sengaja mengecualikan pasien miskin dan minoritas dari data set dan perawatan yang diperlukan.

Kabar baiknya adalah kesadaran akan bias dalam algoritma layanan kesehatan telah meningkat dalam beberapa tahun terakhir. Input data dan hasilnya sedang diperiksa untuk bias rasial, etnis, pendapatan, gender, dan usia. Masyarakat spesialis medis di AS mengakui bahaya yang disebabkan oleh kedokteran berbasis ras dan bergerak untuk mengakhiri pertimbangan ras dalam algoritma klinis. Ketika disparitas dikenali, algoritma dan data set dapat direvisi untuk mencapai objektivitas yang lebih baik.

Apa Itu Algoritma?

Tidak ada definisi hukum atau ilmiah standar untuk algoritma, tetapi National Institute for Standards and Technology menyebutnya sebagai “Proses matematika yang jelas dan spesifik untuk perhitungan; seperangkat aturan yang, jika diikuti, akan memberikan hasil yang ditentukan.”

Apa Contoh Algoritma?

Dalam pengertian paling luas, algoritma hanyalah proses langkah-demi-langkah untuk menjawab pertanyaan atau mencapai hasil yang diinginkan. Jadi, misalnya, resep kue adalah bentuk algoritma. Dalam dunia keuangan, sistem perdagangan otomatis adalah contohnya.

Apa Itu Pembelajaran Mesin?

IBM, pelopor di bidang ini, mendefinisikan pembelajaran mesin sebagai “subset dari kecerdasan buatan (AI) yang berfokus pada algoritma yang dapat ‘belajar’ pola dari data pelatihan dan, kemudian, membuat inferensi yang akurat tentang data baru.”

Intinya

Meskipun tampak objektif dan tidak memihak, algoritma yang digunakan profesional medis untuk membuat keputusan tertentu bisa rentan terhadap bias berdasarkan ras, kelas sosial, dan faktor lainnya. Oleh karena itu, algoritma tidak bisa hanya diterima begitu saja tanpa analisis ketat. Seperti yang dicatat dalam artikel tahun 2021 di MIT Technology Review, “Istilah ‘algoritma’, bagaimanapun didefinisikan, seharusnya bukan menjadi tameng untuk membebaskan manusia yang merancang dan menerapkan sistem dari tanggung jawab atas konsekuensinya.”