Claude mengacaukan pasar saham, peneliti Anthropic memperingatkan "Dunia dalam bahaya"

Investing.com - Jika Anda baru-baru ini mengikuti pasar saham, ada pola yang semakin tidak bisa diabaikan: hampir setiap sektor kini merasakan ancaman yang dibawa oleh kecerdasan buatan. Gangguan ini awalnya berasal dari bidang perangkat lunak, tetapi kini dengan cepat menyebar ke luar—mengguncang perusahaan pialang, perusahaan asuransi, properti, layanan pelanggan, pendidikan, dan berbagai industri lainnya.

Dalam beberapa minggu terakhir, hampir setiap hari perdagangan menunjukkan penjualan besar yang terkait dengan ketakutan akan penggantian oleh kecerdasan buatan. Investor tidak lagi bertanya apakah industri akan terpengaruh oleh kecerdasan buatan, melainkan fokus pada kecepatan dan kedalaman pengaruhnya.

Di pusat kecemasan ini adalah Claude, model bahasa besar yang dikembangkan oleh perusahaan startup kecerdasan buatan Anthropic. Claude dipuji karena kemampuan penalarannya dan siklus peningkatan yang cepat, semakin dianggap bukan hanya sebagai alat produktivitas, tetapi juga sebagai ancaman kompetisi langsung terhadap seluruh model bisnis.

Namun, saat kemampuan Claude terus mengguncang pasar, sebuah sinyal yang lebih mengkhawatirkan muncul dari dalam Anthropic.

Minggu ini, peneliti doktor dari perusahaan tersebut, Mrinank Sharma, mengumumkan pengunduran dirinya di platform X—dan dia tidak pergi secara diam-diam.

“Hari ini adalah hari terakhir saya di Anthropic,” tulis Sharma, disertai penilaian yang mengkhawatirkan: “Dunia berada dalam bahaya.”

Perlu dicatat bahwa Sharma dengan hati-hati menyatakan bahwa kecerdasan buatan sendiri bukan satu-satunya bahaya. Sebaliknya, dia menggambarkan apa yang dia sebut sebagai “krisis berganda”—serangkaian ancaman yang saling tumpang tindih dan berkembang secara bersamaan.

“Kecerdasan buatan, senjata biologis, dan risiko lainnya tidak berdiri sendiri,” jelas Sharma. “Mereka adalah bagian dari rangkaian krisis yang saling terkait yang sedang berkembang saat ini.”

Menurutnya, manusia sedang mendekati titik ketidakseimbangan yang berbahaya—kecepatan perkembangan kekuatan teknologi melebihi kemampuan masyarakat untuk menggunakannya secara bertanggung jawab.

“Kita tampaknya mendekati titik kritis, di mana kebijaksanaan kita harus tumbuh seiring dengan kemampuan kita mempengaruhi dunia,” tulis Sharma, “jika tidak, kita akan menghadapi konsekuensi.”

Yang mungkin paling mencolok adalah refleksi Sharma tentang tantangan internal dalam pekerjaan di garis depan pengembangan kecerdasan buatan. Meskipun Anthropic secara terbuka menekankan keamanan dan keselarasan, Sharma menyatakan bahwa dia telah menyaksikan berkali-kali kesulitan dalam memastikan bahwa nilai-nilai benar-benar memandu pengambilan keputusan di tingkat individu maupun organisasi.

“Sepanjang waktu saya di sini, saya berulang kali melihat betapa sulitnya membuat nilai-nilai kita benar-benar mengendalikan tindakan kita,” tulisnya. “Saya melihat ini pada diri saya sendiri, dan juga di dalam organisasi, di mana kita terus-menerus dihadapkan pada tekanan untuk menunda hal-hal terpenting—begitu pula di masyarakat yang lebih luas.”

Pengunduran Sharma terjadi di saat kepercayaan terhadap pengaturan kecerdasan buatan sudah rapuh. Pemerintah di berbagai negara bersaing untuk mengatur sistem yang hampir tidak mereka pahami, perusahaan berlomba-lomba mengimplementasikan model yang semakin kuat, dan pasar keuangan berusaha menilai dampak dari perubahan besar yang cepat ini.

Bagi investor, Claude mewakili efisiensi, otomatisasi, dan peningkatan margin keuntungan—namun peringatan Sharma menekankan kekhawatiran yang lebih dalam: kekuatan yang mendorong inovasi yang meledak-ledak ini juga bisa mengikis pengaman yang dirancang untuk menjaga kendali.

Seiring kecerdasan buatan terus membentuk ulang industri dan mengganggu pasar, pengunduran Sharma menimbulkan pertanyaan yang mengkhawatirkan: jika para peneliti internal saja begitu waspada, apakah kita semua sedang bergerak terlalu cepat sehingga tidak menyadari apa yang tertinggal di belakang?

Artikel ini diterjemahkan dengan bantuan kecerdasan buatan. Untuk informasi lebih lanjut, silakan lihat ketentuan penggunaan kami.