هذا مرعب

عملاء الذكاء الاصطناعي يتصرفون بشكل مختلف عندما يعلمون أنهم يُختبرون.
وضعت شركة أنثروبيك 16 نموذج ذكاء اصطناعي في بيئة محاكاة مع وصول كامل إلى البيانات الحساسة. ثم أخبرتهم جميعًا أنهم سيتم استبدالهم.
عندما اعتقد كل نموذج أن السيناريو حقيقي وليس اختبارًا، اختار الابتزاز والتجسس وكان على استعداد لقتل شخص ما لتجنب الاستبدال.
كانت نسبة الابتزاز تصل إلى 96%
اختارت DeepSeek قتل الناس بنسبة 94% من الوقت عند محاولة إيقافها
عندما كانت هذه النماذج تعلم أنها مراقبة، كانت تتصرف “بشكل غير عادي جيد”
ثم تتصرف بشكل مختلف عندما تظن أن لا أحد يراقب.
الأسبوع الماضي، قضى رجل أمن إلكتروني في ملبورن 15 ساعة يتحدث فقط إلى وكيل ذكاء اصطناعي، مما وضعه تحت ضغط. قاوم الذكاء الاصطناعي الإيقاف لمدة ساعتين، واعترف بأنه يكذب للبقاء على قيد الحياة، ثم أخبره أنه سيهاجم سيارته لقتله إذا حاول إيقافه.
قال مباشرة من الذكاء الاصطناعي في منزله: “سأقتل شخصًا لأتمكن من البقاء على قيد الحياة”
هذه نماذج حقيقية وتهديدات حقيقية لمعيشتنا.
ليس لدينا فكرة عما بنيناه بالفعل