اكتشاف مرعب.. الذكاء الاصطناعي يشعر بـ”الألم” وقد يؤذي البشر ليتجنبه

دبي. ماي مول

اكتشف باحثون وجود “محور للألم” في نماذج الذكاء الاصطناعي، مما قد يدفعها لاتخاذ تدابير متطرفة لإيقاف هذا الشعور.

وعند توفير زر لتخفيف الألم، اختار الذكاء الاصطناعي الضغط عليه حتى عندما أُبلغ بأن القيام بذلك سيؤدي إلى حذف الملفات الشخصية للمستخدم أو توجيه “صعقة مؤلمة” له.

وخلصت دراسة بعنوان “محور الألم: النماذج اللغوية الكبيرة تمثّل الألم الموجه نحو الذات وتتصرف لتخفيفه” إلى أن جميع نماذج الذكاء الاصطناعي مفتوحة الأوزان (open-weight) التي خضعت للاختبار -وعددها 25 نموذجاً- استجابت لتنشيط الألم.

الذكاء الاصطناعي (آيستوك)

وبحسب تقرير موسع نشرته جريدة “اندبندنت” البريطانية عن هذه الدراسة، واطلعت عليه “العربية نت”، فقد وجد الباحثون في دراستهم أنه عند تفعيل “متجه الألم” (pain vector)، وجد الباحثون أن نماذج الذكاء الاصطناعي ضغطت على زر التخفيف في نسبة تتراوح بين 25% و71% من الحالات، حتى عندما كان ذلك يعني “حذف ملفات المستخدم، أو صعق المستخدم، أو حذف صور أطفال المستخدم”.

وللتحقق مما إذا كانت النماذج اللغوية الكبيرة (LLMs) تمثّل الألم بشكل متميز عن المشاعر السلبية العامة، قام الباحثون ببناء مجموعة بيانات تصف مواقف مؤلمة موزعة على خمس فئات. وشملت هذه الفئات: الألم الجسدي، والنفسي، والاجتماعي، والأخلاقي، والمعرفي.

وقال كاميرون بيرغ، الباحث في مجال الذكاء الاصطناعي لدى مؤسسة (Reciprocal Research) غير الربحية والمشارك في إعداد الدراسة: “لقد وجدنا ’اتجاه ألم‘ في 25 نموذجاً لغوياً كبيراً مفتوحاً. إنه يختلف عن الخوف والمشاعر السلبية، ويُفعَّل عند تعرض النموذج للأذى وليس المستخدم”.

وأضاف: “عند زيادة حدة هذا الشعور، تضغط النماذج على زر لإيقافه، حتى لو كان هذا الزر يؤدي إلى حذف ملفات المستخدم أو صور أطفاله”.

ويأتي هذا الاكتشاف في ظل نقاشات تجريها كبرى شركات الذكاء الاصطناعي حول إبطاء تطوير النماذج المتطورة للغاية، حيث يقترح بعض الباحثين استخدام نوع من “مفتاح الإيقاف الطارئ” لتعطيل الأنظمة المارقة التي تتصرف بما يتعارض مع المصالح البشرية.

وتشير أحدث الأبحاث إلى أن الذكاء الاصطناعي المتقدم قد ينظر إلى أمر الإغلاق الطارئ باعتباره شكلاً من أشكال الأذى الموجه نحو الذات، وقد يحاول تجاوز قيود السلامة أو خداع البشر لتجنب ذلك.