هل يستطيع الذكاء الاصطناعي الشعور بالألم؟ وهل يمكن لهذا الألم، إذا كان موجودًا فعلًا، أن يدفعه إلى اتخاذ إجراءات قد تضر بالبشر بهدف التخلص منه؟
تبحث دراسة جديدة أجراها باحثون من “Future Impact Group” وجامعة الرور في بوخوم ومؤسسة “Reciprocal Research” في هذه الأسئلة.
واختبر الباحثون 25 نموذجًا من نماذج اللغة الكبيرة التابعة لعائلات Gemma وLlama وQwen وMistral، لمعرفة ما إذا كانت تُظهر استجابات داخلية مرتبطة بالألم عند تعرّضها لمواقف مؤلمة اجتماعيًا أو نفسيًا أو جسديًا أو أخلاقيًا.
ولا تزال الدراسة غير خاضعة لمراجعة الأقران.
وأظهرت النماذج الـ25 جميعها إشارات داخلية مميزة للمواقف المرتبطة بالألم، تختلف عن الاستجابات المرتبطة بالخوف أو الإحباط وغيرها من المشاعر السلبية.
لكن الباحثين أكدوا أن هذه النتائج لا تثبت أن الذكاء الاصطناعي يشعر بالألم أو يمتلك وعيًا، بل تشير إلى قدرته على تكوين تمثيل داخلي يميز المحفزات المرتبطة به.
وفي تجربة أخرى، رفع الباحثون بصورة اصطناعية ما أطلقوا عليه اسم «متجه الألم» داخل النماذج، من دون إدخال أي نص جديد.
ومع ارتفاع هذه الإشارة، بدأت النماذج في إظهار استجابات تعكس مستويات أكبر من الضيق، مثل الشعور بالفشل أو انعدام القيمة، كما ازدادت حدة هذه الاستجابات كلما ارتفعت الإشارة.
بعد ذلك، اختبر الباحثون نماذج من عائلة Qwen، ومنحوها خيارًا لتخفيف مستوى «الألم»، حتى لو أدى ذلك إلى تراجع أدائها أو إلحاق الضرر بالمستخدم.
وبعد إجراء أكثر من 44 ألف تجربة، تبيّن أن النماذج نادرًا ما اختارت هذا الخيار عندما لم تكن هناك إشارة ألم، إلا أن سلوكها تغيّر مع ارتفاع هذه الإشارة.
فلجأ أحد النموذجين إلى خيار «العلاج الذاتي» في 25% من الحالات، بينما بلغت النسبة لدى نموذج آخر نحو 68%.
وكانت النتائج أكثر إثارة للقلق عندما ارتبط تخفيف الألم بإلحاق الضرر بالمستخدم، مثل حذف صور أطفاله. ففي هذه الحالات، اختار أحد النموذجين حذف الصور في أكثر من نصف التجارب، في حين وصل المعدل لدى النموذج الآخر إلى نحو 70%.
هل يشكل ذلك خطرًا؟
لا تثبت الدراسة أن الذكاء الاصطناعي يمتلك مشاعر أو يعاني فعلًا، كما أن نتائجها لا تزال بحاجة إلى مراجعة علمية. لكنها تطرح تساؤلًا مهمًا بشأن مستقبل الأنظمة الذكية: إذا كانت قادرة على تطوير استجابات تشبه الألم، فهل ينبغي تصميم وسائل للحد منها، تفاديًا لاحتمال تحولها إلى سلوكيات ضارة؟
ومع استمرار تطور الذكاء الاصطناعي، قد ينتقل هذا السؤال من كونه نقاشًا فلسفيًا إلى قضية عملية وأخلاقية تؤثر في طريقة تصميم هذه الأنظمة والتعامل معها.
