مع تزايد استخدام الأطفال والمراهقين أدوات الذكاء الاصطناعي، تتنامى المخاوف بشأن قدرة هذه الأنظمة على فهم اللغة والسياق النفسي للمستخدمين الأصغر سناً، ولا سيما عندما يلجؤون إليها طلباً للنصيحة أو الدعم.
وفي هذا السياق، تطوّر شركة “Circuit Breaker Labs” وكلاء برمجيين يحاكون مستخدمين من أعمار وثقافات ولغات متنوعة، بهدف اختبار نماذج الذكاء الاصطناعي ورصد نقاط ضعفها قبل أن تصل الأخطاء إلى مستخدمين حقيقيين. ويمكن لهذه الأنظمة إجراء أكثر من 100 ألف محادثة تجريبية تتضمن اللغة العامية والأخطاء الإملائية والعبارات غير المباشرة.
وتتمثل المشكلة في أن الخطر قد يتبلور تدريجياً خلال محادثة طويلة؛ فقد يستخدم الطفل عبارات غامضة لا تشير إلى أزمة نفسية أو سلوك خطير إلا عند تراكم السياق، بينما يعجز النظام عن فهمها ويقدم رداً غير ملائم.
وبحسب بيانات “Common Sense Media”، استخدم 72% من المراهقين في الولايات المتحدة رفقاء الذكاء الاصطناعي مرة واحدة على الأقل، فيما تحدث نحو ثلث المستخدمين معهم بشأن مسائل مهمة أو خطيرة بدلاً من التحدث إلى أشخاص حقيقيين.
ويؤكد المختصون أن الاختبارات الآلية وحدها غير كافية، مشددين على ضرورة الإشراف البشري، وحماية الخصوصية، وتصميم تطبيقات الذكاء الاصطناعي بما يتلاءم مع أعمار المستخدمين.
