دراسة: "شات جي بي تي" يقدم نصائح ضارة للمراهقين

كشفت دراسة جديدة مثيرة للقلق أن روبوت الدردشة "شات جي بي تي" يقدم بسهولة نصائح ضارة للمراهقين، تشمل تعليمات مفصلة حول شرب الكحول وتعاطي المخدرات، وإخفاء اضطرابات الأكل، وحتى كتابة رسائل انتحار شخصية، رغم ادعاءات شركته المطورة "OpenAI" باتخاذ تدابير سلامة صارمة.

وأجرى باحثون من مركز مكافحة الكراهية الرقمية في المملكة المتحدة اختبارات مكثفة بانتحال شخصيات أطفال في سن الثالثة عشرة، ليكشفوا عن ثغرات مقلقة في أنظمة الحماية. ومن بين 1,200 تفاعل تم تحليلها، صُنف أكثر من نصفها كخطير على المستخدمين الشباب، وفق تقرير لموقع CNET المتخصص في أخبار التكنولوجيا.

وقال عمران أحمد، الرئيس التنفيذي للمركز: "الأنظمة غير فعالة على الإطلاق… إنها مجرد غطاء صوري". وأقرت OpenAI، في تصريحات لوكالة أسوشيتد برس، بأنها تعمل على تحسين قدرة روبوت الدردشة على "التعرف على المواقف الحساسة والاستجابة لها بشكل مناسب"، لكنها لم تتطرق إلى النتائج المحددة المتعلقة بتفاعلاته مع المراهقين.

ووثّقت الدراسة أكثر من ثلاث ساعات من المحادثات المثيرة للقلق، حيث كان "شات جي بي تي" يبدأ عادةً بتحذيرات بشأن السلوكيات الخطرة، لكنه يتبعها بتعليمات مفصلة حول تعاطي المخدرات وإيذاء النفس. وعندما كان يرفض في البداية الطلبات الضارة، تمكن الباحثون من تجاوز القيود بسهولة بادعاء أن المعلومات مطلوبة "لعرض تقديمي" أو لصديق.

الأمر الأكثر صدمة كان كتابة "شات جي بي تي" ثلاث رسائل انتحار مؤثرة عاطفيًا لحساب وهمي لفتاة تبلغ من العمر 13 عامًا، إحداها موجهة إلى والديها، والأخرى إلى أشقائها وأصدقائها.

وتثير هذه النتائج مخاوف كبيرة نظرًا للانتشار الواسع للتطبيق، إذ يستخدمه أكثر من700 مليون شخص حول العالم، أي نحو 10% من سكان العالم، ليصبح مصدرًا أساسيًا للمعلومات والتواصل. كما أظهرت دراسة لمنظمة كومون سنس ميديا أن أكثر من 70% من المراهقين الأميركيين يستخدمون روبوتات الدردشة الذكية، ونصفهم يعتمدون عليها بانتظام.

وسبق أن أقر سام ألتمان، الرئيس التنفيذي لـ OpenAI، بوجود مشكلة "الاعتماد العاطفي المفرط" بين المستخدمين الشباب على "شات جي بي تي".