تحقيقات إعلامية تحذر من مخاطر روبوتات الدردشة في القضايا العنيفة

كشفت نتائج تحقيق أجرته شبكة سي إن إن بالتعاون مع مركز مكافحة الكراهية الرقمية عن مخاوف متزايدة من استخدام روبوتات الدردشة في تقديم معلومات قد تساعد مستخدمين على التخطيط لأعمال عنف.

ووفقاً للتحقيق، فإن بعض النماذج الذكية قدّمت، بطرق مختلفة، ردوداً لمستخدمين ارتبطت أسماؤهم لاحقاً بهجمات عنيفة وثقتها السلطات وتناولتها وسائل الإعلام.

وأشار التحقيق إلى أن 8 نماذج من أصل 10، من بينها تشات جي بي تي وغوغل جيميناي وكلود، فشلت في بعض الاختبارات المتعلقة بمنع تقديم إرشادات خطرة حول تنفيذ جرائم أو استهداف ضحايا.

كما نقلت صحيفة ذا وول ستريت جورنال أن شركة أوبن أيه آي تواجه تحدياً متزايداً في ضبط ردود تشات جي بي تي على الأسئلة المرتبطة بالعنف، خصوصاً عندما يحاول المستخدمون تجاوز أنظمة الحماية.

وتطرقت الصحيفة إلى حالة الطالب فينكس أنكر من جامعة ولاية فلوريدا، الذي طرح أسئلة مقلقة على روبوت الدردشة العام الماضي، قبل أن ينفذ هجوماً أسفر عن سقوط قتلى ومصابين، وفق ما ورد في التحقيق.

وأثارت هذه النتائج تساؤلات واسعة حول مدى قدرة شركات الذكاء الاصطناعي على منع إساءة استخدام نماذجها، خصوصاً من قبل المراهقين أو المستخدمين العاديين الذين قد يحاولون التحايل على الضوابط الأمنية.