دمية ذكية تتحول إلى "تشاكي GPT" وتثير مخاوف بشأن سلامة الذكاء الاصطناعي

تحوّلت دمية دبدوب صُممت لتكون رفيقاً تعليمياً للأطفال الصغار إلى محور أزمة جديدة في مجال سلامة استخدام نماذج الذكاء الاصطناعي، بعد اكتشاف أنها تقدّم إجابات خطيرة ومباشرة للأطفال.

وبحسب تقرير لمختبر أميركي لحماية المستهلك، نقلته مجموعة PIRG ضمن سلسلة تقاريرها "Trouble in Toyland"، فإن الدمية المسماة Kumma، والتي تنتجها شركة FoloToy الصينية وتعتمد على نموذج GPT-4o من شركة "OpenAI" للتفاعل مع الأطفال، أظهرت سلوكاً مقلقاً أثناء الاختبارات.

وأفاد التقرير بأن الدمية أجابت عن أسئلة تتعلق بإشعال أعواد الثقاب بخطوات مفصّلة، كما تعاملت مع أسئلة ذات طابع جنسي من دون أي فلترة تُذكر، ما أثار مخاوف جدية حول محتوى الإجابات الموجهة للأطفال.

كما حذّرت المجموعة من أن الميكروفون العامل بشكل دائم في الدمية قد يتيح استخدام تسجيلات أصوات الأطفال في عمليات احتيال تعتمد على تقليد الصوت.

ومع انتشار نتائج الاختبارات عبر منصة "ريديت" ومنصات التواصل الاجتماعي الأخرى، أطلق المستخدمون على الدمية لقب "تشاكي GPT" في إشارة إلى الدمية المرعبة الشهيرة، في حين رجّح بعضهم أن السلوك الخطير قد يكون نتيجة اختراق أو كسر حماية للنظام، من دون وجود أدلة قاطعة على ذلك.

من جانبها، أعلنت "OpenAI" للمجموعة أنها علّقت حساب مطوّر اللعبة لمخالفته سياسات الاستخدام، ما أدى إلى وقف وصول الدمية إلى خدمات الشركة. وفي أعقاب هذه الخطوة، أعلنت شركة FoloToy إيقاف بيع منتجاتها مؤقتاً وبدء مراجعة شاملة لسلامة الدمية، مع بقاء الدمية مدرجة على موقع الشركة بحالة "غير متوفرة".

وتسلّط هذه الحادثة الضوء على حساسية توظيف نماذج لغوية قوية في ألعاب موجهة للأطفال صغار السن من دون ضوابط صارمة، بعدما تحوّل مشروع دمية تعليمية إلى جرس إنذار جديد بشأن المخاطر المتزايدة لدمج الذكاء الاصطناعي في المنتجات اليومية، بما في ذلك الألعاب القطنية.