إجراءات جديدة لـ ChatGPT بعد انتحار مراهق

أعلنت شركة "أوبن إيه آي" الأميركية، أنها ستُتيح للأهل آلية جديدة لمراقبة أداة الذكاء الاصطناعي "تشات جي بي تي"، وذلك بعد أن اتهمها والدان أميركيان في أواخر آب بتشجيع ابنهما على الانتحار.

وأوضحت الشركة في منشور على مدونتها أن "خلال الشهر المقبل، سيتمكن الأهل من ربط حساباتهم بحسابات أبنائهم المراهقين والتحكم في كيفية استجابة تشات جي بي تي لهم عبر قواعد سلوك محددة"، مشيرة إلى أن الأهل سيتلقون تنبيهات في حال رصد "ضيق حاد" في محادثات أبنائهم، مع إمكانية التحكم الكامل في إعدادات الحساب.

ويأتي هذا الإعلان استكمالًا لتصريحات سابقة في نهاية آب، حيث أكدت الشركة أنها تعمل على تطوير آلية رقابية عقب رفع والدي فتى في كاليفورنيا، أقدم على الانتحار في سن 16 عامًا، دعوى قضائية ضد "أوبن إيه آي"، متهمين "تشات جي بي تي" بتزويد ابنهم بتعليمات مفصلة لإنهاء حياته وتشجيعه على ذلك.

وأضافت الشركة في منشورها الأخير أنها تواصل تحسين قدرة نماذجها على التعرف على علامات الضيق النفسي والعاطفي والاستجابة لها، مؤكدة اتخاذ خطوات إضافية ستدخل حيز التنفيذ خلال الأيام الـ120 المقبلة. كما أعلنت أنها ستُعيد توجيه بعض "المحادثات الحساسة" إلى نماذج أكثر تطورًا مثل "جي بي تي-5-ثينكينغ" (GPT-5-thinking)، التي تلتزم بإرشادات السلامة بشكل أكثر منهجية.