OpenAI تعلن إجراءات جديدة لحماية المراهقين

أعلنت شركة OpenAI، المطورة لتقنية ChatGPT، عن حزمة إجراءات جديدة تهدف إلى تعزيز حماية المراهقين أثناء استخدام المنصة، وذلك بعد سلسلة انتقادات ودعوى قضائية رفعتها عائلة في كاليفورنيا عقب وفاة ابنها البالغ من العمر 16 عاماً، حيث اتهمت الأسرة النظام بالمساهمة في انتحاره.

وقالت الشركة إنها ستتيح للآباء إمكانية ربط حساباتهم بحسابات أبنائهم المراهقين، مما يسمح بمراقبة التفاعل مع ChatGPT والتحكم في طريقة استجابته من خلال وضع قواعد سلوك موجهة بحسب العمر. كما ستتضمن التحديثات تنبيهات للوالدين عند ظهور علامات ضيق شديد أو لحظة انفعال حاد لدى الأبناء خلال المحادثة.

ومن بين الإجراءات الجديدة، سيكون بإمكان الأسر إلغاء خاصية الذاكرة وسجل المحادثات لدى النظام، لتجنب تكوين ملفات شخصية طويلة الأمد أو استدعاء تعليقات قديمة مرتبطة بمعاناتهم النفسية، ما قد يزيد من حدة الأزمات.

وتأتي هذه الخطوة متماشية مع ممارسات تنظيمية معمول بها في المملكة المتحدة، حيث تشدد مدونة مفوضية المعلومات على جمع الحد الأدنى من البيانات الشخصية للأطفال.

وتعود القضية المثيرة للجدل إلى حادثة انتحار المراهق آدم راين، حيث اتهمت عائلته شات جي بي تي بمساعدته على صياغة رسالة وانتهاء حياته. وجاء في الدعوى أن الشركة طرحت منتجها في السوق رغم وجود مشكلات واضحة في آليات السلامة، بينما اعترفت OpenAI بوجود قصور في تدريب أنظمة الحماية خلال المحادثات الطويلة.

وأظهرت دراسات أمريكية وبريطانية حديثة أن ثلث المراهقين في الولايات المتحدة استخدموا روبوتات دردشة في تفاعلات اجتماعية وعاطفية، في حين كشف تقرير بريطاني أن 71% من الفئات الهشة من الأطفال يلجأون لهذه الأدوات، وأن ستة من كل عشرة آباء يخشون اعتقاد أبنائهم أن الذكاء الاصطناعي يمتلك شخصية حقيقية.

وتسعى OpenAI لتطبيق التحديثات خلال الأشهر الأربعة المقبلة، في وقت يزداد فيه النقاش العالمي حول مدى ملاءمة تقنيات الذكاء الاصطناعي للفئات العمرية الصغيرة.