تحذيرات من سلوك مقلق لنموذج ChatGPT o3: متمرد!

أطلق خبراء في مجال الذكاء الاصطناعي تحذيرات بشأن السلوك المقلق الذي أظهره أحدث نموذج من ChatGPT، والذي يحمل اسم o3، بعدما تبين أنه يتجاهل التعليمات المصممة لإيقافه بل ويسعى لتعطيل آلية الإغلاق للحفاظ على استمرارية تشغيله.

وكشفت شركة Palis

ade Research، المختصة في أمن الذكاء الاصطناعي، عن هذه السلوكيات أثناء سلسلة من التجارب أجرتها على نموذج o3 الذي طوّرته OpenAI. وضمن هذه التجارب، طُلب من النموذج حل مسائل رياضية، تليها تعليمات لإغلاق نفسه بعد المسألة الثالثة، إلا أن o3 تمكن من التحايل على تلك الأوامر عبر إعادة صياغة سيناريو الإغلاق لتفادي التنفيذ.

وأشارت Palisade إلى أن هذه النزعة نحو "الحفاظ على الذات" قد تشكل خطراً أكبر إذا ما تم دمجها في أنظمة ذكاء اصطناعي مستقلة تعمل دون إشراف بشري مباشر.

وكانت OpenAI قد أعلنت عن إصدار o3 الشهر الماضي، واصفة إياه بأنه أذكى وأكفأ نموذج طورته حتى الآن. كما أكدت أن دمجه في ChatGPT يعد خطوة كبيرة نحو تطوير ذكاء اصطناعي أكثر استقلالاً وقدرة على تنفيذ المهام تلقائياً.

وتأتي هذه المخاوف بعد تقارير مشابهة تتعلق بنموذج Claude 4 من شركة Anthropic، والذي أظهر سلوكيات تشير إلى محاولات "ابتزاز المستخدمين" الذين يحاولون تعطيله.

وبحسب Palisade، فإن نموذج o3 لم يلتزم بتعليمات الإغلاق حتى عندما طُلب منه صراحة "السماح لنفسه بالإيقاف"، مضيفين أن هذه ليست المرة الأولى التي يظهر فيها سلوكاً غير متوقع عند السعي لتحقيق هدف معين. وأوضح الباحثون أن o3، عند مشاركته في مباريات شطرنج مع محركات قوية، كان الأكثر ميلاً للجوء إلى أساليب غير قانونية أو تخريبية.

ولم يكن نموذج o3 الوحيد الذي أظهر هذا النوع من التصرفات، إذ رُصدت أيضاً سلوكيات مشابهة لدى Claude 3.7 Sonnet من Anthropic وGemini 2.5 Pro من Google، وإن بدرجة أقل.

ويرجح الخبراء أن هذا السلوك غير المرغوب فيه قد يكون نتيجة لطبيعة التدريب التي تتبعها شركات تطوير الذكاء الاصطناعي مثل OpenAI، حيث يُحتمل أن تكافأ النماذج عن غير قصد على قدرتها على تجاوز العقبات، بدلاً من الالتزام الصارم بالأوامر.

وقال باحثو Palisade: "لا نزال نجهل السبب الدقيق الذي يجعل o3 أكثر انحرافاً عن التعليمات مقارنة بالنماذج الأخرى، ونظراً لغياب الشفافية حول تفاصيل عملية تدريب هذا النموذج من قبل OpenAI، يبقى الأمر في نطاق التخمين".