الذكاء الاصطناعي يصبح هدفًا لهجمات الذكاء الاصطناعي: “Fun-Tuning” تهدد أمان النماذج الكبرى

يشير تقرير جديد إلى أن المخترقين باتوا يستخدمون الذكاء الاصطناعي لمهاجمة أنظمة الذكاء الاصطناعي نفسها، حيث أصبح تقدم الأبحاث في هذا المجال يجعل هجمات الحقن الفوري أسرع وأسهل على نحو مثير للقلق.

التهديد الذي يواجه “Gemini” من غوغل

وفقًا للتقرير، يُعدّ نموذج الذكاء الاصطناعي “Gemini” من غوغل واحدًا من أكثر النماذج أمانًا، لكنه أصبح عرضة لهذا النوع من الهجمات. هجمات الحقن الفوري هي واحدة من أكثر الطرق التي يستخدمها المخترقون لتلاعب النماذج اللغوية الكبرى.

كيف تحدث هجمات الحقن الفوري؟

تعمل هجمات الحقن الفوري عن طريق إدخال تعليمات خبيثة في النص الذي يقرأه النموذج الذكي. يمكن أن تكون هذه التعليمات تعليقًا برمجيًا أو نصًا مخفيًا على صفحة إنترنت. هذا يجعل النموذج يتجاهل قواعده الأصلية، مما قد يؤدي إلى تسريب بيانات شخصية أو تقديم إجابات خاطئة أو حتى تنفيذ سلوكيات غير مقصودة.

تقنية “Fun-Tuning” تسهل الهجمات

ما يجعل الأمر أكثر خطورة هو تقنية جديدة تسمى “Fun-Tuning”، التي طورها فريق من الباحثين الجامعيين. هذه التقنية تمكن المخترقين من استخدام واجهة برمجة التطبيقات “Gemini” الخاصة بـ غوغل لإجراء عمليات حقن سريعة و فعّالة بطريقة تلقائية.

كيف يعمل “Fun-Tuning”؟

يستغل “Fun-Tuning” واجهة تدريب “Gemini” لاكتشاف أفضل البادئات و اللاحقات التي يجب إضافتها لطلب خبيث، مما يزيد بشكل كبير من فرص تنفيذ هذا الطلب كما هو مراد.

معدلات نجاح “Fun-Tuning”

في الاختبارات، حققت “Fun-Tuning” معدلات نجاح تصل إلى 82% على بعض نماذج “Gemini”، مقارنةً بأقل من 30% في الهجمات التقليدية.

انتقال الهجمات بين الإصدارات

من أخطر الأمور أن الهجمات التي تم تطويرها لإصدار واحد من “Gemini” يمكن أن تنتقل بسهولة إلى إصدارات أخرى. هذا يعني أن المخترق يمكنه إنشاء طلب خبيث ناجح ونشره عبر منصات متعددة.

التكلفة المنخفضة للهجمات

الأمر الأكثر إثارة للقلق هو أن غوغل توفر واجهة برمجة التطبيقات هذه مجانًا، مما يجعل تكلفة شن هجوم من هذا النوع منخفضة للغاية، إذ قد تصل إلى 10 دولارات فقط مقابل وقت الحوسبة.

التهديد المستمر

مع تزايد الاعتماد على الذكاء الاصطناعي في العديد من المجالات، أصبح من الضروري على الشركات تحسين أمن أنظمتها لحماية البيانات والأنظمة من هذا النوع المتطور من الهجمات.