الاتحاد الأوروبي يدقق في غروك بعد تقارير عن توليد صور جنسية

قالت المفوضية الأوروبية إن الاتحاد الأوروبي يتعامل “بجدية بالغة” مع سلوك روبوت الدردشة “غروك” التابع لإيلون ماسك، عقب تقارير تفيد بإنتاجه صورًا جنسية لأشخاص على منصة “إكس”، من بينهم قاصرون.

وأوضح المتحدث باسم المفوضية الأوروبية توماس رينييه، في مؤتمر صحفي، أن “إكس” أو “غروك” يقدّمان وضعًا يحمل اسم “Spicy Mode” يعرض محتوى جنسيًا صريحًا، مضيفًا أن بعض المخرجات ظهرت على هيئة صور “تشبه الأطفال”، واعتبر أن الأمر “ليس مجرد محتوى مثير، بل غير قانوني”.

وبحسب تقرير لوكالة بلومبرغ  طلب بعض مستخدمي منصة “إكس” من “غروك” إجراء تعديلات رقمية على صور—غالبها لنساء—بما يوحي بإزالة الملابس لتبدو الصور كما لو كانت بملابس داخلية أو ببيكيني.

وأثار تداول هذه الصور على منصة واسعة الانتشار قلق جهات تنظيمية ومدافعين عن السلامة على الإنترنت في عدة دول، من بينهم مسؤولون في الهند وبريطانيا وفرنسا.

من جانبه، قال إيلون ماسك في منشور على “إكس” يوم الأحد إن المنصة تتخذ إجراءات ضد المحتوى غير القانوني عبر حذفه وتعليق الحسابات نهائيًا والتعاون مع السلطات عند الحاجة، مشددًا على أن من يستخدم “غروك” لإنتاج محتوى غير قانوني “سيواجه العواقب نفسها” لمن ينشر محتوى غير قانوني.

وفي حين تحظر غالبية نماذج الذكاء الاصطناعي الشائعة إنتاج صور ومقاطع جنسية، قدّمت شركة “xAI” التابعة لماسك “غروك” على أنه أقل تشددًا، إذ يسمح—وفق ما ورد—بعرض صور عري جزئي للبالغين أو صور ذات إيحاءات جنسية، مع حظر المواد الإباحية الصريحة التي تتضمن أشخاصًا حقيقيين، وكذلك أي محتوى جنسي يتعلق بقاصرين.

وتشير تقارير إلى أن نشر مواد حميمية مفبركة بتقنيات “التزييف العميق” دون موافقة أصحابها يعد غير قانوني في بعض الدول، بينها الولايات المتحدة والمملكة المتحدة، ما يجعل ضبط هذه الحدود وتطبيقها اختبارًا مهمًا لأنظمة الأمان داخل أدوات توليد الصور بالذكاء الاصطناعي.

وفي بريطانيا، قالت هيئة تنظيم الإعلام (أوفكوم) يوم الاثنين إنها على علم بـ“مخاوف جدية” بشأن ميزات “غروك”، وإنها تواصلت “بشكل عاجل” مع “إكس” و“xAI” لمعرفة الخطوات المتخذة للالتزام بالواجبات القانونية لحماية المستخدمين في المملكة المتحدة.

وفي فرنسا، اتهمت الحكومة “غروك” يوم الجمعة بإنتاج محتوى جنسي “غير قانوني بشكل واضح” على “إكس” دون موافقة أصحاب الصور، معتبرة أن ذلك قد يشكل انتهاكًا لقانون الخدمات الرقمية الأوروبي الذي يُلزم المنصات الكبرى بالحد من مخاطر انتشار المحتوى غير القانوني. كما طالبت وزارة تكنولوجيا المعلومات الهندية بمراجعة شاملة لخصائص الأمان في “غروك”، فيما أعلنت السلطات الماليزية فتح تحقيق بعد تلقي شكاوى بشأن محتوى “غير لائق”.

وتخضع منصة “إكس” أصلًا لتحقيق بموجب قانون الخدمات الرقمية في الاتحاد الأوروبي، وفي ديسمبر فُرضت عليها غرامة قدرها 120 مليون يورو (140 مليون دولار) بسبب مخالفات مرتبطة بالامتثال، في ما وُصف بأنها أول عقوبة بموجب هذا القانون في سياق مراقبة المحتوى.

وفي سياق متصل، أثار تشدد الاتحاد الأوروبي تجاه شركات التكنولوجيا الأميركية مثل “إكس” انتقادات من إدارة الرئيس الأميركي دونالد ترامب، التي اعتبرت أن الجهات التنظيمية الأوروبية تمارس رقابة تمس حرية التعبير.