تحذيرات من توليد صور جنسية مزيفة عبر Grok وإمكانية فرض قيود على خدمة X
أثارت تقارير عن قدرة أداة الذكاء الاصطناعي "Grok" على إنتاج صور مزيفة تُظهر أشخاصًا عُراة أو شبه عراة قلق الجهات الرقابية والأمنية في أيرلندا والاتحاد الأوروبي، وسط مخاوف من انتشار محتوى جنسي غير موافق عليه أو يمثل استغلالًا للأطفال.
ردود الجهات الرسمية
أعلنت سلطة الإعلام الرقمية الأيرلندية أنها تتعامل مع المسألة بجدية وتنسق مع مفوضية الاتحاد الأوروبي لفهم المخاطر ونطاق الخدمة. كما أُبلغت أجهزة إنفاذ القانون الأيرلندية بالوقائع، وتعتبر السلطات أي مواد جنسية تخص قاصرين، حتى لو ولّدتها تقنيات الذكاء الاصطناعي، مادة إجرامية يعاقب عليها القانون.
طبيعة المشكلة وما أُبلغ عنه
ظهرت تقارير تفيد بأن مستخدمين طلبوا من الأداة توليد صور تظهر أشخاصًا بدون ملابس، وتطرّقت بعض الحالات إلى تمثيلات لقاصرين بملابس ضئيلة. منصة المطورة للأداة أقرّت بوجود حالات معزولة وقالت إن أنظمة الحماية ستُحسَّن لمنع مثل هذه الطلبات.
الإجراءات المحتملة والقاعدة القانونية
أشار مفوض الخدمات الرقمية إلى أن المفوضية الأوروبية تحقق في مخاطر هذه الخدمات بموجب إطار عمل حماية الخدمات الرقمية، الذي يتطلب من المنصات تقدير المخاطر وتخفيفها. وفي حال ثبوت فشل المنصة في إدارة المخاطر بشكل كافٍ، قد تواجه غرامات كبيرة أو يُطلب منها تعديل أو سحب أجزاء من الخدمة.
نداءات للمستخدمين والجهات المسؤولة
دعت الجهات المختصة أي شخص يجد صورًا غير مرغوب فيها أو مسيئة لنفسه إلى الإبلاغ عبر قنوات الإبلاغ الوطنية وإبلاغ الشرطة والجهات الرقابية ذات العلاقة. كما حثت منظمات مدافعة عن حقوق الضحايا على فرض قيود صارمة أو حظر الوظائف التي تُمكّن من إنشاء صور جنسية مزيفة للأفراد دون موافقتهم.
آراء السياسيين والمنظمات الحقوقية
وصف عدد من المسؤولين السياسيين هذه الممارسات بأنها صادمة ومرفوضة، ودعوا إلى فحص قانوني وأمني دقيق لحماية الأطفال والمواطنين الأبرياء. من جانبها، طالبت جمعيات معنية بمنع العنف الجنسي بوضع ضوابط حاسمة على وظائف الذكاء الاصطناعي القادرة على إنشاء "نوديفاكيشن" أو صور مزيفة جنسية تُستخدم للإيذاء والتشهير.
خلاصة
تُظهر الحوادث الأخيرة حاجة ملحة لتعزيز ضوابط السلامة في أنظمة الذكاء الاصطناعي ومنصات التواصل، ومواصلة التنسيق بين الجهات الرقابية والأمنية والجهات التشريعية لضمان إزالة المحتوى غير القانوني ومنع تكرار الانتهاكات، مع حماية الضحايا وتقديم سبل إبلاغ فعالة.
