حذّر مرصد الأزهر لمكافحة التطرف من تنامي توظيف أدوات الذكاء الاصطناعي التوليدي في إنتاج ونشر محتوى دعائي مرتبط بالجماعات المتطرفة، لافتًا إلى اتجاه بعض المتعاطفين مع تنظيمي «داعش» و«القاعدة» إلى إعادة تقديم الرموز والرسائل المتطرفة في صورة رسوم متحركة وميمات ومقاطع مركبة، بما قد يجعلها تبدو للوهلة الأولى كمحتوى ترفيهي عادي، ولا سيما بالنسبة إلى الفئات العمرية الأصغر سنًا.
وأوضح المرصد أن هذا النمط الجديد من الدعاية يُعرف باسم «Slop Jihad»، وهو مصطلح أطلقه «معهد الحوار الاستراتيجي» (ISD) على المحتوى المتطرف منخفض التكلفة وسهل الإنتاج، الذي يتيح للأفراد إنتاج مواد دعائية ونشرها بصورة لامركزية وعلى نطاق واسع، مستفيدين من أدوات الذكاء الاصطناعي ومن طبيعة منصات التواصل الاجتماعي.
وفي رصده لأبرز صور هذا التحول، أشار الباحثون إلى إعادة إنتاج مقطع قديم لأسرى تابعين لتنظيم داعش داخل قفص يُغمر في حوض مائي، وإعادة تقديمه باستخدام الرسوم المتحركة في صورة مستوحاة من شخصية «سبونج بوب»، مع ظهور أسماك ترتدي ملابس برتقالية؛ بما يحوّل مشهدًا عنيفًا إلى مادة تبدو ساخرة أو ترفيهية، ويعكس تطورًا في أساليب تقديم الدعاية المتطرفة بعيدًا عن صورتها التقليدية المباشرة.
كانت صحيفة «لا ترثيرا» الإسبانية قد سلطت الضوء على هذا التحول في استراتيجيات الجماعات المتطرفة، مشيرة إلى تنامي استخدام الذكاء الاصطناعي التوليدي من جانب متعاطفين مع «داعش» و«القاعدة» لإنتاج محتوى يعتمد على الرسوم المتحركة والميمات والمقاطع المركبة.
في السياق ذاته، حذّر آدم هادلي، الرئيس التنفيذي لمنظمة «Tech Against Terrorism»، من اتساع نطاق هذا النوع من المحتوى، موضحًا أن المستخدم قد يصادفه دون أن يكون قد بحث عنه بشكل مباشر. وأضاف أن التفاعل مع منشورات تبدو أقل وضوحًا من الناحية المتطرفة يمكن أن يؤثر في خوارزميات التوصية، ولا سيما صفحة «For You»، بما قد يؤدي إلى اقتراح محتويات أكثر تطرفًا.
من جانبه، أكد مصطفى عياد، الباحث في «معهد الحوار الاستراتيجي»، أن توظيف عناصر الثقافة الشعبية يمثل تحولًا لافتًا في أساليب الدعاية المتطرفة، مشيرًا إلى رصد نحو 150 مقطعًا عبر 71 حسابًا على منصة «تيك توك»، تجاوز إجمالي مشاهداتها 5.4 ملايين مشاهدة.
وفي المقابل، رفضت إدارة «تيك توك» هذه الاستنتاجات، مؤكدة أنها تحظر التنظيمات العنيفة وتستخدم تقنيات متقدمة وفرقًا متخصصة في الأمن لإزالة المحتوى المخالف بصورة استباقية، مشيرة إلى حذف جميع المقاطع التي تناولها التقرير.
ويرى الباحث آرون زيلين، عضو «معهد واشنطن لسياسة الشرق الأدنى»، أن الذكاء الاصطناعي يتيح لدائرة أوسع من المستخدمين إعادة توظيف الرموز المتطرفة بهدف جذب أشخاص قد لا تكون لديهم اهتمامات سابقة بالتنظيمات الإرهابية، وإنما تدفعهم دوافع مثل الفضول أو الرغبة في تحقيق الشهرة الرقمية، في وقت تواجه فيه منصات التواصل تحديات متزايدة في الكشف الآلي عن هذا النوع من المنشورات، خاصة عندما تُقدَّم في قوالب لا تكشف أهدافها الدعائية بصورة مباشرة.
وأكد مرصد الأزهر لمكافحة التطرف أن خطورة هذا النمط لا تكمن في استخدام عناصر الثقافة الشعبية أو أدوات الذكاء الاصطناعي في حد ذاتها، وإنما في توظيفها لإعادة تغليف الرسائل المتطرفة داخل قوالب ترفيهية مألوفة، بما قد يسهم في تطبيع بعض الرموز والمضامين المرتبطة بالتطرف العنيف لدى شرائح جديدة من المستخدمين.
وشدد المرصد على أهمية التعامل مع هذا النوع من المحتوى من خلال تحليل دقيق للمضمون والسياق، وعدم الاكتفاء بوجود رموز أو شخصيات من الثقافة الشعبية للحكم على طبيعة المحتوى.
وأكد أن مواجهة هذه الظاهرة تتطلب تطوير أدوات الكشف الرقمي، وتعزيز التعاون بين الجهات المعنية ومنصات التواصل الاجتماعي، إلى جانب رفع مستوى الوعي الرقمي لدى الشباب، بما يمكنهم من التمييز بين المحتوى الترفيهي الظاهري والمضامين التي قد تحمل رسائل متطرفة أو تسهم في التطبيع مع العنف.