🔎 ما كشفه التحقيق
أظهر التحقيق أن هناك عشرات من الحسابات المزيفة تعمل على نشر مقاطع فيديو وصور مولّدة بالذكاء الاصطناعي تستخدم وجوه أو شخصيات لا وجود لها في الواقع، مُصوَّرة بطريقة جنسانية واضحة، وتحمل روابط تُضَمن في الوصف أو التعليقات تؤدي إلى مواقع خارجية قد تحتوي على مواد جنسية أو خدمات مدفوعة.
ولم تُعلَّم هذه المقاطع بوضوح بأنها مولَّدة بواسطة تقنيات الذكاء الاصطناعي، ما يخالف سياسات معظم منصات التواصل الاجتماعي التي تُلزِم بإظهار مصدر المحتوى عندما يكون آليًا.
الباحثون الذين تابعوا القضية عبر التحقيق الصحفي أفادوا أن المحتوى لم يكن مصطنعًا فقط، بل ركز على تصوير نساء سوداوات بطريقة جنسية، وهو ما أثار انتقادات لكونه يكرّس صورًا نمطية عن مجموعات عرقية معينة ويضعها في سياقات استغلالية.
📉 رد فعل TikTok
ردّت إدارة منصة TikTok بسرعة نسبيًا بعد التواصل من جانب بي بي سي، وأعلنت عن حذف أكثر من 20 حسابًا ارتبطت مباشرة بهذا النوع من المحتوى، بالإضافة إلى إزالة العديد من الفيديوهات. وأكدت الشركة أنها تحظر المحتوى الجنسي الصريح وأي مواد تجعل الترويج لخدمات جنسية خارج المنصة، كما يجب أن يكون المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي مُعلَّمًا وواضحًا للمستخدمين.
كما شدّدت TikTok على أنها تتعاون مع الجهات المعنية لضمان تطبيق سياساتها، وأنها تستجيب حين تُبلَّغ عن مثل هذه الانتهاكات.
⚠️ مخاطر المحتوى المولّد بالذكاء الاصطناعي
هذه الحادثة تأتي في سياق أكبر من تحديات الانتشار غير المنضبط لمحتوى مولَّد بالذكاء الاصطناعي عبر منصات التواصل. التقنيات الحديثة في التوليد الآلي للفيديو والصورة أصبحت قادرة على خلق مواد تبدو واقعية بشكل كبير، ما يجعل من الصعب على المستخدم العادي التمييز بينها وبين المحتوى الحقيقي.
وقد أثارت هذه الظاهرة مخاوف بشأن الاستغلال الجنسي، خصوصًا عندما لا يتضمن المحتوى توضيحًا بأنه مولَّد، أو عندما يستغل بيانات أو ملامح أشخاص حقيقيين دون موافقتهم. وهذا النوع من الاستخدام يمكن أن يُعدّ أشبه بـ الانتهاك الرقمي أو الإساءة، لا سيما عندما يكون الهدف التجاري هو جذب المشاهدات أو التوجيه إلى مواقع مدفوعة.
🌍 سياق عالمي للمواجهة
الحادثة ليست معزولة؛ ففي الأشهر الأخيرة لاحظت وسائل إعلام ومنظمات حقوقية زيادة في عمليات نشر محتوى AI جنسي أو استغلالي على منصات مختلفة. على سبيل المثال، هناك تحقيقات منفصلة تتعلق بمنصات أخرى تُظهر أن حسابات مولَّدة آليًا قد تُستخدم لاستهداف مجموعات معينة أو نشر مواد تحرّض على الكراهية أو التمييز.
كما ظهرت موجات من النقاشات حول ضرورة تنظيم أفضل للمحتوى الآلي على شبكات التواصل، خاصة فيما يتعلق بالصور والفيديوهات التي يمكن أن تُستغل بطرق غير أخلاقية أو تنتهك خصوصية الأفراد.
