في واقعة أثارت جدلًا واسعًا، فوجئ العديد من مستخدمي منصة "إنستغرام" بطوفان من المحتوى العنيف والجرافيكي في قسم "ريلز" Reels، مما دفع شركة ميتا إلى الاعتذار والتأكيد على إصلاح "خطأ تقني" تسبب في ظهور هذه المنشورات غير المرغوب فيها.
"خطأ تقني" يثير الذعر
أفاد مستخدمون بأن موجز توصيات Reels امتلأ فجأة بمقاطع عنيفة وغير مناسبة، على الرغم من تفعيلهم إعدادات التحكم في المحتوى الحساس.
واشتكى البعض من ظهور مشاهد لجثث وإصابات خطيرة واعتداءات دموية، ما أثار تساؤلات حول مدى قدرة أنظمة ميتا على ضبط المحتوى، وفق ما نشرته شبكة CNBC الأمريكية.
وفي بيان رسمي، قال متحدث باسم ميتا: لقد أصلحنا خطأ تسبب برؤية بعض المستخدمين محتوى في موجز Instagram Reels لم يكن ينبغي التوصية به. نعتذر عن الخطأ.
كيف تعمل أنظمة "ميتا" على تصفية المحتوى؟
تعتمد ميتا على الذكاء الاصطناعي وفريق يضم أكثر من 15,000 مراجع بشري لمراقبة المحتوى، وتعمل تقنياتها على تحديد الأولوية للمنشورات المخالفة وإزالتها قبل أن يبلغ عنها المستخدمون. ورغم ذلك، أثبتت الحادثة الأخيرة أن هذه الأنظمة ليست محصنة ضد الأخطاء.
وبحسب سياسات ميتا، يُمنع نشر المحتوى الذي يحتوي على صور عنف مفرط أو استغلال جنسي أو مشاهد مروعة، لكن يُسمح ببعض المحتوى الجرافيكي في سياق زيادة الوعي حول القضايا الإنسانية مثل انتهاكات حقوق الإنسان والصراعات المسلحة، بشرط إرفاقه بتحذيرات واضحة.
تغييرات جديدة في سياسات الإشراف
تزامن هذا الخطأ التقني مع إعلان ميتا تغييرات في سياسات الإشراف على المحتوى، فقد قررت الشركة التركيز على الانتهاكات الخطيرة مثل الإرهاب واستغلال الأطفال، وتقليل استخدام الذكاء الاصطناعي في تصفية المحتوى الأقل خطورة، مع الاعتماد على إبلاغ المستخدمين بدلًا من القرارات التلقائية.
