بعد بدء “طوفان الأقصى” في 7 أكتوبر/تشرين الأول، حدّت “ميتا” من التعليقات حول الأحداث بتفعيل فلاتر تلقائية، بمبرّر إبطاء تدفق المحتوى العنيف والمزعج. لكن مدير “ميتا” ادّعى أن التعليقات استمرت في الظهور في الأراضي الفلسطينية؛ فشغّلت “ميتا” مرشحاتها مرة أخرى، ولكن في فلسطين فقط. وهذا ما أثار اعتراضات بين الموظفين المسلمين في الشركة.
تعيش الشركة جدلاً داخلياً بسبب قمع التعليقات التي تتحدث عن “طوفان الأقصى” والعدوان الإسرائيلي على غزة في كلٍّ من “إنستغرام” و”فيسبوك”.
ونشر أحد الموظفين داخلياً، وفقاً لوثائق اطلعت عليها صحيفة وول ستريت جورنال: “ما نقوله وما نفعله يبدو متعارضاً تماماً في الوقت الحالي”، إذ تعهدت “ميتا” علناً بتطبيق سياساتها على قدم المساواة في جميع أنحاء العالم.
وتعتمد “ميتا” بشكل كبير على الأتمتة لمراقبة منشورات “إنستغرام” و”فيسبوك”، لكن هذه الأدوات كافحت لتحليل اللهجة العربية الفلسطينية، وفي بعض الحالات ليس لديها ما يكفي من البيانات باللغة العبرية للعمل بفعالية.
في أحد الأخطاء الأخيرة، بدأت الترجمة التلقائية لبروفايلات المستخدمين على موقع “إنستغرام” في عرض كلمة “فلسطيني” إلى جانب رمز تعبيري وعبارة عربية مثل “إرهابيون فلسطينيون”.
وعندما تلجأ شركة “ميتا” إلى موظفين بشريين لسد الفجوات، يكون لدى بعض الفِرَق وجهات نظر مختلفة حول كيفية تطبيق القواعد وعلى من. وتتعامل الشركة مع العلاقات مع إسرائيل من تل أبيب، بقيادة مسؤول تنفيذي عمل سابقًا لدى رئيس الوزراء الإسرائيلي بنيامين نتنياهو.
وفي الوقت نفسه، يغطّي فريق سياسات حقوق الإنسان، ومقره دبي، العالم العربي بما في ذلك الأراضي الفلسطينية. غالباً ما تختلف هذه الفِرَق حول المحتوى في المنطقة، وفقاً لما نقلته الصحيفة عن مطلعين.
قال متحدث باسم “ميتا” إنه كان هناك مزيد من التعليقات في الأراضي الفلسطينية التي تنتهك قواعدها، لذلك اضطرت إلى خفض العتبة لتحقيق نفس التأثير الناتج في أماكن أخرى.
عادةً، تبدأ “ميتا” بإخفاء التعليقات فقط عندما تكون أنظمتها متأكدة بنسبة 80 في المائة من أنها مؤهلة لما تسميه الشركة خطاباً عدائياً، مثل المضايقة والتحريض على العنف. لكن كجزء من “تدابير الاستجابة المؤقتة للمخاطر”، خفّضت “ميتا” هذه العتبة إلى النصف على مساحة واسعة من العالم.
وكانت تعليقات المستخدمين ساحة معركة. في أعقاب طوفان الأقصى، اكتشفت “ميتا” زيادة على “إنستغرام” في التعليقات المخالِفة بين خمسة و10 أضعاف في إسرائيل ولبنان والأراضي الفلسطينية. وقرّرت الشركة إخفاء نسبة أعلى من التعليقات التي قد تنتهك سياساتها، كما تُظهِر الوثائق.
وأدى هذا التغيير إلى تقليل التعليقات المخالِفة في إسرائيل ولبنان وسورية ومصر وبلدان أخرى، بما يكفي لجعل موظفي السلامة في “ميتا” مرتاحين، وفقاً لمنشور على نظام الرسائل الداخلي نشره مسؤول. لكن في الأيام التالية، ظلّت التعليقات الواردة من الأراضي الفلسطينية، التي تتوافق مع تعريف “ميتا” للخطاب العدائي، مرتفعة على “إنستغرام”.
وكتب المسؤول: “لذلك، قرّر الفريق خفض الحد الأدنى مؤقتاً”، ما أدى إلى رفع مستوى إخفاء التعليقات من المستخدمين في الأراضي الفلسطينية إذا رأى نظام “ميتا” الآلي أن هناك فرصة بنسبة 25 في المائة على الأقل لانتهاك القواعد.
وحذف مشرفو المحتوى الداخلي في “ميتا” سلسلة المناقشة المطولة في المنتدى والتي تضمّنت وصفاً لتدخل “ميتا” والتعليقات التي ردّت عليه. وخضعت شركة “ميتا” وشركات التواصل الاجتماعي الأخرى للتدقيق من معسكرات متعددة بدءاً من طوفان الأقصى.
وأرسل الاتحاد الأوروبي طلبات رسمية إلى “ميتا” للحصول على توضيحات حول الإجراءات التي اتخذت لوقف انتشار المواد غير القانونية في دول أوروبية. وحظرت “ميتا” وسوماً ومقاطع بث مباشرة وقيّدت صور الرهائن.
واجهت “ميتا” منذ فترة طويلة مشكلة في بناء نظام آلي لفرض قواعدها خارج اللغة الإنكليزية وعدد قليل من اللغات المستخدمة في البلدان الكبيرة الغنية. يكون طاقم الإشراف البشري أقل حجماً بشكل عام في الخارج أيضاً.
وتمثل اللغة العربية في المحتوى الإلكتروني نقطة حسّاسة، خاصة في الأراضي الفلسطينية. ويرجع ذلك جزئياً إلى أن نظام الشركة لم يتدرّب في البداية على فهم الاختلافات بين اللهجات العربية، وكان أداؤه أسوأ بالنسبة للهجة الفلسطينية، وفقاً لتقرير صدر عام 2022 بتكليف من مستشارين خارجيين.
كما افتقرت “ميتا” حتى وقت قريب إلى نظام آلي لاكتشاف محتوى اللغة العبرية الذي قد يكون مخالفاً لقواعدها، وهو الأمر الذي قال تقرير 2022 إنه أدى إلى تطبيق أقل للقواعد ضد المنشورات العبرية.
ورداً على التقرير، التزمت شركة ميتا ببناء نظام آلي لضبط المخالفات باللغة العبرية، فضلاً عن تحسين قدرتها على كشف اللهجات العربية.
وفي سبتمبر/أيلول، أخبرت الشركة مجلس الرقابة التابع لها أن هدف “وجود مصنِّفات عبرية فعّالة” كان “كاملاً”، لكن في وقت سابق من هذا الشهر، اعترفت الشركة داخلياً بأنها لم تستخدم أداة تصنيف الكلام العدائي العبري في تعليقات “إنستغرام”، وبرّرت ذلك بأنه لم يكن لدى النظام بيانات كافية ليعمل بشكل مناسب، وفقاً لوثيقة اطلعت عليها الصحيفة.
وعلى الرغم من القيود المفروضة على النظام، فقد نشرته الشركة الآن ضد التعليقات المخالفة بالتزامن مع العدوان الإسرائيلي على غزة. وقال المتحدث باسم “ميتا” إن المصنِّف كان يعمل بالفعل في مكان آخر على منصات الشركة.
وقال المصور الفلسطيني معتز عزايزة، إن “ميتا” أغلقت حسابه مرتين خلال الأحداث، لكنه تمكّن من إلغاء هذه القرارات عند الاستئناف.
وفي حادثة منفصلة، أعلنت “ميتا” داخلياً عن مشكلة ملحة تتطلب معالجة فورية، لأن أنظمة “ميتا” الآلية كانت تترجم بشكل خاطئ بعض الإشارات غير الضارة باللغة العربية إلى “إرهابيين فلسطينيين”، حسبما تظهر وثيقة. ووجد التحقيق أن المشكلة كانت بسبب هلوسة نظام التعلم الآلي، تقول “وول ستريت جورنال”.
العربي الجديد
