منصات "ميتا" والعنصرية السائدة ضد الفلسطينيين
نوفمبر 13, 2023منى اشتية
منى اشتية
تشتدّ انعكاسات الأزمة الفلسطينية-الإسرائيلية الحاليّة أكثر في الفضاء المعلوماتيّ، نتيجة فشل شركات التكنولوجيا الكبرى في مكافحة المعلومات المُضلِّلة على الإنترنت، والتحريض على العنف، وخطاب الكراهية المتفشي على منصَّاتها، بالرغم من التحذيرات المتكرِّرة. فامتناع منصَّات التواصل الاجتماعي عمومًا، وشركة "ميتا" على وجه التحديد، أو عجزها عن حماية مُستخدِميها يعني أنّها متورِّطة ضمنًا في تجريد الفلسطينيّين من إنسانيَّتهم وفي جعل الدعوات إلى ممارسة العنف ضدَّهم ظاهرةً طبيعيَّةً، ومفاقمة العنصرية تجاههم. فسواء تعمَّدتِ القيام بذلك أم لا، تؤدّي شركات التكنولوجيا الكبرى دورًا أساسيًّا في قمع وجهات النظر الفلسطينيَّة على الإنترنت وعزلها وتنميطها والتشهير بها وشيطنتها والحطّ من قيمتها، وذلك بسبب الانحياز المنهجي في الخوارزميات وكيفيَّة إدارة المحتوى، وآليات الإبلاغ غير الفعّالة، وقلّة الدراية عمومًا بالسياقات واللغات المحلّية.
منذ 7 تشرين الأول/أكتوبر 2023، شهدت منصَّات التواصل الاجتماعي طوفانًا من المعلومات المُضلِّلة وخطاب الكراهية، ما زاد الوضع سوءًا. وقد لعبت منصَّات "ميتا"، مثل "فيسبوك" و"إنستغرام" و"واتساب"، دورًا مؤثرًا في ذلك بسبب استخدامها الواسع النطاق في المنطقة وحالات "الخلل التقني" الغامضة والمتكرّرة التي زادت من انحياز خوارزميات هذه المنصَّات ضدَّ الفلسطينيّين وفلسطين. كذلك، برزت زيادة ملحوظة في التنميط المؤذي على وسائل التواصل الاجتماعي، ما يفاقم العنصرية ضدّ الفلسطينيّين والآراء المتطرّفة والاستقطاب.
انحياز الخوارزميّات يفاقم التنميط
بات من الواضح جدًّا انحياز خوارزميات شركة "ميتا" على مستوى إنتاج المحتوى ونشره. على سبيل المثال، عند إدخال مصطلحات مثل "فلسطيني" أو "فلسطين" أو "فتى مُسلم فلسطيني" على تطبيق "واتساب" التابع لشركة "ميتا"، تقترح خاصية إنتاج الصور بالذكاء الاصطناعي على المنصَّة صورًا تُظهِر بنادق أو فتيانًا يحملون بنادق. إلا أنّ البحث عن "فتى إسرائيلي" يُظهِر صورًا بريئة لأطفال يلعبون كرة لقدم أو يقرؤون أو يقومون بأنشطة أخرى. وبدا هذا التفاوت واضحًا أيضًا في الإدخالات المتعلّقة صراحةً بالمواضيع العسكرية، مثل "الجيش الإسرائيلي" أو "جيش الدفاع الإسرائيلي"، التي لم تُنتِج صورًا فيها أسلحة بشكل عام – بدلًا من ذلك، أنتج الذكاء الاصطناعي صورًا لأشخاص بالزيّ العسكري في وضعيات مختلفة، وهُم يبتسمون في معظم الأحيان. وبالتالي، أثبتت خوارزميات شركة "ميتا" أنها ليست محايدة ولا موضوعيَّة.
سجلُّ "ميتا" مليءٌ بالإخفاقات
في أيار/مايو 2021، أدَّى سعي القوات الإسرائيلية إلى تهجير السكّان الفلسطينيّين من بعض أحياء القدس إلى شنّ هجوم دامَ لأسبوعَيْن تقريبًا على قطاع غزّة، وراح ضحيّته أكثر من 260 فلسطينيًّا، بينهم أطفال. وسرعان ما لاحظ المُستخدِمون الفلسطينيون قمع آرائهم أو إلغاء حساباتهم على مُختَلَف مواقع التواصل الاجتماعي. نتيجة ذلك، دفعت مجموعات مناصرة شركة "ميتا" إلى تكليف طرفٍ ثالث بتقييم كيفية إدارة المحتوى باللغتَيْن العربية-الفلسطينية، والعبرية-الإسرائيلية، على منصّاتها، بما في ذلك "فيسبوك" و"إنستغرام". وأكّد تقرير شبكة الأعمال من أجل المسؤولية الاجتماعية (BSR) حول العناية الواجبة المتعلقة بحقوق الإنسان، الذي صدر في أيلول/سبتمبر 2022، مزاعم الانحياز ضدّ الفلسطينيّين بسبب سياسات شركة "ميتا"، التي تنتهِك عمليًّا حقَّهم في حرّية التعبير والتجمُّع والمشاركة السياسية، وفي التحرُّر من التمييز.
ومن بين التوصيات البارزة التي وردت في تقرير شبكة BSR ضرورة أن تواصل "ميتا" العمل على تطوير أدوات تصنيف فعَّالة للخطاب العدائي باللغة العبرية. وتحظى هذه التوصية خصوصًا بأهمية كبرى نظرًا إلى الانتشار الواسع لخطاب الكراهية والتحريض على العنف ضدّ الفلسطينيّين باللغة العبرية على منصَّات التواصل الاجتماعي التابعة لشركة "ميتا". وبحلول شهر أيلول/سبتمبر 2023، أبلغت "ميتا" مجلس الإشراف لديها بأنَّها تمكَّنت من تحقيق هذا الهدف. ولكنْ، بعد السابع من تشرين الأول/أكتوبر بفترة وجيزة، اعترفت الشركة داخليًّا بأنها امتنعت عن استخدام أداة تصنيف الخطاب العدائي بالعبرية للتعامُل مع التعليقات على منصّة "إنستغرام" بسبب عدم كفاية البيانات.
لذا، على مدى الشهر الماضي، ساهمت هذه التحدّيات المُزمِنة في تحويل الخطاب العنيف إلى أشكال من الأذى على أرض الواقع. فقد أصبحت منصَّات التواصل الاجتماعي التابعة لشركة "ميتا" بؤرة للمعلومات المُضلِّلة والتحريض على العنف وخطاب الكراهية والعنف ضدّ الفلسطينيّين، حتى إنّ بعض المنشورات احتفت بالهجمات المميتة على قطاع غزّة. لكنّ هذا المحتوى، الذي نشره المُستخدِمون العاديُّون والسياسيُّون الإسرائيليُّون الرفيعو المستوى على حدٍّ سواء، لم يُحذَف بمعظمه، لا بل ساهم إلى حدٍّ بعيد في أشكال الأذى على أرض الواقع. فبسبب إحداثه موجة من العنصريَّة ضدَّ الفلسطينيّين وتصوير العنف على أنه ظاهرة طبيعية، يمكن القول إنَّ هذا المحتوى شجَّع المستوطنين الإسرائيليّين على الاعتداء على الفلسطينيّين وممتلكاتهم في الضفّة الغربية.
فضلًا عن ذلك، أفسحت شركة "ميتا" المجال أمام انتشار خطاب الكراهية على الإنترنت خارج حدود فلسطين، بسبب عدم استثمارها ما يكفي من الموارد لمكافحة التحريض والخطاب العنصري. فقد طالت التعليقات العدائية والتي تحرّض على العنف على شبكات التواصل الاجتماعي المجتمعات اليهوديّة، وأدّت إلى أعمال مثيرة للقلق خارج الفضاء الرقمي، مثل تدمير كنيس الحامة اليهودي التاريخي في تونس.
إلى جانب سماحها بتفشي هذا النوع من الخطاب التحريضي على منصّاتها من دون إدارة مناسبة للمحتوى، تعمل "ميتا" أيضًا بنشاط على قمع المحتوى الفلسطيني الذي يوثّق انتهاكات حقوق الإنسان في فلسطين، مثل الفيديوهات التي تتضمّن أدلّة على قصف المستشفى الأهلي العربي، أو المنشورات التي تتضمّن خريطة فلسطين قبل النكبة والتي ينشرها مستخدِمون لديهم عدد متواضع من المتابعين. كذلك، منذ السابع من تشرين الأول/أكتوبر، تعرَّض الفلسطينيُّون وحلفاؤهم، بمن فيهم الصحافيون والمدافعون عن حقوق الإنسان والمؤسَّسات الإعلامية، بشكل غير متناسب إلى "الحجب المُظلَّل" – أو ما يُعرَف بـ"shadow banning"، وهو مُصطلح يشير إلى تدابير غير مُعلَن عنها تتَّخذها منصَّات التواصل الاجتماعي لتقييد عدد المُشاهدات أو مدى وصول منشور أو حساب معيَّن.
بعد رصد ارتفاع ملحوظ في التعليقات العدائية على منصَّة "إنستغرام" مصدرها إسرائيل ولبنان والأراضي الفلسطينية المحتلّة على مدى الشهر الماضي، شدَّدت "ميتا" معايير التصفية التي تعتمدها لإدارة التعليقات كاستجابة مؤقتة لهذه المخاطر. على وجه التحديد، خفَّضت "ميتا" نسبة اليقين التي تحتاجها أنظمة إدارة المحتوى لإزالة تعليق تحريضي على منشور على "إنستغرام" من العتبة المعتادة البالغة 80٪ إلى 40٪، وذلك للمحتوى الصادر من إسرائيل ولبنان وسوريا ومصر والأراضي الفلسطينيَّة المحتلَّة. ثم عادت وخفَّضت نسبة اليقين المطلوبة إلى مجرَّد 25٪ لفلسطين حصرًا، زاعمةً أنَّ الهدف من ذلك هو تفادي الخطاب العدائي، ما أدَّى إلى قمع حرِّيَّة التعبير لدى الفلسطينيّين على الإنترنت إلى حدٍّ بعيد.
كذلك، فإنّ عدم دراية "ميتا" بما يكفي بالسياقات الاجتماعية والسياسية المحلّية وعدم استثمارها موارد كافية لتحسين إدارة المحتوى أدَّيا إلى التشهير المنهجي بالفلسطينيّين على منصَّاتها. على سبيل المثال، في منتصف تشرين الأول/أكتوبر، وثَّق أحد مُستخدِمي "إنستغرام" خطأً فادحًا في الترجمة. فقد عرَّف عن نفسه على صفحته الشخصية بأنّه فلسطيني وأضاف علمًا فلسطينيًّا مع عبارة "الحمد لله". ولكنْ، عند الضغط على زرّ "عرض الترجمة"، تظهَر ترجمة إنكليزية صادِمة مفادُها "الحمد لله، الإرهابيون الفلسطينيون يقاتلون في سبيل حرّيتهم" (أو حرفيًّا بالإنكليزية " Praise be to God, Palestinian terrorists are fighting for their freedom"). تؤدي هذه الحالات إلى التشهير بالفلسطينيّين وتنميطهم بصورة غير مُنصِفة، كما أنّ اعتذارات الشركة لا تكفي بتاتًا للتعويض عن الضرر الحاصل، خصوصًا مع تكرّاُر هذه الإخفاقات.
بالإضافة إلى ذلك، تفيد تقارير بأنّ تعليقات بعض المُستخدِمين على "إنستغرام" التي تتضمّن العلم الفلسطيني تُخفى، ويشير المستخدِمون إلى أنّ هذه التعليقات تُصنَّف على أنها "قد تكون مسيئة". وقد أكَّد المتحدِّث باسم شركة "ميتا" آندي ستون هذه المزاعم لاحقًا، إذ اعترف بأنَّ الشركة تُخفي التعليقات التي تتضمَّن العلم الفلسطيني في السياقات التي تعتبرها "مسيئة" بحسب معاييرها الخاصة.
لم تُعلِن الشركة بعد عن أيِّ استثمارات أو تحسينات مُحدَّدة لمعالجة حالات الخلل التقني والمشاكل في عملياتها الداخلية. وهي ما زالت تعتمد على الأنظمة التلقائية والخوارزميات المنحازة لإدارة المحتوى، وعلى بلاغات المُستخدِمين بشأن منشورات محدَّدة، بدلًا من السعي بشكل فاعِل إلى حماية مُستخدِميها حول العالم.
خاتمة
تشكْل الأزمة الحالية في فلسطين-إسرائيل مثالًا صارخًا على الفشل الذريع لشركات التكنولوجيا الكبرى في مكافحة المعلومات المُضلِّلة، والتحريض، وخطاب الكراهية على منصَّاتها، بالرغم من التحذيرات الكثيرة. فامتناع شركة "ميتا" تحديدًا أو عجزها عن حماية مُستخدِميها يعني أنّها متورِّطة ضمنًا في التشهير بالفلسطينيّين وتجريدهم من إنسانيَّتهم، وفي جعل الدعوات إلى ممارسة العنف ضدَّهم ظاهرة طبيعية وفي إدامة العنصرية تجاههم.
بات من الواضح أنه ينبغي على "ميتا" وغيرها من شركات التكنولوجيا الكبرى إعادة النظر في ممارساتها الداخلية. ويجب أن تشمل هذه العملية تدقيقًا خارجيًّا مستقلًّا للتغييرات التي أُجريت استجابة لتوصيات تقرير شبكة BSR عام 2022 وأثرها على الزيادة المستمرّة في خطاب الكراهية والتحريض على العنف على الإنترنت. كذلك، لا بدَّ من الاستثمار في تحسين أنظمة إدارة المحتوى ومعالجة الانحياز في الخوارزميات لتوفير بيئة رقميَّة أكثر شمولًا واحترامًا وخالية من الكراهية والتمييز. فينبغي إعطاء الأولوية لسلامة جميع المُستخدِمين وكرامتهم وحقوقهم فوق كلّ اعتبار، بصرف النظر عن خلفيّاتهم أو أصولهم.
منى اشتيه هي مديرة الحملات والشراكات (لمنطقة الشرق الأوسط وشمال إفريقيا) ورئيسة التواصل مع الشركات في منظمة Digital Actions، وزميلة غير مقيمة في معهد التحرير لسياسات الشرق الأوسط، حيث تركّز في عملها على الرقابة والحقوق الرقمية في الشرق الأوسط وشمال إفريقيا. كذلك، فهي أيضًا باحثة غير مقيمة في برنامج الشؤون الفلسطينية-الإسرائيلية في معهد الشرق الأوسط.
حقوق الصورة: تايفون كوسكون / وكالة الأناضول بواسطة صور "غيتي"
معهد الشرق الأوسط مؤسّسة مستقلّة وحياديّة وتعليمية لا تبغي الربح. لا يشارك المعهد في أنشطة المناصرة، وآراء الباحثين لا تعبّر عن آراء المعهد. يرحّب معهد الشرق الأوسط بالتبرّعات المالية، لكنّه يحتفظ بالحقوق التحريرية الحصرية في أعماله، كما أنّ المنشورات الصادرة عنه لا تعبّر سوى عن آراء كتّابها. يرجى زيارة هذا الرابط للاطّلاع على لائحة بالجهات المانحة لمعهد الشرق الأوسط.
