ضمن مشروع «حروب الخطاب» يأتي تقريرٌ حديث منشور على مجلة «ذي أتلانتك» الأمريكية عن حذف شركات التكنولوجيا الكبرى لأدلة جرائم الحرب المتوفرة على الإنترنت وكيفية تعامل الخوارزميات مع المحتوى الوارد من بلدان النزاع، كما يستعرض الصحافي برنارد وارنر في هذا التقرير آثار ذلك على سيناريوهات إنفاذ العدالة وكشف الانتهاكات التي تقترفها الأطراف المشاركة في الحروب.

تتبع آثار الفاعل

إذا بقيت الصور المروعة فترةً كافية على «فيسبوك» أو «يوتيوب» قد يستخدمها المحققون والمهتمون من أنحاء العالم لإعادة بناء مسرح الجريمة. يذكر التقرير مثالًا بارزًا لفيديو ظهر في فيسبوك شهر يوليو (تموز) 2017 شاهدًا على إعدام 18 شخصًا. يفتتح المقطع بنصف دزينةٍ من الرجال المسلحين يترأسون صفوفًا من الرجال المحتجزين المرتدين لبدلاتٍ برتقالية اللون بأغطية رأس سوداء، والراكعين فوق الحصى بأيديهم مقيدة خلف ظهورهم. رفع المسلحون أسلحتهم وأطلقوا النار ليسقطَ الصف الأول من الضحايا على الأرض.

كرر المسلحون هذا الفعل أربع مرات متبعين أوامرَ شابٍ بقبعة سوداء وسروال مموه. إذا شاهدت الفيديو مبطّئًا لقطةً وراء لقطة، سترى أن قميصه يحمل شعار قوات الصاعقة، وهي وحدة النخبة في الجيش الوطني الليبي. مثل ذلك الدليل الأول على وقوع الحدث في ليبيا.

بعد وفترةٍ وجيزة أزال فيسبوك الفيديو الدامي والذي لم يكن مصدره محددًا على نحوٍ قاطع حينها، لكنه وُجِد على الإنترنت فترة كافية لتنتشر نسخه في مواقع التواصل الاجتماعي الأخرى. عمل نشطاء حقوقِ الإنسان والمدّعون وغيرهم من مستخدمي الإنترنت حول العالم بصورة مستقلة على تمشيط الفيديو بحثًا عن أدلة، وسرعان ما أُثبت أن عمليات القتل وقعت في ضواحي بنغازي.

خلص هؤلاء المحققون تاليًا إلى أن زعيم عصابة المسلحين قائدٌ في الصاعقة يُدعى محمود مصطفى بوسيف الورفلي. في غضونٍ شهر اتهمت المحكمة الجنائية الدولية الورفلي بقتلِ 33 شخصًا في سبع حوادث منفصلة – في فترة تبدأ من يونيو (حزيران) 2016 حتى يوليو 2017 حين وصلت الحادثة إلى فيسبوك – وقد اعتمد المدعون بشدة على الأدلة الرقمية التي جمعوها من مواقع التواصل الاجتماعي في مذكرة الاعتقال الصادرة عن المحكمة الجنائية الدولية.

عبر فيديو إعداماتٍ مروع منشور على فيسبوك استطاع النشطاء ومستخدمو الإنترنت معرفة اسم زعيم المسلحين وانتمائه للواء الصاعقة في الجيش الوطني الليبي، ومن ثم إيصاله إلى المحكمة الجنائية الدولية التي أصدرت مذكرة اعتقال بحقه واتهامه رسميًا بقتلِ 33 شخصًا مما جُمع أثره من الأدلة الرقمية.

ما زال الورفلي مفلتًا من قبضة العدالة حتى الآن، لكن هذا لم يمنع نشطاء حقوق الإنسان من الإشادة بهذه القضية معتبرين إياها انطلاقة قوية لأداةٍ فعالة جديدة: التحقيقات عبر الإنترنت مفتوحة المصدر. وكما يؤكد التقرير أنه حتى في مناطق الصراع والمعارك التي لا يمكن الدخول إليها غالبًا ما تترك جرائم الحرب والانتهاكات المماثلة أثرًا من المعلومات وراءها. إذا ساهم مستخدمو الإنترنت بتجميع قطعِ المعلومات المتاحة للجمهور على وسائل التواصل الاجتماعي والمواقع الأخرى، يمكن لهم إخضاع الجناة للمساءلة، بالطبع ما لم تقم الخوارزميات المطورة من قبل عمالقة التكنولوجيا بحذف الأدلة.

مترجم: كيف يهدد «فيسبوك» الديمقراطية في العالم؟

بعد وقتٍ قصير من صدور مذكرة توقيف الورفلي، لاحظ محقق المصادر المفتوحة هادي الخطيب – وهو ناشط سوري الأصل مقيم في برلين – شيئًا أقلقه: مقاطع الفيديو التي يحملها مستخدمو الإنترنت السوريون لما يلتقطونه من صور مباشرة للحرب كانت تختفي بالآلاف من على الإنترنت. كان الخطيب –وهو مؤسس الأرشيف السوري–  مع مجموعة من الناشطين قد بدأوا مشروعًا منذ عام 2014 للتجميع والبحث عن أي مواد رقمية منشورة من السوريين المتبقين في منطقة الحرب.

وصرّح في مقابلة أن هدف الأرشيف السوري يكمن في «بناء نوع من التوثيق المرئي فيما يتعلق بانتهاكات حقوق الإنسان وغيرها من الجرائم المرتكبة من جميع الأطراف خلال الصراع المستمر منذ ثماني سنوات».

Embed from Getty Images

في أواخر صيف عام 2017، كان الخطيب وزملاؤه يبنون بنهجٍ منتظم دعوى ضد نظام بشار الأسد بطريقة مماثلة لتتبع محققي المحكمة الجنائية الدولية جرائم الورفلي. جمعوا أعدادًا هائلة من شهادات المواطنين الموثقة بالفيديوهات والصور لاستهداف الأسد للمشافي والعيادات الطبية بحملات القصف الممنهجة.

يستذكر الخطيب تلك المرحلة: «كنا نجمع الأدلة ونحفظها ونسِمها بمواقعها الجغرافية، مع إجراء كل أنواع التحقق عليها من أجل هذه الدعوى… ثم لاحظنا ذات يوم أن جميع مقاطع الفيديو التي كنا نراجعها قد اختفت جميعها على حين غرة». لم تُمسح الفيديوهات هذه كلها نتيجةً لعمليات اختراق معقدة من قبل القوات الموالية للأسد، بل بسببِ الخوارزميات الخاصة بالتعليم الآلي التي تعمل دون هوادة على مختلف منصات التواصل الاجتماعي، لا سيما يوتيوب وفيسبوك.

صناديق سوداء

بشيءٍ من التردد، نصبّت شركات التكنولوجيا في وادي السيليكون نفسها في دور المدعين وهيئة المحلفين التي تبتّ في قرارات أيّ الكلمات والصور الواجب إبعادها عن أنظار الجمهور. أصبحت الشركات التكنولوجية في الآونة الأخيرة ماهرة في تكميم الكلام تقريبًا بقدر مهارتها الأصلية بتمكينه، ولم يمر هذا مرور الكرام عند الكيانات الحكومية التي تحرص على تحويل الشبكات الاجتماعية إلى مراكز تنصّت لها.

تشبّه فينولا ني إيلان – أستاذة القانون والمقررة الخاصة لمجلس الأمم المتحدة لحقوق الإنسان – طريقة تعامل الحكومات مع منصات وسائل التواصل الاجتماعي في الواقع بنوعٍ من «التعاقد من الباطن» لتوظيفها عيونًا وآذانًا مسلّطة على أنواع المحتوى المرفوض برأيها.

بيد أن بعض ما تطلبه الحكومات من شركات التكنولوجيا – مثل حجب المحتوى العنيف – يتعارض مع أهدافٍ مشروعة أخرى، مثل مقاضاة الديكتاتوريين وجلب أمراء الحرب إلى العدالة. تحقيق التوازن بين هذه الأولويات أمر صعب للغاية بالنسبة للأشخاص الموكلين باتخاذ القرارات والأحكام وفقًا للمعايير القانونية الراسخة.

في المقابل، تعمل الشركات التكنولوجية العملاقة في الخفاء إلى حدّ كبير إذ تُسيّر تحت سياسات شروط الخدمة غير الشفافة والتي تتوجه تقنيات الذكاء الاصطناعي نحو استلام إنفاذها باطرّاد، وهي تقنيات تُطور داخليًا دون أن تشاركها الشركة أو تسمح للعموم بالتدخل بها عادةً. على هذا ينقل التقرير تعقيب فينولا ني إيلان: «لا نعرف حتى ما الذي يحدث في هذه الخوارزميات. أيّ نوع من البُنى والتحيزات المدمجة فيها».

اعتمدت الشبكات الاجتماعية لسنوات على المستخدمين لإبلاغها عن أيّ محتوى غير مقبول، بما في ذلك كل أنواع خطاب الكراهية ودعوات حمل السلاح وغيرها من مسارب الحضّ على العنف وتبني مناهجه. لكن انتشار هذا المحتوى على نطاقاتٍ واسعة وأمام الأنظار زادَ من الضغط على شركات فيسبوك وتويتر ويوتيوب والشبكات الاجتماعية المختلفة لأتمتة عملية التنظيف؛ ما جعلها تلجأ للتعلم الآلي، وهو فرعٌ جبّار من الذكاء الاصطناعي قادر على استيعاب كميات هائلة من البيانات دون الحاجة لإشرافٍ بشريّ يستحق الذكر.

يوضح التقرير أن برمجيات التعلم الآلي صُممت أساسًا ضمن إطار التعرف على المحتوى وإزالة ما ينشره «المتطرفون» – كما يعرّفهم مهندسو البرمجيات – وقد أصبحت أداة شديدة الفعالية في غربلةِ المحتوى بشكلٍ أوصل الشبكة الاجتماعية الأكبر في العالم إلى مستوى أكثر طهارةً مقارنةً بالعام الماضي. تنشر «جوجل» و«فيسبوك» الإحصائيات المتعلقة في تقارير الشفافية الفصلية خاصتها.

حذف يوتيوب 33 مليون فيديو من الشبكة عام 2018 – أي ما يقارب الـ90 ألفًا في اليوم – كما أن 73% من كمية المقاطع الهائلة هذه رُصدت وحُذفت بسرعة هائلة درجة لم يلحق أحدٌ من المستخدمين رؤيتها حتى في الفترة الوجيزة ما بين النشر والحذف. في هذه الأثناء، أزال فيسبوك 15 مليون منشور صُنّف ضمن «الدعاية الإرهابية» من أكتوبر (تشرين الأول) 2017 إلى سبتمبر (أيلول) 2018. في الربع الثالث من عام 2018 أنجزت البرمجيات عمليات إزالة «المحتوى الإرهابي» بنسبة 99.5%، وبالتالي فقط 0.5% من المحتوى المحذوف بلّغ عنه المستخدمون أولًا.

تثير هذه الإحصائيات قلقًا كبيرًا لدى محققي المصادر المفتوحة الذين يشكون من كون أدواتِ التعلم الآلي صناديق سوداء ولا يعرف – سوى القلة القليلة – من العاملين في مجال حقوق الإنسان كيفية برمجة هذه الأدوات. هل تميز «بالعات الذكاء الاصطناعي» هذه الفيديو الوارد من سوريا أو اليمن أو ليبيا وأنه قد يكون دليلًا قيمًا خاطر بعض الأشخاص بأرواحهم لنشره وبالتالي يستحق إبقاءه على الشبكة؟ يقول يوتيوب مثلًا أنه يعمل مع خبراء حقوق الإنسان لصقل عمليات الغربلة، لكن يندرُ وجود مباحثات أعمق وتوضيحات حول التكنولوجيا المعنية.

يصرح ضياء الكيالي مدير برنامج الدعوة التكنولوجية في منظمة «Witness شاهِد»، وهي منظمة لحقوق الإنسان تعمل مع الخطيب والأرشيف السوري: «تبغض الشركات للغاية السماح للمجتمع المدني بالتحدث مباشرةً مع المهندسين. وهو شيءٌ كافحتُ لأجله كثيرًا».

Embed from Getty Images

تُغيّب هذه المخاوف حاليًا تحت حجةٍ مضادة تقدمها الحكومات تتلخص بأن على الشركات إقباض حكمتها والسيطرة على المحتوى بفعالية أكبر. تلجأ الدول الاستبدادية عادةً إلى حجب وسائل التواصل الاجتماعي خلال الأزمات الوطنية، كما فعلت سيرلانكا بعد تفجيرات صباح عيد الفصح الإرهابية وكذلك فنزويلا أثناء انتفاضة 1 مايو (أيار).

لكن السياسيين في الدول الأكثر ديمقراطية يضغطون على شبكات التواصل الاجتماعي لفرضِ الرقابة على مدار الساعة في محاولةٍ لوقاية العقول سريعة التأثر وغير المنيعة من المحتوى العنيف لئلّا يوصلهم للتطرف. إذا لم تمتثل هذه المنصات لتلك التوجهات فقد تواجهها غرامات باهظة وحتى الحكم بالسجن على المدراء التنفيذيين.

أقدمت رئيسة الوزراء النيوزيلندي جاسيندا أرديرن مع الرئيس الفرنسي إيمانويل ماكرون على تصعيد الموقف عبر إطلاق خطة «نداء كرايستشيرش» لمكافحة التطرف على الإنترنت في شهر مايو (أيار) المنصرم، وتستهدف الاتفاق مع مختلف مسؤولي الشركات التكنولوجية الكبرى وقادة الدول الآخرين لوضع حدّ لنشر المحتوى العنيف والإرهابي في منصات الإنترنت.

وتأتي هذه المبادرة على خلفية هجوم 15 مارس (آذار) على مسجدين في مدينة كرايستشيرش بنيوزيلندا راح ضحيته 51 من المصلين يوم الجمعة، وبثّ المسلّح المعتدي حينها هجومه بثًا مباشرةً على الفيسبوك بواسطةِ كاميرا مثبتة على رأسه أثناء اقترافه للمجزرة، وما أدى إلى إحداث ردة فعل دولية حفّزت بلدان مثل نيوزيلندا وأستراليا والمملكة المتحدة على اقتراحِ قوانين جديدة شاملة فيما يخص الإرهاب الإنترنيتي.

كما يدرس الاتحاد الأوروبي فرض قانون جديد على شركات التكنولوجيا يُلزمها بحذفِ المواد المؤذية المنشورة من قبل المستخدمين – سواء كان محتوى كتابيًا أو مرئيًا – مما «يحرض أو يحث على اقترافِ جرائم إرهابية أو المساهمة فيها، أو الترويج للمشاركة في أنشطةِ جماعةٍ إرهابية»، وهو معيار واسع للغاية وفقًا للتقرير، لكن إذا لم تحذف الشركات هذه المنشورات في غضونِ ساعةً واحدة تنتظرها غرامات تصل إلى 4% من الإيرادات العالمية.

هل تعرف الخوارزميات ما هو الإرهاب؟

يشعر النشطاء المدافعون عن حقوق الإنسان بالقلق إزاء القرارات التي تتخذها شركات التكنولوجيا العملاقة بشأن الخوارزميات الخاصة بهم تحت الضغوط الخارجية، وتبذل ني إيلان جهدها في توضيح ما تعنيه هذه الأفعال إذ ينقل التقرير عنها قولها: «يكمن الخطر في أن الحكومات غالبًا ما تُخطئ التوازن، لكن لدينا الأساليب والوسائل في الواقع لتحدي الحكومات عندما تفعل ذلك. أما الكيانات الخاصة؟ ليس لدينا الإجراءات القانونية.

هذه شركات خاصة، وتُحدد الأسس القانونية المنظمة لعلاقاتهم مع مستخدميهم – سواء وجد الأخيرون في منطقة صراعٍ أو لا – وفقًا لشروط الخدمة (خاصة الشركة)، وهي ليست شفافة ولا عادلة. سبل الانتصاف القانوني أمامك محدود للغاية».

Embed from Getty Images

كتبت ني إيلان في شهر يوليو (تموز) خطابًا مفتوحًا إلى مؤسس فيسبوك مارك زوكربيرج تبين فيه أوجه القصور والخطأ في كيفية تعريف فيسبوك للمحتوى المرتبط بالإرهاب، وهو معيارٌ رئيسي في اتخاذ قرار حذف المنشورات وما يتبع ذلك من إجراءات. ومن ضمن ما تستنتجه ني إيلان أنهم -في منصة فيسبوك – «أتوا بتعريفٍ للإرهاب لا علاقة له بالتعريف العالمي المتفق عليه بين الدول، وهو ما أظنه يشكّل سابقةً خطيرة جدًا. أوضحت هذا بجلاء أثناء تواصلي معهم».

ينوّه الكاتب هنا إلى طلبه من فيسبوك التعليق على شكوى ني إيلان، والذي قوبل بمشاركةِ متحدث الشركة لمحضرٍ مفصل من منتدى عُقد لتحديد معايير المحتوى في شهر ديسمبر (كانون الأول) وهو عبارة عن وثيقة مميزة تبرز تعقيد الأحكام التي يُطلب من شركات التكنولوجيا إقرارها في إطار سعيها لتحصيل الفائدة المالية من التفاعلات البشرية على نطاقٍ عالمي.

ما هو تعريف المنظمة الإرهابية بالضبط؟ هل هي «التي تشترك في أعمال عنف متعمدة ضد أشخاص أو ممتلكات»؟ أم يجب أن يتسع التعريف ليشمل أي جماعة غير حكومية «تشترك في أعمال عنف مدبرة ومخطط لها»؟ يعقب أحدهم ضمن الاجتماع بأنه «سيدهشني إن لم نعد في غضون عامٍ واحد لنقول أننا بحاجة إلى تنقيح هذا التعريف مرة أخرى» (ينقل التقرير هنا تعليق حديث لمتحدث باسم الشركة عن عدم وجود تحديث لهذه المسألة حتى الآن).

أما كيف ستُطبّق الخوارزميات الخاصة بعمالقة التكنولوجيا هذه المعايير الدقيقة فيبقى سؤالًا مطروحًا دون جواب، لكن مجموعة القرارات الجديدة ضمن مشاريع قوانين مكافحة الإرهاب بعد مجزرة كرايستشيرش ستضغط على شركات التكنولوجيا لتطبيقِ دور أكثر حزمًا في إنفاذ تلك المعايير. ويُحتمل أن تستثمر الشركات التكنولوجية العملاقة – تحت تهديد الغرامات الهائلة – في فلترات محتوى شرسة تعمل بالذكاء الاصطناعي لقمع وحجب المواد؛ مما يُحتمل أن يثير الاعتراض. يترك هذا كله أثرًا مروعًا على من يحاولون كشف الانتهاكات في مناطق الحروب.

يعود التقرير في الختام إلى الخطيب مؤسس الأرشيف السوري وإيضاحه بأن تصاعد استعمال الخوارزميات الخاصة بالتعلم الآلي صعّبت من عمله خلال الأشهر الأخيرة، ومع ذلك يستمر الدفع نحو المزيد من الغربلة وإجراءات الحذف (يعمل الخطيب أيضًا عضوًا ضمن جماعة ضغط مختصة بالحقوق الرقمية مقرها في بروكسل، وقد شبّه الفلاتر في حادثةٍ منفصلة بكونها الموضة الجديدة).

ذكر الخطيب أن مشروع قانون الاتحاد الأوروبي الخاص بالإرهاب عبر الإنترنت يرسل رسالةً مقادها أن إخفاء المحتوى غير المستساغ أمرٌ مقبول؛ وبالتالي ستحرص منصات التواصل الاجتماعي على ألا يراه أحد.

يخشى الخطيب من العواقب غير المقصودة لفرضِ قانونٍ مماثل، ومن التداعيات المحتملة لاتخاذ إجراءات صارمة على المحتوى المقرر عدم قبوله في الغرب التي يمكن أن تصعّب الحياة أكثر مما هي عليه أساسًا لدى المجتمعات القمعية، والأسوأ من ذلك في مناطق الحروب.

ويؤكد الخطيب أن أيّ حملة قمع أخرى على ما يُسمح للناس مشاركته عبر الإنترنت «ستكون بالتأكيد هدية لجميع الأنظمة الاستبدادية. ستكون هديةً للأسد»، مضيفًا: «على أرض الواقع في سوريا، يبذل الأسد قصارى جهده لتدمير الأدلة المادية – على انتهاكات حقوق الإنسان المحتملة – والأدلة الرقمية أيضًا. سيجعل مجموع هذا كله – الخوارزميات الخاصة بالتعلم الآلي، والفلاتر والقوانين الجديدة – توثيق ما يحدث في المجتمعات المغلقة أصعب علينا»، وهو ما يريده الديكتاتوريون كما يخشى.

 

عصر الصحافي «الروبوت».. هكذا ستتحكم البرمجيات في غرف الأخبار

هذا المقال مترجمٌ عن المصدر الموضَّح أعلاه؛ والعهدة في المعلومات والآراء الواردة فيه على المصدر لا على «ساسة بوست».

عرض التعليقات
تحميل المزيد