خبر صحفي
ترجمة وتحرير: كوميتي فور جستس
جنيف: 26 نوفمبر/ تشرين الثاني 2020
نشرت لجنة القضاء على التمييز العنصري بالأمم المتحدة، توجيهاتها لمكافحة التوصيف العنصري، مشيرة إلى أهمية الانتباه للخطر الجسيم الذي يمثله التحيز الخوارزمي عند استخدام الذكاء الاصطناعي (AI) في إنفاذ القانون.
– إرشادات قانونية للمساعدة في القضاء على التمييز العنصري:
وأصدرت اللجنة المكونة من 18 خبيرًا، توصيتها العامة بشأن منع ومكافحة التوصيف العنصري من قبل الموظفين المكلفين بإنفاذ القانون، وتلك التوصيات ما هي إلا إرشادات قانونية لمساعدة الدول الأعضاء على الوفاء بالتزاماتها بموجب اتفاقية القضاء على جميع أشكال التمييز العنصري.
وأشارت اللجنة في توصياتها إلى أن الاستخدام المتزايد من قبل أجهزة إنفاذ القانون للبيانات الضخمة، والذكاء الاصطناعي، والتعرف على الوجه، وغيرها من التقنيات الجديدة؛ قد يؤدي إلى تعميق العنصرية، والتمييز العنصري، وكره الأجانب، وبالتالي انتهاك العديد من حقوق الإنسان.
وأوضحت اللجنة أن من الممكن أن تتكاثر أدوات البيانات الضخمة، والذكاء الاصطناعي؛ لتعزز التحيزات الموجودة بالفعل وتؤدي إلى المزيد من الممارسات التمييزية.
– أدوات الذكاء الاصطناعي قد تعزز التمييز العنصري:
من جهته، قال عضو اللجنة، فيرين شيبرد: “إننا نشعر بقلق عميق إزاء المخاطر الخاصة التي تحدث عند استخدام التنميط الخوارزمي لتحديد احتمالية حدوث نشاط إجرامي”.
وتابع “شيبرد” موضحًا: “على سبيل المثال، قد تعكس بيانات الاعتقال التاريخية المتعلقة بأحد الأحياء ممارسات الشرطة المتحيزة عنصريًا؛ وستعمل هذه البيانات على تعميق خطر المبالغة في ممارسة الشرطة في نفس الحي، ما قد يؤدي بدوره إلى مزيد من الاعتقالات، ويخلق حلقة من الملاحظات الخطيرة”.
وأضاف عضو اللجنة أن “الاستخدام المتزايد لتقنيات التعرف على الوجه، والمراقبة لتتبع ومراقبة التركيبة السكانية المحددة، يثير مخاوف فيما يتعلق بالعديد من حقوق الإنسان، بما في ذلك الحق في الخصوصية، وحرية التجمع السلمي، وتكوين الجمعيات، وحرية التعبير، وحرية الحركة”.
– امتثال نظم التنميط الخوارزمي للقانون الدولي:
وشددت اللجنة، من بين توصياتها، على أن نظم التنميط الخوارزمي ينبغي أن يمتثل امتثالاً كاملاً للقانون الدولي لحقوق الإنسان، مع التشديد على أهمية الشفافية في تصميم وتطبيق أنظمة التنميط الحسابية عند نشرها لأغراض إنفاذ القانون.
وقالت اللجنة في توصيتها: “يشمل هذا الكشف العلني عن استخدام مثل هذه الأنظمة، وتوضيحات لكيفية عملها، وما هي مجموعات البيانات المستخدمة؟ وما هي التدابير التي تمنع الإضرار بحقوق الإنسان؟”.
ورأت اللجنة أن الشركات الخاصة التي تطور أو تبيع أو تشغل أنظمة تصنيف خوارزمية لأغراض إنفاذ القانون؛ تتحمل أيضًا مسؤولية إشراك أفراد من مختلف القطاعات، بما في ذلك الخبراء القانونيون، لتقييم مخاطر انتهاك حقوق الإنسان التي قد تشكلها هذه الأنظمة.
كما أوصى الخبراء بضرورة قيام الدول بتقييم الأثر على حقوق الإنسان بعناية قبل استخدام تقنية التعرف على الوجه.
وحذرت اللجنة من أنه “بالإضافة إلى كون التوصيف العرقي غير قانوني، فقد يكون أيضًا غير فعال ويؤدي إلى نتائج عكسية كأداة لإنفاذ القانون”، مضيفين أن “الأشخاص الخاضعون لإنفاذ القانون التمييزي يميلون إلى أن تكون لديهم ثقة أقل في الشرطة، ونتيجة لذلك، يكونون أقل استعدادًا للتعاون معهم”.