Article image
مصدر الصورة: أسوشيتد برس/ جون مينشيلو، فايل



علقت أمازون وغيرها من الشركات استخدام الشرطة لمنتجات التعرف على الوجوه إلى أجل غير مسمى، لكن التشريعات المقترحة قد تجعل الحظر المفروض أكبر أو أكثر ديمومة.

2021-05-27 07:53:26

25 مايو 2021

في 10 مايو الجاري، أرسلت 40 جماعة توعية خطاباً مفتوحاً إلى شركة أمازون تطالب فيه بفرض حظر دائم على استخدام الشرطة الأميركية لبرنامج التعرف على الوجوه الذي طورته الشركة، والمعروف باسم ريكوجنيشين (Rekognition). وجاء الخطاب -الذي تم توجيهه إلى كل من جيف بيزوس الرئيس التنفيذي الحالي لأمازون، وآندي جاسي الذي سيخلفه في المنصب هذا العام- قبل أسابيع قليلة من انتهاء تعليق أمازون لبيع البرنامج إلى وكالات إنفاذ القانون، الذي استمر لمدة عام كامل.

وقارن الخطاب بين دعم بيزوس وجاسي الصريح لنشطاء حركة “حياة السود مهمة” (Black Lives Matter) -خلال الاحتجاجات المطالبة بالعدالة العرقية التي اندلعت الصيف الماضي بعد مقتل جورج فلويد- بالتقارير التي تفيد باستخدام منتجات أمازون الأخرى من قبل وكالات إنفاذ القانون لتحديد هوية المحتجين.

وفي 17 مايو، أعلنت أمازون أنها ستمدد هذا التعليق إلى أجل غير مسمى، لتنضم بذلك إلى عملية التطهير الذاتي التي بدأتها شركتا آي بي إم ومايكروسوفت المنافستين. وتمثل هذه الخطوة إشارة إلى النفوذ السياسي الذي تتمتع به الجماعات التي تقاتل لتقييد هذه التقنية، واعترافاً بأن ساحة معركة تشريعية جديدة أخذت في الظهور. لذا، يرجح الكثيرون أن يتم إصدار تشريعات فدرالية أساسية قريباً.

“الناس منهكون”

كان العام الماضي عاماً محورياً بالنسبة لتقنية التعرف على الوجوه؛ إذ تم الكشف عن الدور الذي تلعبه هذه التقنية في الاعتقالات الخاطئة، كما فرضت حوالي 24 مدينة وسبع ولايات في مختلف أنحاء الولايات المتحدة حظراً على استخدامها. لكن هذا الزخم بدأ يتحول منذ مدة.

كان باحثون في مجال الذكاء الاصطناعي قد نشروا، عام 2018، دراسة تقارن دقة البرامج التجارية المستخدمة للتعرف على الوجوه، التي أصدرتها شركات آي بي إم ومايكروسوفت وميجفي (Megvii). ووجدوا أن هذه التقنية تعرفت على الرجال ذوي البشرة الفاتحة بشكل أكثر دقة بكثير من النساء ذوات البشرة الداكنة. وقد سجل النظام الذي طورته آي بي إم أسوأ نتيجة بين هذه الأنظمة، حيث وصل الاختلاف في معدل الخطأ بين المجموعتين إلى 34.4٪.

 

“إذا كنا سنتعهد بتحقيق المساواة العرقية في النظام القضائي الجنائي… فإن أحد أبسط وأوضح الأشياء التي يمكن القيام بها هو إنهاء استخدام تقنية التعرف على الوجوه”.

كيت روان، الاتحاد الأميركي للحريات المدنية.

كما أجرى الاتحاد الأميركي للحريات المدنية، عام 2018 أيضاً، اختباراً على نظام ريكوجنيشين ووجد أنه تعرف على 28 عضواً من أعضاء الكونجرس الأميركي بشكل خاطئ على أنهم مجرمون، وهو خطأ يضر على نحو غير متكافئ بالأشخاص ذوي البشرة الملونة. وكتبت المنظمة خطاباً مفتوحاً إلى أمازون، تطالب فيه الشركة بحظر استخدام الحكومة لهذه التقنية. كما أرسل تجمع ذوي البشرة السوداء في الكونجرس خطاباً مماثلاُ، لكن أمازون لم تُجرِ أي تغييرات.

أثناء الاحتجاجات التي اندلعت الصيف الماضي للمطالبة بتحقيق العدالة العرقية والمناهضة لوحشية الشرطة، فاجأت أمازون الكثيرين بإعلان تعليقها استخدام الشرطة لنظام ريكوجنيشين، مع منح استثناءات لموظفي وكالات إنفاذ القانون الفدرالية مثل وكالة إنفاذ قوانين الهجرة والجمارك الأميركية. وأوضحت الشركة في إعلانها أنها تأمل أن “يمنح هذا التوقف الكونجرس الوقتَ الكافي لتطبيق القواعد المناسبة”.

تعمل إيفان جريير مديرة في مجموعة “الكفاح من أجل المستقبل” (Fight for the Future)، وهي مجموعة توعية تكنولوجية تؤمن بإلغاء تقنية التعرف على الوجوه، وتقول إن ثمة تأييداً جماهيرياً متزايداً لتنظيم عملها. وتقول جريير إن تمديد تعليق البرنامج، الذي تم الإعلان عنه هذا الأسبوع، يُظهر أن “أمازون تستجيب لهذا الضغط الهائل الذي تتعرض له، وليس فقط فيما يتعلق بتقنية التعرف على الوجوه”، مضيفة “إنني أقدر كثيراً الانتفاضات المطالبة بالعدالة العرقية التي اندلعت في جميع أنحاء البلاد على مدار العام ونصف العام الماضيين”.

“واقع سياسي”

على الرغم من تزايد الضغوط على كبار مقدمي هذه التقنية، إلا أن الحقيقة هي أن معظم المستخدمين من الحكومة ووكالات إنفاذ القانون لا يشترون برامج التعرف على الوجوه من شركات مثل أمازون. لذلك، وعلى الرغم من أن عمليات التعليق المؤقت والحظر تلقى ترحيباً من مجموعات التوعية، إلا أن تلك العمليات لن تحول بالضرورة دون استخدام هذه التقنيات. وفي الوقت نفسه، لم يمرر الكونجرس بعد أي تشريعات فدرالية متعلقة باستخدام تقنية التعرف على الوجوه في وكالات إنفاذ القانون أو الهيئات الحكومية أو المؤسسات التجارية، من شأنها تنظيم عمل مقدمي التقنية الأصغر حجماً.

ومع ذلك، يأمل البعض في أن يتم إصدار تشريع فدرالي قريباً، إما من خلال اتخاذ إجراء مباشر من الكونجرس أو إصدار أمر تنفيذي رئاسي أو عبر مشاريع القوانين القادمة الخاصة بالاعتمادات المالية وإصلاح الشرطة.

من جانبها، تقول كيت روان كبيرة المستشارين التشريعيين في الاتحاد الأميركي للحريات المدنية: “أعتقد أن أفضل سيناريو هو أن يفرض الكونجرس تعليقاً مؤقتاً على استخدامها”، معبرة عن اعتقادها بأنه لا ينبغي السماح باستخدامات جديدة لهذه التقنية سوى بعد القيام بالمزيد من العمل التشريعي.

وهناك بالفعل العديد من مشاريع القوانين الفدرالية المقترحة، التي من شأنها كبح القدرة على الوصول إلى تقنيات التعرف على الوجوه.

  • يدعو “قانون التعليق الموقت لتقنية التعرف على الوجوه والقياسات الحيوية” إلى حظر استخدام أي هيئات فدرالية لهذه البرامج، وحجب أموال المنح الفدرالية عن أي ولاية أو سلطات محلية لا تفرض تعليقاً خاصاُ بها. وقد تم اقتراحه من قِبل أربعة أعضاء ديمقراطيين في الكونجرس، وقُدم إلى مجلس الشيوخ العام الماضي.
  • يمنع “قانون جورج فلويد للعدالة في الشرطة” استخدام تقنية التعرف على الوجوه في الكاميرات التي يرتديها أفراد الشرطة. وقد وافق مجلس النواب بالفعل على مشروع القانون، ومن المتوقع أن يصل إلى مجلس الشيوخ هذا الأسبوع. وطلب الرئيس الأميركي جوزيف بايدن إقرار مشروع القانون قبل حلول الذكرى السنوية لوفاة جورج فلويد يوم 25 مايو الجاري.
  • “التعديل الرابع ليس للبيع” هو مشروع قانون مشترك قدمه 18 عضواً من الحزبين الديمقراطي والجمهوري في مجلس الشيوخ، يقيد عمل الحكومة مع مقدمي التقنية الذين يخالفون شروط الخدمة. ومن الناحية العملية، سيحول مشروع القانون هذا إلى حد كبير دون وصول الحكومة إلى الأنظمة التي تشارك في استخلاص البيانات من المواقع، مثل شركة كليرفيو أيه آي (Clearview AI).

وتعتقد موتالي نكوندي، المؤسسة والرئيسة التنفيذية لمنظمة “الذكاء الاصطناعي من أجل الناس” (AI for the People) -وهي منظمة غير ربحية تدافع عن العدالة العرقية في مجال التكنولوجيا- أننا على الأرجح سنرى تشريعات فدرالية إضافية بحلول انتخابات التجديد النصفي للكونجرس التي ستعقد العام المقبل.

وتقول نكوندي: “أعتقد أنه سيتم إصدار تشريع فدرالي يحكم جميع أنظمة الخوارزميات، بما في ذلك أنظمة التعرف على الوجوه. أعتقد أن هذا واقع سياسي”.

وتضيف أن مفهوم تقييمات الأثر التي تقيّم الأنظمة التكنولوجية على أساس الحقوق المدنية يكتسب المزيد من الثقل في دوائر السياسة داخل الحزبين الجمهوري والديمقراطي.

كما يضغط الاتحاد الأميركي للحريات المدنية على إدارة بايدن لإصدار أمر تنفيذي. وقد نشر مؤخراً خطاباً أرسله مع 40 مجموعة أخرى يطالب فيه بفرض حظر فوري على استخدام الحكومة لهذه التقنية.

وتقول روان: “إذا كنا سنتعهد بتحقيق العدالة العرقية والمساواة العرقية في النظام القضائي الجنائي، فسنقدم على تنفيذ هذه النوعية من الإصلاحات. وأحد أبسط وأوضح الأشياء التي يمكن القيام بها هو إنهاء استخدام تقنية التعرف على الوجوه”.

“أصبح الناس أكثر راديكالية”

في غضون ذلك، تتوقع روان أن يظل التنظيم الذاتي أحد أكثر الأساليب فعالية لمنع التوسع في استخدام تقنية التعرف على الوجوه؛ لذا، فمن المحتمل أن تنظر الوكالات الفدرالية مثل وزارات الإسكان والأمن الداخلي والتعليم في فرض قواعد تحظر استخدام هذه التقنية.

وتشعر نكوندي بالتفاؤل بأن يتوسع التعليق المؤقت ليتحول إلى حظر والمزيد من التشريعات الدائمة، قائلة: “أعتقد أن التعليق المؤقت كان ممكناً قبل مقتل جورج فلويد. ولكن بعد مقتله، أصبح الناس أكثر راديكالية”.

ومع ذلك، تحذر جريير من أنه بالرغم من كل هذا الزخم المناهض لتقنية التعرف على الوجوه، إلا أن التشريعات التي تركز بشكل كبير على الدقة العرقية للأنظمة قد لا تحل المشاكل الأكثر عمقاً. وتقول: “أعتقد أنه سيكون من الخطأ أن ينظر صناع السياسات إلى الدقة باعتبارها المشكلة الوحيدة التي تحتاج إلى المعالجة في تقنية التعرف على الوجوه”. وتضيف: “على سبيل المثال، ستكون الشركات سعيدة للغاية بمشروع قانون ينص على شيء مثل ‘إذا كنت تريد بيع نظام تعرف على الوجوه، فيجب أن يكون دقيقاً بنسبة 99٪ على الأشخاص من مختلف الأعراق وألوان البشرة'”.

واختتمت حديثها قائلة إنه “حتى لو لم يكن التحيز مدمجاً في النظام نفسه، فلا يزال لديك نظام شرطة متحيز يتم دفعه حالياً وتعزيزه نوعاً ما بهذه التكنولوجيا”.