تحولت تقنية التعرف على الوجه وقراءة المشاعر وتمييز الأحاسيس من خيال علمي موجود في الروايات إلى أمر واقع في حياة الكثيرين. وحذر باحثون من جامعة نيويورك بشكل جدي من تقنية نظام التعرف على الوجه المتطورة، وقال علماء في المجال إنهم يستطيعون تحديد المعاني “الخفية” لوجه الإنسان عن طريق ملامحه، كالأنف والفم وطريقة الابتسام وغيرها.

انتهاكات مبطنة

وأشار الباحثون في تقرير يعرض نتائج أبحاثهم إلى أن المصطلح الأكثر استخداما في التكنولوجيا الحديثة “الذكاء الاصطناعي” يعمل تحت غطاء علمي واسع، ويشمل عددًا لا يحصى من المحاولات العلمية لمحاكاة الحكم البشري و”تسويق التفاهات”، ويستمر في الانتشار دون إشراف أو تنظيم أو تدقيق أخلاقي حقيقي. ويشمل التقرير مساحة واسعة من استخدامات التكنولوجيا وتسخيرها للتجاوزات، بما في ذلك حالات التمييز العنصري ومساعدة الشرطة على المراقبة وغيرها من الانتهاكات المُبطنة لحقوق الإنسان. المجموعة البحثية داخل جامعة نيويورك التي أطلقت على نفسها اسم “الذكاء الاصطناعي” والتي أعدت التقرير الأخير، عبرت عن مخاوف حقيقية من التقنيات الجديدة في مجال التعرف على الوجه، وهي “فئة فرعية من التعرف على الوجوه التي تدعي إمكانية اكتشاف أشياء مثل الشخصية، والمشاعر الداخلية، والصحة العقلية، ومدى تفاعل العمال مع أماكن عملهم على أساس صور للوجوه أو فيديوهات”.

وفي لندن، أشار باحثون إلى أن تسويق التكنولوجيا التي تقيس المشاعر بناء على المؤشرات الحيوية مثل حركات الوجه ونبرة الصوت أو حركات الجسم، تنتشر بشكل متزايد في الصين، على الرغم من المخاوف بشأن دقتها وانعكاساتها الأوسع على حقوق الإنسان. وتتراوح الأدوات التي تعتمد على الذكاء الاصطناعي من الكاميرات لمساعدة الشرطة في مراقبة وجه المشتبه به أثناء الاستجواب إلى أجهزة تتبع العين في المدارس التي تحدد الطلاب الذين لا ينتبهون.

وتعمل الصين بقوة لتطبيق تكنولوجيا التعرف على الوجوه في كل شيء، بدءا من توزيع أوراق التواليت في المراحيض العامة وانتهاء بفحص المارة في الشوارع. وتستخدم الحكومة الصينية التكنولوجيا في معالجة البيانات والتسلسل الجيني والتعرف على الوجوه لإحكام سيطرتها على السلطة وزيادة الرقابة.

اتهامات بالتحيز

الاختبارات المستقلة التي أجراها المعهد الوطني الأميركي للمعايير والتكنولوجيا (نيست) وجدت أن أنظمة التعرف على الوجوه بين عامي 2014 و2018 قد تحسنت 20 مرة في العثور على تطابق في قاعدة بيانات تضم 12 مليون صورة. وانخفض معدل فشلها من 4 في المئة إلى 0.2 في المئة خلال تلك الفترة، ما يعني أن دقتها ارتفعت بشكل هائل، لكنها مشروطة بمدى مثالية الظروف المحيطة، أي بحسب وضوح الصورة أو الإضاءة، والاتجاه الذي ينظر إليه الشخص، وعوامل أخرى تُقلل دقّتها.

وقالت “ذي غارديان” إن التقنية لاقت انتقادات كثيرة على مدار الأعوام الماضية لاتهامها بالتحيز، وأشارت إلى أن المشكلة تكمن في كيفية تدريب هذا النوع من البرامج على التعرف على الوجوه. وفي تقرير صدر الأسبوع الماضي عن مجموعة “المادة 19” لحقوق الإنسان ومقرها المملكة المتحدة، تم تحديد العشرات من الشركات التي تقدم مثل هذه الأدوات في قطاعات التعليم والأمن العام والنقل في الصين.

وقالت فيدوشي ماردا، وهي كبيرة مسؤولي البرامج في “المادة 19″، “نعتقد أنه يجب حظر تصميمها وتطويرها ونشرها وبيعها ونقلها بسبب أسسها العنصرية وعدم توافقها الأساسي مع حقوق الإنسان”. وأشارت ماردا إلى أن بعض التطبيقات التي تبدو حميدة وتعتمد تقنية التعرف على المشاعر يمكن أن تؤدي إلى ضرر. وتابعت “لنفترض أن المدرسة تريد إدخال نظام كاميرا لمعرفة ما إذا كان الطلاب يتناولون وجبات مغذية في المدرسة، ثم تحوّلها إلى نظام للتعرف على المشاعر بسرعة، ومن ثم إلى هدف مجهول جديد”.

حلول التعليم الذكية

كما قالت شازيدا أحمد، وهي طالبة دكتوراه تدرس الأمن السيبراني في جامعة كاليفورنيا ببيركلي ومؤلفة مشاركة في التقرير، إن “العواطف البشرية لا يمكن قياسها بشكل موثوق من خلال أدوات تكنولوجية”. وأضافت أن “مثل هذه الأنظمة يمكن أن تعمق التحيز، لاسيما تلك التي يتم بيعها للشرطة والتي تدعي تحديد الجريمة بناء على المؤشرات الحيوية”.

وتثير الأنظمة مخاوف بشأن الاتجاه الناشئ لجمع البيانات العاطفية لمراقبة الطلاب والمجرمين المشتبه بهم، وحتى سائقي السيارات المجهزة بتقنية التعرف على التعب والحركات غير الآمنة. وقالت شازيدا لمؤسسة تومسون رويترز في مقابلة عبر الهاتف، إن “الكثير من هذه الأنظمة لا تحدد كيفية تصرفها بالبيانات واستخدامها على المدى الطويل”. وأضافت “نحن قلقون للغاية بشأن الزحف الوظيفي”، في إشارة إلى استخدام البيانات لأغراض أخرى غير تلك التي تُجمع من أجلها.

وتعدّ العديد من الشركات التي جاء ذكرها في التقرير صينية، وهي متخصصة في نوع معين من أدوات التعرف على المشاعر. لكن التقرير أشار أيضا إلى مشاركة بعض الشركات العالمية الكبرى في السوق. وحدد شركة لينوفو، وهي أكبر صانع لأجهزة الكمبيوتر الشخصية في العالم التي تسوّق “حلول التعليم الذكية” التي تشمل “التعرف على الصوت والإيماءات ومشاعر الوجه”. وباعت الشركة تكنولوجيا التعليم إلى أكثر من اثنتي عشر مقاطعة صينية، لكن الباحثين في “المادة 19” يقولون إن عدد الذين اعتمدوها غير واضح. ولم ترد لينوفو على طلب للتعليق على الفور.

أبعد من الفراسة

تبقى مؤسسة “المادة 19” قلقة من ربط نوع التكنولوجيا التي تسوّق في الصين بأنظمة المراقبة في جميع أنحاء العالم. وقالت ماردا “عندما يكون لديك كاميرات مراقبة في جميع أنحاء المدينة، لا تكلفك إضافة خدمة جديدة للتعرف على المشاعرالكثير. وليست هذه مشكلة الصين فقط”. وذكر التقرير أن السوق العالمية لتقنية التعرف على المشاعر صغيرة نسبيا في هذه المرحلة، لكن الباحثين حذروا من أنها تتطور بسرعة ودون تدقيق شديد. وقالت شازيدا “وثّقنا بيع حوالي 30 شركة لهذه التكنولوجيا. يمكن أن يكون هذا مجرد قمة جبل جليدي”.

وبينما يؤكد البعض أن الفكرة وراء هذه التقنية الحديثة أتت من نظرية علمية تعود إلى القرن التاسع عشر، إلا أنها لا تتعدى كونها مجرد القليل من علم الفراسة، واستخدام الرؤية الآلية وتحليل كميات هائلة من البيانات للعثور على الارتباطات، عن طريق الادعاء بأن شخصية الأشخاص يُمكن تمييزها من أجسادهم ووجوههم بشكل خاص.

وقالت الباحثة في جامعة “نيويورك” كيت كراوفورد لموقع “ذي إنترسيبت”، إن فريقها يعترض بشدّة على انتشار هذا النوع من التنبؤ الحسابي الرجعي من الناحية الثقافية والعلمية، فعلى الرغم من “أن علم الفراسة لم يلق رواجا كبيرا بسبب ارتباطه بالعلوم العرقية النازية، إلا أن الباحثين قلقون من عودة انتشار أفكار فراسية في تطبيقات التعرف على الوجوه”. وأضافت كراوفورد أن “الفكرة القائلة بأن أنظمة الذكاء الاصطناعي قد تكون قادرة على إخبارنا بمشاعر الطالب أو الزبون أو المشتبه به جنائيًا، أو تحديد نوعية الأشخاص بشكل جوهري، تُعتبر جذابة لكل من الشركات والحكومات، على الرغم من أن المبررات العلمية لمثل هذه المطالبات مشكوك فيها إلى حد كبير، وتاريخ أغراضها التمييزية موثق بشكل جيد”.

والأسوأ من أن تستطيع الحكم على أي شخص عن طريق الكاميرا، هو أن تتخذ الخوارزميات هذه القرارات، بينما الشركات التي تقوم بتطويرها في مأمن من المحاسبة الصارمة وتنشط من وراء ستار من السرية التجارية يؤمن لها الحماية

صحيفة العرب