تقنية الكشف عن الوجه من أمازون تظهر تحيزاً

الرابط المختصرhttp://khaleej.online/gkWxkb

31 % من النساء ذوات البشرة الداكنة تعرفهن تقنية امازون بأنهن رجال

Linkedin
Google plus
whatsapp
السبت، 26-01-2019 الساعة 04:01

قال باحثون من معهد ماساتشوستس للتكنولوجيا وجامعة تورونتو، إنّ تكنولوجيا الكشف عن الوجه التي تسوّقها "أمازون" لإنفاذ القانون، غالباً ما تسيء تعريف النساء، خاصةً اللواتي يتمتعن ببشرة داكنة.

وبحسب ما نشره موقع "تيكس بلور"، اليوم السبت، فقد دعا المدافعون عن الخصوصية، والمدافعون عن الحقوق المدنية "أمازون" إلى التوقف عن تسويق خدمة إعادة التعرف، بسبب المخاوف من التمييز ضد الأقليات.

كما طلب بعض مستثمري "أمازون" من الشركة التوقف عن التصرفات التي تثير مخاوف من أن تجعلها عرضة للدعاوى القضائية.

وقال الباحثون: "خلال الاختبارات تبين أن تكنولوجيا أمازون للتعرف على الوجه وصفت النساء ذوات البشرة الداكنة بأنهنّ رجال بنسبة 31٪، وتم التعرف على النساء داكنات البشرة بشكل خاطئ بنسبة 7%، وكان لدى الرجال ذوي البشرة الداكنة نسبة خطأ معدلها 1%، في حين لم يكن لدى الرجال والنساء ذوي البشرة الفاتحة أي شيء".

بإمكان الذكاء الاصطناعي التحيز ضد فئة معينة طبقاً للخوارزميات المحملة، وتحذر الدراسة الجديدة من احتمالية سوء المعاملة وتهديد الخصوصية والحريات المدنية من خلال تقنية اكتشاف الوجه.

 

 

وقال مات وود، المدير العام للذكاء الاصطناعي ووحدة الحوسبة السحابية في "أمازون": "إن الدراسة تستخدم تحليل الوجه وليس تقنية التعرف على الوجه".

وقال جوي بيولامويني، باحث من معهد ماساتشوستس للتكنولوجيا: "إذا كنت تبيع نظاماً أظهر أنه متحيز ضد الوجوه البشرية، فمن المشكوك فيه أن تكون المنتجات الأخرى الموجودة على الوجه أيضاً خالية تماماً من التحيز".

وقال جاكوب سنو، المحامي بالاتحاد الأمريكي للحريات المدنية: "إن ردَّ فعل أمازون يُظهر أنها لا تأخذ المخاوف الخطيرة التي كشفت عنها هذه الدراسة على محمل الجد".

يُذكر أن الباحثين من معهد ماساتشوستس للتكنولوجيا وجامعة تورونتو قد اكتشفوا ثغرات مماثلة بتقنية التعرف على الوجه في شركتي "مايكروسوفت" و"آي بي إم"، في دراسة أجريت عام 2017، لكن الشركتين أجرتا تحسينات على تقنيتهما، والآن تنتظران معالجة الخلل من شركة أمازون. 
 

مكة المكرمة