IBM Research Releases ‘Diversity in Faces’ Dataset to Advance Study of Fairness in Facial Recognition Systems
هل سبق لك أن عوملت بشكل غير عادل؟ كيف لم تجعلك تشعر؟ ربما ليست جيدة جدا. يتفق معظم الناس بشكل عام على أن العالم الأكثر عدلاً هو عالم أفضل ، وأن باحثينا في مجال الذكاء الاصطناعي لا يمكنهم أن يوافقوا أكثر. لهذا السبب نحن نستغل قوة العلم لإنشاء أنظمة ذكاء اصطناعية أكثر عدلاً ودقّة.
أنتجت العديد من التطورات الحديثة في الذكاء الاصطناعي قدرات رائعة لأجهزة الكمبيوتر لإنجاز مهام معقدة ومتطورة بشكل متزايد ، مثل ترجمة الكلام عبر اللغات لتوصيل الاتصالات عبر الثقافات ، وتحسين التفاعلات المعقدة بين الناس والآلات ، والتعرف تلقائيًا على محتويات الفيديو للمساعدة في تطبيقات السلامة.
يأتي جزء كبير من قوة الذكاء الاصطناعي اليوم من استخدام التعلم العميق المستند إلى البيانات لتدريب نماذج أكثر دقة باستخدام كميات متزايدة من البيانات. ومع ذلك ، يمكن أن تكون قوة هذه التقنيات نقطة ضعف أيضًا. تتعلم أنظمة الذكاء الاصطناعي ما يتم تدريسه ، وإذا لم يتم تدريسها بمجموعات بيانات قوية ومتنوعة ، فقد تتعرض الدقة والإنصاف للخطر. لهذا السبب ، تحتاج IBM ، إلى جانب مطوري الذكاء الاصطناعي ومجتمع الأبحاث ، إلى التفكير في البيانات التي نستخدمها للتدريب. لا تزال شركة IBM ملتزمة بتطوير أنظمة الذكاء الاصطناعي لجعل العالم أكثر عدالة.
يتجلى التحدي في تدريب الذكاء الاصطناعي بطريقة واضحة وعميقة للغاية مع تقنية التعرف على الوجه. يمكن أن تكون هناك صعوبات في صنع أنظمة التعرف على الوجه التي تلبي توقعات الإنصاف. كما هو مبين من Joy Buolamwini و Timnit Gebru في نوع الجنس في عام 2018 ، كان أداء أنظمة التعرف على الوجه في الاستخدام التجاري أفضل للأفراد من الذكور الأخف وزنا والأسوأ بالنسبة للإناث الأكثر قتامة [1]. لا يكمن جوهر المشكلة في تقنية الذكاء الاصطناعي بحد ذاتها ، بل في كيفية تدريب أنظمة التعرف على الوجه التي تعمل بالذكاء الاصطناعي. لكي تعمل أنظمة التعرف على الوجه حسب الرغبة - وتصبح النتائج دقيقة بشكل متزايد - يجب أن تكون بيانات التدريب متنوعة وتوفر مجموعة واسعة من التغطية ، كما هو موضح في عملنا السابق [2]. على سبيل المثال ، يجب أن تكون مجموعات بيانات التدريب كبيرة بما يكفي ومختلفة بما يكفي لتتعلم التكنولوجيا جميع الطرق التي تختلف بها الوجوه من أجل التعرف بدقة على تلك الاختلافات في مجموعة متنوعة من المواقف. يجب أن تعكس الصور توزيع الميزات في الوجوه التي نراها في العالم.
كيف نقيس ونضمن تنوع الوجوه البشرية؟ من ناحية ، نحن على دراية بكيفية اختلاف الوجوه حسب العمر والجنس ولون البشرة ، وكيف يمكن أن تختلف الوجوه المختلفة عبر بعض هذه الأبعاد. كان التركيز الأكبر على تقنية التعرف على الوجه على مدى أدائها الجيد ضمن هذه السمات. ولكن ، كما أظهرت الدراسات السابقة ، فإن هذه السمات ليست سوى جزء من اللغز وليست كافية تمامًا لوصف التنوع الكامل لوجوه الإنسان. تعتبر الأبعاد مثل تناسق الوجه والتباين في الوجه والوضع الظاهر في الوجه أو طول أو عرض سمات الوجه (العين والأنف والجبهة وما إلى ذلك) من الأمور المهمة أيضًا.
اليوم ، تطرح IBM Research مجموعة بيانات جديدة كبيرة ومتنوعة تسمى Diversity in Faces (DiF) للمضي قدماً في دراسة النزاهة والدقة في تقنية التعرف على الوجه. يقدم DiF ، وهو الأول من نوعه المتاح لمجتمع الأبحاث العالمي ، مجموعة من التعليقات التوضيحية التي تحتوي على مليون صورة بشرية للوجه. باستخدام الصور المتاحة للجمهور من مجموعة بيانات YFCC-100M Creative Commons ، قمنا بتعليق الوجوه باستخدام 10 أنظمة ترميز مستقلة ومستقلة من الأدبيات العلمية [3-12]. تتضمن مخططات الترميز بشكل أساسي مقاييس موضوعية للوجوه البشرية ، مثل السمات القحفية الوجهية ، بالإضافة إلى تعليقات توضيحية أكثر موضوعية ، مثل التنبؤات العمرية والجنسانية. نحن نؤمن باستخراج وإصدار تعليقات توضيحية لمخطط ترميز الوجه على مجموعة بيانات كبيرة من 1 مليون صورة من الوجوه ، وسنسرع في دراسة تنوع وتغطية البيانات لأنظمة التعرف على الوجه AI لضمان أنظمة ذكاء اصطناعية أكثر عدلاً ودقّة. إصدار اليوم هو ببساطة الخطوة الأولى.
أنتجت العديد من التطورات الحديثة في الذكاء الاصطناعي قدرات رائعة لأجهزة الكمبيوتر لإنجاز مهام معقدة ومتطورة بشكل متزايد ، مثل ترجمة الكلام عبر اللغات لتوصيل الاتصالات عبر الثقافات ، وتحسين التفاعلات المعقدة بين الناس والآلات ، والتعرف تلقائيًا على محتويات الفيديو للمساعدة في تطبيقات السلامة.
يأتي جزء كبير من قوة الذكاء الاصطناعي اليوم من استخدام التعلم العميق المستند إلى البيانات لتدريب نماذج أكثر دقة باستخدام كميات متزايدة من البيانات. ومع ذلك ، يمكن أن تكون قوة هذه التقنيات نقطة ضعف أيضًا. تتعلم أنظمة الذكاء الاصطناعي ما يتم تدريسه ، وإذا لم يتم تدريسها بمجموعات بيانات قوية ومتنوعة ، فقد تتعرض الدقة والإنصاف للخطر. لهذا السبب ، تحتاج IBM ، إلى جانب مطوري الذكاء الاصطناعي ومجتمع الأبحاث ، إلى التفكير في البيانات التي نستخدمها للتدريب. لا تزال شركة IBM ملتزمة بتطوير أنظمة الذكاء الاصطناعي لجعل العالم أكثر عدالة.
يتجلى التحدي في تدريب الذكاء الاصطناعي بطريقة واضحة وعميقة للغاية مع تقنية التعرف على الوجه. يمكن أن تكون هناك صعوبات في صنع أنظمة التعرف على الوجه التي تلبي توقعات الإنصاف. كما هو مبين من Joy Buolamwini و Timnit Gebru في نوع الجنس في عام 2018 ، كان أداء أنظمة التعرف على الوجه في الاستخدام التجاري أفضل للأفراد من الذكور الأخف وزنا والأسوأ بالنسبة للإناث الأكثر قتامة [1]. لا يكمن جوهر المشكلة في تقنية الذكاء الاصطناعي بحد ذاتها ، بل في كيفية تدريب أنظمة التعرف على الوجه التي تعمل بالذكاء الاصطناعي. لكي تعمل أنظمة التعرف على الوجه حسب الرغبة - وتصبح النتائج دقيقة بشكل متزايد - يجب أن تكون بيانات التدريب متنوعة وتوفر مجموعة واسعة من التغطية ، كما هو موضح في عملنا السابق [2]. على سبيل المثال ، يجب أن تكون مجموعات بيانات التدريب كبيرة بما يكفي ومختلفة بما يكفي لتتعلم التكنولوجيا جميع الطرق التي تختلف بها الوجوه من أجل التعرف بدقة على تلك الاختلافات في مجموعة متنوعة من المواقف. يجب أن تعكس الصور توزيع الميزات في الوجوه التي نراها في العالم.
كيف نقيس ونضمن تنوع الوجوه البشرية؟ من ناحية ، نحن على دراية بكيفية اختلاف الوجوه حسب العمر والجنس ولون البشرة ، وكيف يمكن أن تختلف الوجوه المختلفة عبر بعض هذه الأبعاد. كان التركيز الأكبر على تقنية التعرف على الوجه على مدى أدائها الجيد ضمن هذه السمات. ولكن ، كما أظهرت الدراسات السابقة ، فإن هذه السمات ليست سوى جزء من اللغز وليست كافية تمامًا لوصف التنوع الكامل لوجوه الإنسان. تعتبر الأبعاد مثل تناسق الوجه والتباين في الوجه والوضع الظاهر في الوجه أو طول أو عرض سمات الوجه (العين والأنف والجبهة وما إلى ذلك) من الأمور المهمة أيضًا.
اليوم ، تطرح IBM Research مجموعة بيانات جديدة كبيرة ومتنوعة تسمى Diversity in Faces (DiF) للمضي قدماً في دراسة النزاهة والدقة في تقنية التعرف على الوجه. يقدم DiF ، وهو الأول من نوعه المتاح لمجتمع الأبحاث العالمي ، مجموعة من التعليقات التوضيحية التي تحتوي على مليون صورة بشرية للوجه. باستخدام الصور المتاحة للجمهور من مجموعة بيانات YFCC-100M Creative Commons ، قمنا بتعليق الوجوه باستخدام 10 أنظمة ترميز مستقلة ومستقلة من الأدبيات العلمية [3-12]. تتضمن مخططات الترميز بشكل أساسي مقاييس موضوعية للوجوه البشرية ، مثل السمات القحفية الوجهية ، بالإضافة إلى تعليقات توضيحية أكثر موضوعية ، مثل التنبؤات العمرية والجنسانية. نحن نؤمن باستخراج وإصدار تعليقات توضيحية لمخطط ترميز الوجه على مجموعة بيانات كبيرة من 1 مليون صورة من الوجوه ، وسنسرع في دراسة تنوع وتغطية البيانات لأنظمة التعرف على الوجه AI لضمان أنظمة ذكاء اصطناعية أكثر عدلاً ودقّة. إصدار اليوم هو ببساطة الخطوة الأولى.
نعتقد أن مجموعة بيانات DiF وخطط الترميز العشرة الخاصة بها توفر نقطة انطلاق للباحثين في جميع أنحاء العالم الذين يدرسون تقنية التعرف على الوجه. تشتمل طرق ترميز الوجه العشرة على الوجه القحفي (على سبيل المثال ، طول الرأس وطول الأنف وارتفاع الجبين) ونسب الوجه (التناظر) والسمات البصرية (العمر والجنس) والوقف والدقة ، من بين أمور أخرى. هذه المخططات هي واحدة من أقوى المخططات التي حددها الأدب العلمي ، وبناء أساس متين لمعارفنا الجماعية.
أظهر تحليلنا المبدئي أن مجموعة بيانات DiF توفر توزيعًا أكثر توازناً وتغطية أوسع لصور الوجه مقارنةً بمجموعات البيانات السابقة. علاوة على ذلك ، فإن الرؤى التي تم الحصول عليها من التحليل الإحصائي لمخططات الترميز الأولية العشرة على مجموعة بيانات DiF قد عززت فهمنا الخاص لما
أظهر تحليلنا المبدئي أن مجموعة بيانات DiF توفر توزيعًا أكثر توازناً وتغطية أوسع لصور الوجه مقارنةً بمجموعات البيانات السابقة. علاوة على ذلك ، فإن الرؤى التي تم الحصول عليها من التحليل الإحصائي لمخططات الترميز الأولية العشرة على مجموعة بيانات DiF قد عززت فهمنا الخاص لما
ما هو مهم لوصف الوجوه البشرية ومكننا من مواصلة البحوث الهامة في طرق لتحسين تكنولوجيا التعرف على الوجه.
مجموعة البيانات متاحة اليوم لمجتمع البحث العالمي عند الطلب. تفخر شركة IBM بتوفيرها ، وهدفنا هو المساعدة في إجراء المزيد من الأبحاث الجماعية والمساهمة في إنشاء أنظمة أكثر ذكاءً.
بينما تلتزم IBM Research بمواصلة الدراسة والتحقق من أنظمة التعرف على الوجه الأكثر عدالة ، فإننا لا نعتقد أنه يمكننا القيام بذلك وحدنا. مع إصدار اليوم ، نحث الآخرين على المساهمة في مجموعة الأبحاث المتنامية والمضي قدماً بجدول الأعمال العلمي الهام هذا.
لطلب الوصول إلى مجموعة بيانات DiF ، تفضل بزيارة صفحة الويب الخاصة بنا. لمعرفة المزيد حول DiF ، اقرأ مقالتنا "التنوع في الوجوه".
مجموعة البيانات متاحة اليوم لمجتمع البحث العالمي عند الطلب. تفخر شركة IBM بتوفيرها ، وهدفنا هو المساعدة في إجراء المزيد من الأبحاث الجماعية والمساهمة في إنشاء أنظمة أكثر ذكاءً.
بينما تلتزم IBM Research بمواصلة الدراسة والتحقق من أنظمة التعرف على الوجه الأكثر عدالة ، فإننا لا نعتقد أنه يمكننا القيام بذلك وحدنا. مع إصدار اليوم ، نحث الآخرين على المساهمة في مجموعة الأبحاث المتنامية والمضي قدماً بجدول الأعمال العلمي الهام هذا.
لطلب الوصول إلى مجموعة بيانات DiF ، تفضل بزيارة صفحة الويب الخاصة بنا. لمعرفة المزيد حول DiF ، اقرأ مقالتنا "التنوع في الوجوه".
References
[1] J. Buolamwini & T. Gebru, “Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification,” Proc. of Machine Learning Research. 2018.[2] R. Puri, “Mitigating Bias in AI Models”, February 6, 2018.
[3] L. G. Farkas, Anthropometry of the Head and Face, Raven Press, 1994.
[4] A. Chardon I. Cretois and C. Hourseau, “Skin colour typology and suntanning pathways,” International Journal of Cosmetic Science, Aug. 1991, 13(4), pp. 191-208.
[5] Y. Liu, K. L. Schmidt, J. F. Cohn, S. Mitra, “Facial asymmetry quantification for expression invariant human identification,” Computer Vision and Image Understanding, Volume 91, Issues 1–2, July–August 2003, pp. 138-159.
[6] L. G. Farkas, et. al, “International anthropometric study of facial morphology in various ethnic groups/races,” J Craniofac Surg. 2005 Jul;16(4), pp. 615-46.
[7] N. Ramanathan, R. Chellappa, “Modeling Age Progression in Young Faces,” Intl. Conf. on Computer Vision and Pattern Recognition (CVPR), 2006, pp. 387-394.
[8] A. C. Little, B. C. Jones, L. M. DeBruine, “Facial attractiveness: evolutionary based research,” Philos Trans R Soc Lond B Biol Sci. 2011 Jun 12;366(1571), pp. 1638-59.
[9] X. Zhu, D. Ramanan, “Face Detection, Pose Estimation, and Landmark Localization in the Wild,” Intl. Conf. on Computer Vision and Pattern Recognition (CVPR), 2012, pp. 2879-2886.
[10] A. Porcheron, E. Mauger, R. Russell, “Aspects of Facial Contrast Decrease with Age and Are Cues for Age Perception,” PLoS One 8(3), Mar. 6, 2013
[11] Z. Liu, P. Luo, X. Wang, X. Tang, “Deep Learning Face Attributes in the Wild”, Intl. Conf. on Computer Vision (ICCV), 2015, pp. 3730-3738.
[12] R. Rothe, R. Timofte, L. Van Gool, “Deep Expectation of Real and Apparent Age from a Single Image Without Facial Landmarks”, Intl. Journal of Computer Vision, Volume 126 Issue 2-4, April 2018, pp. 144-157.
ليست هناك تعليقات:
إرسال تعليق