Un equipo de investigadores de la Unidad de Gráficos y Visión por Ordenador e Inteligencia Artificial de la Universidad de las Islas Baleares ha sido galardonado con el premio M. Carmen Marcos al mejor artículo científico del ámbito de la interacción persona-ordenador con perspectiva de género para el trabajo “Facial Expression Recognition: Impact of Gender on Fairness and Expressions”, presentado en la sesión Engendering Technologies 2022 del XXII Congreso Internacional de Interacción Persona-Ordenador (Interacción 2022).
Los autores del trabajo premiado son Cristina Manresa Yee, Silvia Ramis Guarinos y Josep Maria Buades Rubio, profesores del Departamento de Ciencias Matemáticas e Informática de la UIB.
El sesgo de género en el reconocimiento de las emociones
Conocer el estado emocional de las personas de forma automática tiene interés por las múltiples aplicaciones que pueden beneficiarse de esta información: un videojuego que adapta su dificultad a identificar el aburrimiento del jugador, un sistema de formación que repite la lección al comprender la perplejidad del estudiante o un asistente virtual que intenta tranquilizar al usuario enojado. Hoy en día, los sistemas de reconocimiento de expresiones faciales que utilizan el deep learning han obtenido buenos resultados, pero se basan en entrenar al sistema con una gran cantidad de datos. Si existe algún sesgo en el conjunto de entrenamiento, por ejemplo, género, raza o clase social, los resultados del sistema pueden verse sistemáticamente afectados reproduciendo el sesgo presente en el entrenamiento.
El objetivo del trabajo premiado ha sido analizar cómo el sesgo de género influye en los resultados de reconocimiento de expresiones faciales. Las expresiones faciales reconocidas son las básicas o universales de Ekman —alegría, tristeza, asco, asombro, miedo y enfado— y, aunque el género es un concepto más amplio, en este caso se trata como una variable binaria: hombre o mujer .
Para el estudio se ha manipulado el conjunto de entrenamiento para obtener entrenamientos sólo con imágenes de varones, mujeres y mixtos. Para analizar cómo afecta el reconocimiento, se han analizado métricas de rendimiento y equidad y se han estudiado qué expresiones resultan más sensibles considerando el sesgo. Como resultados principales, los conjuntos de datos sesgados no afectan de la misma forma a todas las expresiones faciales: el entrenamiento con sólo datos masculinos obtiene resultados más justos que el que se hace sólo con datos femeninos. Esto podría estar relacionado con las afirmaciones de las mujeres siendo generalmente más expresivas que los hombres, tanto en intensidad como en frecuencia. Existe una excepción, que es la expresión de enfado, que es la más sesgada cuando el entrenamiento es sólo con hombres. Como era de esperar, el conjunto mixto obtiene los resultados más justos.
Los resultados de este trabajo ayudarán a los lectores a concienciarse sobre los sesgos algorítmicos existentes, y, los investigadores, a invertir recursos para obtener conjuntos de datos equilibrados y sin sesgos.
Referencia bibliográfica
Cristina Manresa-Yee, Silvia Ramis Guarinos y Josep Maria Buades Rubio (2022). Facial Expression Recognition: Impacto of Gender on Fairness and Expressions, en Proceedings de la XXII International Conference on Human Computer Interaction (Interacción ’22). Association for Computing Machinery, Nueva York, NY, EE.UU., Artículo 13, 1–8.
