El Problema

El Problema

Nuevas estrategias para enfrentar los efectos de la Inteligencia Artificial

Actualmente existe un rápido incremento del uso de sistemas y aplicaciones de decisiones automatizadasutilizando inteligencia artificial (IA) para objetivos tan variados como determinar la asignación de subsidios, de créditos financieros, seguros, de puntajes para procesos de selección de personal, y más. De hecho, cada vez son más los países que han creado, o están creando estrategias nacionales de Inteligencia Artificial, para promover su uso. Esto porque permiten resolver problemas de alta complejidad, facilitar la automatización y personalizar procesos, con mayor eficiencia de los recursos.

Pero al mismo tiempo que la adopción de estos sistemas se masifica, exclusiones históricas se repiten. La transformación digital ha excluido nuevamente y de manera sistemáticaa las mujeres. La exclusión es multidimesioal. No ejercen un poder real en la creación de las reglas, estándares y datos del mañana. Los sistemas automatizados se entrenan utilizando sets de datos predeterminados, que buscan representar el mundo real, pero la mayoría de las veces los únicos datos que existen no reflejan la realidad, sino que se basan en estereotipos y prejuicios que existen en el mundo físico. Por lo tanto, los resultados de las tomas de decisiones automatizadas replican estos sesgos.

Por ejemplo, Amazon buscó implementar un sistema de inteligencia artificial para simplificar sus procesos de contratación. Al recibir una cantidad enorme de postulaciones, creó un sistema algorítmico que analizó qué personas dentro de sus trabajadores tenían el mejor desempeño (los datos predeterminados) y buscó entre las y los nuevos postulantes a personas que tuvieran características similares, para darles prioridad en la contratación. El problema es que Amazon, como la mayoría de las empresas del mundo, sufre de los sesgos de género, y su planta de empleados tiene mayor cantidad de hombres en áreas que son tradicionalmente masculinas. Por esto, la inteligencia artificial empezó a rechazar los CVs de mujeres aplicando a dichos puestos, discriminando arbitrariamente a personas que podrían haberse desempeñado muy bien. Ésto evidencia que el aprendizaje automático codifica las desigualdades del mundo offline y sus discriminaciones históricas, un reflejo de la información que recibe del mundo análogo. A+ es una alianza para terminar con ese círculo vicioso, y asegurarnos de que las nuevas tecnologías no programen e implementen en nuestro futuro un sistema que es injusto hacia mujeres, niñas, y otros grupos excluidos. El momento de actuar es hoy, antes de que sea demasiado tarde.