Llamado a la Acción

Llamado a la Acción

Declaración

La desigualdad algorítmica se puede corregir con recomendaciones prácticas. Conócelas aquí:


Llamamos a gobiernos, al sector privado y a organizaciones de la sociedad civil a:

< 1 >

Defender y adoptar directrices que establecen transparencia y rendición de cuentas en la toma de decisiones algorítmicas (ADM), tanto en el sector público como en el privado.

Debemos asegurar que el machine learning no perpetúa un sistema que ya está sesgado en nuestros futuros.

Llamado a la acción

Acciones de equidad algorítmica para corregir sesgos de la vida real y barreras que impiden a mujeres y niñas conseguir participación completa y derechos iguales.

Las instituciones públicas deben pilotear y liderar: La Acción Afirmativa para Algoritmos debe aplicarse cuando las instituciones públicas pilotean ADM. Los pilotos deben basarse en investigación social antigua y nueva que sitúa incentivos sociales, subsidios y becas en espacios de los que las mujeres han sido tradicionalmente excluidas. Esta es una agenda positiva que avanza la promoción de la igualdad y corrige la visibilidad, calidad e influencia de las mujeres en forma proporcional a la población.

Los sectores públicos y privado deben incluir Evaluaciones de Impacto Algorítmico (AIA): Un marco de autoevaluación diseñado para respetar el derecho del público a saber cómo los sistemas de inteligencia artificial impactan sus vidas en relación a los principios de equidad y accountability.

Testeo riguroso a lo largo del ciclo de vida de la inteligencia artificial: El testeo debe considerar los orígenes y el uso de data de entrenamiento, de testeo, modelos, APIs y otros componentes a lo largo del ciclo de vida de un producto. También debe cubrir pruebas previas al lanzamiento, auditoría independiente, certificación y monitoreo constante para testear sesgos y otros perjuicios. La ADM debe mejorar la calidad de vida, y no controlar la experiencia humana.

Marcos legales robustos para promover la rendición de cuentas: Que incluyan una potencial expansión de capacidades a agencias específicas del sector, o la creación de nuevos términos de referencia para supervisar, auditar y monitorear los sistemas de ADM para asegurar la responsabilidad legal en los sistemas públicos y privados.

Directrices de adquisiciones responsivas a género: OLas organizaciones a todos niveles de gobierno deben desarrollar directrices de adquisiciones que consideren equidad de género y tengan metas en cifras, además de describir roles y responsabilidades en las organizaciones para aplicar estos principios.

Mejorar datasets — abrir datos desagregados por género y recolectar datos inclusivamente: Producir activamente datasets desagregados por género, ya que esto permite un mejor entendimiento de las fuentes de sesgos en la inteligencia artificial, para poder mejorar el desempeño de los sistemas de machine learning. También se debe invertir en controles para supervisar los procesos de recolección de datos y verificación hecha por humanos, para que los datos no sean recolectado en detrimento de mujeres y otros grupos tradicionalmente excluidos. Por último, es importante aplicar procesos más inclusivos de recolección de datos, que no sólo se enfoquen en cantidad, sino que también en la calidad de los sets de datos.



< 2 >

Tomar pasos claros y proactivos para incluir una variedad interseccional y números paritarios de mujeres y niñas en la creación, diseño y código de toma de decisión basada en algoritmos.

Las nuevas tecnologías ofrecen nuevas oportunidades que incluyen la creación de estructuras genuinamente nuevas, que requieren nuevas ideas y nuevos equipos. Mientras en el mundo real removemos los antiguos roles de género, estos se están consolidando en la nueva toma de decisiones basada en algoritmos, con concepciones antiguas y estereotipadas de género, clase y raza. Necesitamos pensamiento innovador e inclusivo. Esta imaginación y habilidades puede ser proveída por el recurso intelectual más grande y no explorado en el planeta: mujeres y niñas.

Llamado a la acción

Balance de género en la toma de decisión basada en inteligencia artificial: GEl balance de género en la toma de decisiones debe ser puesto en la agenda oficial de todos quienes están involucrados en el financiamiento, diseño, adopción y evaluación de la ADM.

Balance de género en equipos de diseño: El incluir un rango robusto de feministas interseccionales en el diseño de sistemas de ADM va a gatillar mayor innovación y creatividad, así como también la detección y mitigación de sesgos y efectos nocivos en mujeres, niñas, y grupos tradicionalmente excluidos.

Exigir a las empresas a publicar y reportar activamente sobre su equidad de género en equipos de diseño: Incentivar a compañías con equipos balanceados.

Fondos de investigación: Crear un fondo de investigación para explorar los impactos de género e inteligencia artificial, machine learning, sesgos y equidad con un enfoque multidisciplinario que vaya más allá de las perspectivas de las ciencias de la computación y la ingeniería para añadir nuevas formas de incluir a la alfabetización digital y estudiar los efectos políticos, económicos y sociales de la ADM en las vidas de las mujeres y los grupos tradicionalmente excluidos de la creación de normas y toma de decisiones.



< 3 >

Cooperación internacional y un enfoque hacia la ADM y el Machine Learning basado en derechos humanos.

La corrección a gran escala de los sistemas de datos sesgados requerirá cooperación internacional y multilateral para asegurar que nadie se quede fuera.

Llamado a la acción

Una revisión de todas las agencias de Naciones Unida a la aplicación de los estándares y leyes existentes sobre Derechos Humanos en ADM, género y machine learning: Esto puede guiar y provocar el pensamiento creativo para un enfoque basado en derechos humanos que sea pertinente en la rápida y cambiante era digital.

Desarrollar un set de métricas para la inclusión digital: Que debe ser urgentemente acordado, medido alrededor del mundo y detallado con datos desagregados por sexo en los reportes anuales de instituciones como Naciones Unidas, el Fondo Monetario Internacional, la International Telecommunications Union, el Banco Mundial, otro bancos multilaterales de desarrollo y la OCDE. .