La IA no cierra las brechas de género, hay que entrenar a los sistemas

El congreso que se desarrolla en Eslovenia se centra en los desafíos a los que la comunidad internacional cree que hay que prestar especial atención para un desarrollo responsable de la IA, como es el caso de la igualdad de género o la crisis ambiental.

De la Redacción de EL NORTE
diarias@diarioelnorte.com.ar

Sin un diseño ético desde el origen, la inteligencia artificial (IA) ahondará en la brecha de género y la discriminación. Por eso, es fundamental entrenar los sistemas basados en ella con datos en los que estén correctamente representadas las mujeres.

Así lo señalaron a la agencia EFE dos de las mayores expertas en la materia reunidas por Unesco en Eslovenia, en el II Foro Global sobre la Ética de la IA, que se centra en los desafíos a los que la comunidad internacional cree que hay que prestar especial atención para un desarrollo responsable de la IA, como es el caso de la igualdad de género o la crisis ambiental.

“La tecnología no cierra brechas de manera espontánea, si no hay unas políticas claras y diseños basados en principios inclusivos desde el origen, aumentarán los sesgos de género”, afirmó en una entrevista con EFE la mexicana Elena Estavillo, directora del Centro para la Sociedad del Futuro y experta del consejo asesor de Unesco para guiar a sus 194 Estados hacia un desarrollo ético de la IA.

FALTA DE REPRESENTACIÓN Y PARTICIPACIÓN

La visión de las mujeres en el campo tecnológico ha estado “muy relegada” por una histórica falta de representación y participación, que persiste con un desarrollo tan potente como la inteligencia artificial, donde según datos de Unesco el porcentaje de mujeres que está en la toma de decisiones importantes (en qué materias se invierte, cómo se diseñan, etc.) no llega al 20%.

Estavillo, que fue directora del Instituto Federal de Telecomunicaciones de México entre 2013 y 2019, incidió en que para que la IA sea una oportunidad para la igualdad, hay dos cuestiones clave: que las mujeres estén bien representadas en la toma de decisiones para incorporar la perspectiva de género, y que los sistemas de IA sean entrenados con datos sin sesgos.

BASES SESGADAS QUE REPRODUCEN

A juicio de la economista mexicana ninguna de las dos condiciones se da: “Los sistemas de IA discriminan a las mujeres porque aprenden de bases de datos sesgadas, que no tienden sino a reproducir inercias”.

Citó como ejemplo cómo la multinacional Amazon excluyó a las mujeres para empleos en ingeniería porque usó un sistema de selección basado en IA que las calificaba con una nota inferior porque esa herramienta se basó en datos donde venía que históricamente eran hombres los elegidos para esos puestos.

PERSPECTIVA Y DECISIONES

Estavillo advirtió de que hay que incorporar perspectiva de género y extremar los controles de la IA en la toma de decisiones que dan acceso a empleos, becas, créditos y todo aquello que suponga oportunidades para las mujeres, porque “históricamente es donde más se ha discriminado a las mujeres”.

El problema de estos nuevos desarrollos es que “parten de brechas existentes y las están expandiendo en este ecosistema de inteligencia artificial”, apuntó la también mexicana Constanza Gómez, fundadora de ‘IA for Climate’ y miembro también del consejo asesor de Unesco en ética para la IA.

Para corregirlas “solo cabe un diseño ético desde el origen, sin dar lugar a que se comentan esas decisiones sesgadas y discriminatorias para actuar”.

Ambas expertas, parte de la organización de Mujeres por la Ética en la IA (Women4Ethics of AI, por su nombre en inglés), coinciden en la importancia de colaborar a nivel de gobiernos, academia, empresas y de organizaciones ciudadanas para impulsar estos diseños algorítmicos éticos, de tal manera que la IA “lleve a cerrar brechas en lugar de amplificarlas”.

Y es que “los síntomas son las brechas” pero en el fondo de las mismas “subyace la cultura, los estereotipos, la falta de participación de la mujer”, resaltaron.