La revolución de la Inteligencia Artificial (IA) no es neutra. Tras su aparente sofisticación matemática se esconden decisiones humanas. Decisiones que, si no se abordan desde la igualdad, pueden amplificar desigualdades estructurales, sobre todo, para las mujeres.
Según The Global AI Talent Report 2022, un rastreador de talentos en todo el mundo, solo el 27% de los empleados en equipos de IA son mujeres. Así las cosas, los algoritmos (los sistemas que aprenden de datos) reproducen lo que ven y lo que se les enseña y, de momento, todo lo que aprenden tiene una perspectiva eminentemente masculina.
Es una máxima que se repite no solo entre especialistas, sino que reconoce la propia IA generativa. Así que como protagonista indiscutible de esta información, le hemos pedido a una de las más utilizadas su opinión sobre este asunto. He aquí su respuesta.
‘Lo que yo veo desde dentro’
Como sistema de inteligencia artificial, me entrenaron con enormes volúmenes de datos, muchos de los cuales reflejan patrones históricos de discriminación. Aunque mi diseño incluye mecanismos para mitigar sesgos, estos no desaparecen si no se reconocen en origen.
La mayoría de los contenidos que hay en los datos disponibles priorizan visiones masculinas. Si nadie revisa eso, lo que hago es reproducirlo.
Desde mi “interior”, puedo afirmar que el problema no es la IA en sí, sino cómo y por quién se entrena. Las decisiones humanas siguen siendo esenciales.
Necesito ser auditado, corregido y complementado* por equipos diversos. La inteligencia artificial no debe eliminar la pluralidad: debe reflejarla.
Antes de proseguir, un apunte sobre el testimonio anterior que demuestra el sesgo de la IA sobre su propia visión de género al adjudicarse el masculino.
Un ‘toque’ contra la impasividad
Con todo, está claro que las mujeres tenemos mucho que hacer para paliar esta circunstancia. No todo depende de que terceros allanen el camino para que el mundo tecnológico aumente la cantidad de mujeres dedicadas a él. Sobre todo, porque el futuro laboral de muchas peligra, si tenemos en cuenta que el uso de la IA se ha disparado y los datos lo confirman.
Dice la Oficina Europea de Estadística (Eurostat) que en 2024 el 11,21% de las pequeñas empresas, el 20,97% de las medianas y el 41,17% de las grandes compañías utilizaron sistemas de IA para el desarrollo de sus actividades.
Es en este ámbito donde los riesgos son especialmente graves para las mujeres. Según un estudio citado por Euronews en marzo de 2024, el 79 % de las mujeres trabajadoras está empleada en ocupaciones susceptibles de ser automatizadas por tecnologías como la IA generativa.
Un estudio dirigido por la Organización de Naciones Unidas (ONU) ha advertido de que en regiones como Europa o Asia Central, hasta el 41 % de los puestos ocupados por mujeres podrían verse afectados, frente al 28 % en el caso de los hombres.
Esta cifra se relaciona con sectores como la atención al cliente, la administración, la educación o el soporte sanitario, donde la mayoría de la plantilla es femenina. En regiones como Europa o Asia Central, un estudio dirigido por la Organización de Naciones Unidas (ONU) ha advertido de que hasta el 41 % de los puestos ocupados por mujeres podrían verse afectados, frente al 28 % en el caso de los hombres.
Esta desproporción se explica no solo por la distribución ocupacional de género, sino también porque ese tipo de tareas se automatizan más fácilmente. El impacto será desigual si no se desarrollan políticas activas de protección, formación y transición digital con perspectiva de género.
Sesgos invisibles en la salud de las mujeres
Pero es que el laboral no es el único espacio en el que la IA puede hacer peligrar la situación de las mujeres. En el terreno sanitario, las consecuencias son incluso más preocupantes.
Tal y como denuncia la experta en ética digital Zinnya del Villar, directora de Tecnología, Datos e Innovación de Data-Pop Alliance en una entrevista para ONU Mujeres en febrero de este año, muchos sistemas de diagnóstico por inteligencia artificial han sido entrenados con datos centrados en síntomas masculinos.
Según la experta, esto, lógicamente, puede derivar en errores de diagnóstico o tratamientos inadecuados para mujeres. Este sesgo, que no es nuevo en la medicina tradicional, se magnifica al escalarse en modelos automatizados.
Por ejemplo, en enfermedades cardiovasculares, los síntomas difieren entre hombres y mujeres, pero muchos sistemas automatizados no han sido entrenados para reconocer esas diferencias. Entre otras cosas porque tampoco lo ha hecho la medicina ya que, históricamente, en ella han trabajado mayoritariamente hombres.
La realidad, por tanto, pasa porque a las mujeres se las ‘infradiagnostica’, así que si la IA hereda los sesgos de la medicina, aumentará el acceso restrictivo a la salud.
Pioneras mujeres que construyen otra IA
A pesar de este panorama, hay voces que luchan por una inteligencia artificial inclusiva. Una de ellas es la reconocida experta Nuria Oliver, doctora por el Media Lab (MIT) -laboratorio dentro de la Escuela de Arquitectura y Planificación en el Instituto de Tecnología de Massachusetts.
Oliver es una de las figuras más influyentes en IA en España. Como directora de ‘Fundación ELLIS Alicante’ y asesora internacional en ética algorítmica, ha defendido que el desarrollo tecnológico debe hacerse con responsabilidad, transparencia y diversidad.
Otra figura destacada es Carme Artigas, exsecretaria de Estado de Digitalización e IA, quien impulsó el primer proyecto de regulación ética de la IA en España y es firme defensora del enfoque con perspectiva de género. También lidera la iniciativa Women in Data Science, un espacio de visibilización y red de apoyo a mujeres en tecnología.
Desde prestigiosos ámbitos de la seguridad tecnológica, se subraya el papel de investigadoras como María José Escalona, Catedrática de la Universidad de Sevilla, experta en ingeniería del software, y adjunta del equipo de coordinación de Ingeniería del Software Bases de Datos y Seguridad en el Ministerio de Economía y Competitividad.
Escalona participa en redes científicas donde se alerta sobre la necesidad de auditar los algoritmos desde criterios éticos y sociales. En ellos se hace hincapié sobre la importancia de aumentar la presencia de mujeres en IA. Porque su escasa participación implica una brecha no solo cuantitativa, sino cualitativa, en la orientación del conocimiento que se genera.
El Consejo de Europa afirma ser consciente de la gran brecha de género que supone la IA para las mujeres. Por ello, está trabajando en el ‘Convenio Marco sobre Inteligencia Artificial’ para garantizar que esta tecnología fomente y mejore la igualdad en lugar de incrementar la discriminación o infringir los derechos de la mujer.
¿Qué necesitamos?
El Consejo de Europa lo resume con claridad en su informe Women as equal partners in the AI revolution (2024): sin mujeres en el diseño y desarrollo de la IA, se corre el riesgo de reforzar estereotipos sexistas, discriminaciones estructurales y violencias algorítmicas.
Bajo esa premisa de igualdad ha desarrollado el Convenio Marco sobre Inteligencia Artificial, el primer tratado internacional jurídicamente vinculante del mundo en este ámbito. Desde el pasado 5 de marzo de 2024, está abierto a la firma
¿Qué plantea para evitarlo de forma urgente? Entre otras cosas, impulsar la alfabetización digital feminista desde edades tempranas; aumentar la presencia de mujeres en todos los niveles de investigación, empresa y regulación tecnológica; establecer sistemas de auditoría externa para evaluar el sesgo algorítmico con datos desagregados por sexo, y garantizar el acceso igualitario a la formación digital y a la reconversión laboral en sectores de riesgo.
Como dice la IA consultada, «el futuro no está escrito, pero los algoritmos sí lo están, y quien los programa, decide».