La inteligencia artificial (IA) no es neutral. Aprende de los datos que consume y, en ese proceso, puede reproducir —e incluso amplificar— los sesgos de una sociedad que sigue siendo desigual.
Este es el punto de partida de una nueva iniciativa impulsada en España para combatir la violencia digital contra las mujeres y corregir los sesgos de género en los sistemas automatizados antes de que sus efectos sean irreversibles.
El convenio entre el Instituto de las Mujeres (IM) y la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) plantea una intervención en todas las fases del ciclo de vida de la IA, que va desde su diseño hasta su supervisión. El objetivo no es baladí, porque se trata de garantizar que las decisiones automatizadas no reproduzcan discriminaciones estructurales ni vulneren derechos fundamentales.
Guerra a los algoritmos que normalizan el machismo
Uno de los principales riesgos que aborda esta colaboración es la consolidación de prejuicios en sistemas que operan a gran escala. Cuando un algoritmo aprende de datos históricos, puede asumir como “normal” una realidad en la que las mujeres han tenido menos oportunidades o han sido representadas de forma estereotipada. Por tanto, sin intervención, estas herramientas no solo replican ese sesgo, sino que lo legitiman bajo una apariencia de objetividad tecnológica.
Además, el acuerdo pone el foco en una de las expresiones más recientes y preocupantes de la violencia de género: la violencia digital. La proliferación de contenidos manipulados mediante inteligencia artificial —como imágenes sexualizadas creadas sin consentimiento— ha abierto un nuevo campo de vulnerabilidad para mujeres y niñas. Este tipo de prácticas no solo atenta contra la intimidad, sino que puede tener consecuencias reales en la vida offline, desde el acoso hasta el daño psicológico.
Identificación, detección y corrección con perspectiva de género
En este contexto, la iniciativa busca anticiparse a los riesgos en lugar de reaccionar cuando el daño ya está hecho. La AESIA asumirá un papel clave en la identificación de sistemas de alto riesgo, el desarrollo de pruebas técnicas y la generación de evidencias que permitan detectar fallos o discriminaciones.
A su vez, se impulsarán acciones de formación y sensibilización para incorporar la perspectiva de género en el desarrollo tecnológico, un ámbito donde tradicionalmente ha estado ausente.
Otro de los ejes estratégicos del acuerdo es la producción de conocimiento. A través de estudios, análisis y espacios de reflexión como el Laboratorio de Ideas, se pretende entender mejor cómo impacta la inteligencia artificial en los derechos de las mujeres y qué medidas son más eficaces para protegerlos. Esta línea de trabajo resulta especialmente relevante en un escenario en el que la tecnología avanza más rápido que la regulación.
Alineada con Europa
La dimensión europea también es clave. España se posiciona así como un actor activo en la construcción de una inteligencia artificial ética y alineada con los estándares comunitarios. Por ello, la colaboración incluye la aportación de información a las instituciones europeas sobre el uso de sistemas de IA en redes sociales, especialmente en lo relativo a la difusión de contenidos manipulados o dañinos.
En paralelo, se prevé la elaboración de informes específicos sobre prácticas emergentes, como el uso de asistentes de inteligencia artificial para generar imágenes sexualizadas sin consentimiento. Estas investigaciones, en las que también participan organismos especializados en ciberseguridad, buscan aportar evidencia para reforzar la regulación y mejorar los mecanismos de protección.
Carácter técnico, impacto social
El trasfondo de esta iniciativa es claro: la violencia digital no es un fenómeno aislado ni exclusivamente tecnológico, sino una extensión de las desigualdades estructurales. El entorno online se ha convertido en un espacio donde se construyen identidades, se difunden referentes y se establecen relaciones, pero también donde se reproducen discursos de odio, desinformación y dinámicas que pueden silenciar a las mujeres.
La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) se encargará de identificar sistemas de alto riesgo e incorporará la perspectiva de género en la IA.
Aunque el convenio tiene un marcado carácter técnico, su impacto potencial es profundamente social. Se trata de intervenir en los sistemas que ya están moldeando la realidad cotidiana para evitar que la discriminación quede codificada en ellos.
En el acto de presentación participaron representantes del Gobierno, entre ellos el ministro para la Transformación Digital, Óscar López, y la directora del Instituto de las Mujeres, Cristina Hernández. En el mismo, ambos subrayaron la necesidad de avanzar hacia una inteligencia artificial confiable y respetuosa con los derechos fundamentales.