La inteligencia artificial se ha convertido en uno de los nuevos escenarios de la violencia contra las mujeres. Desde imágenes manipuladas de carácter sexual hasta discursos de odio amplificados por algoritmos. Lo cierto es que el entorno digital reproduce y amplifica desigualdades que ya existen fuera de la pantalla.
Con ese diagnóstico, el Ministerio de Igualdad y el de Transformación Digital y de la Función Pública han decidido unir fuerzas e intervenir.
La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) y el Instituto de las Mujeres (IM) han formalizado este jueves un convenio de colaboración. El objetivo es combatir la violencia digital y detectar los sesgos de género presentes en los sistemas de inteligencia artificial.
El acuerdo se ha presentado en el acto Igualdad Digital Ya, celebrado en la sede del Ministerio para la Transformación Digital con motivo de la proximidad del 8 de marzo, Día Internacional de la Mujer.
Perspectiva de género a la IA
La iniciativa busca incorporar la perspectiva de género en todo el ciclo de desarrollo y supervisión de la inteligencia artificial en España. Desde el análisis de riesgos hasta la evaluación de los sistemas automatizados que se utilizan en plataformas digitales o servicios tecnológicos.
Durante el encuentro, el ministro para la Transformación Digital y de la Función Pública, Óscar López, ha advertido de algunas de las prácticas que ya se están produciendo en redes sociales mediante herramientas de inteligencia artificial. “Todos sabemos lo que está pasando», ha dicho. «Hay quienes suben vídeos de niñas a sistemas de IA y les piden que las desnuden digitalmente, generando imágenes manipuladas que son absolutamente intolerables”.
España recabará pruebas sobre la violencia contra las mujeres en las redes sociales que se incorporarán a la investigación que desarrolla la Comisión Europea.
Según ha explicado el ministro, este tipo de contenidos forman parte de las investigaciones que actualmente desarrolla la Comisión Europea sobre el funcionamiento de algunos sistemas de inteligencia artificial integrados en redes sociales, entre ellos el asistente ‘Grok’, vinculado a la plataforma ‘X’.
Pruebas de la violencia en redes
En ese contexto, la AESIA colaborará con las autoridades europeas aportando evidencias técnicas y documentales que puedan contribuir a esclarecer el uso de estas tecnologías y su impacto sobre los derechos fundamentales. Para reunir esa documentación, la agencia ha contado también con la colaboración del Instituto Nacional de Ciberseguridad (INCIBE).
El Instituto de las Mujeres, por su parte, elaborará un informe específico sobre la situación en España. El documento recogerá información procedente de organismos públicos, entidades sociales y expertos con el objetivo de ofrecer una radiografía lo más completa posible de la violencia digital que sufren mujeres y niñas.
La ministra de Igualdad, Ana Redondo, ha insistido en que la expansión del espacio digital obliga a replantear también las políticas públicas de igualdad. “La igualdad es paz, democracia y derechos humanos”, ha señalado durante su intervención. “Si hemos avanzado en democracia analógica, ahora tenemos que avanzar también en democracia digital”.
Violencia digital que trasciende
Redondo ha defendido que España cuenta con un marco avanzado de protección de los derechos de las mujeres, pero ha advertido de que el entorno digital plantea nuevos retos que no pueden abordarse con herramientas del pasado. En su opinión, la violencia que se genera en internet no queda confinada en ese espacio, sino que termina trasladándose a la vida cotidiana.
La colaboración entre la AESIA y el Instituto de las Mujeres pretende precisamente anticiparse a esos riesgos. El convenio firmado establece un marco de cooperación. Su intención es la de detectar, prevenir y corregir los sesgos de género que puedan aparecer en sistemas de inteligencia artificial, especialmente en aquellos considerados de alto riesgo.
Entre las medidas previstas figura el intercambio de información técnica, la realización de pruebas sobre sistemas automatizados y la formación del personal de la agencia en materia de igualdad. La AESIA también podrá emitir alertas sobre tecnologías que puedan generar discriminación o vulnerar derechos fundamentales.
Igualdad y Función Pública le piden a la UE que continúe siendo punta de lanza contra la violencia digital.
El acuerdo contempla además acciones conjuntas de sensibilización y formación. Estas están dirigidas a promover una cultura tecnológica basada en principios éticos y en el respeto a la igualdad de género. Además, ambas instituciones prevén colaborar en estudios e informes específicos dentro del Laboratorio de Ideas de la AESIA, así como en encuentros, talleres y espacios de diálogo con la sociedad civil.
Declaración institucional
Paralelamente, ambas entidades han firmado una declaración institucional. Esta está centrada en la protección de los derechos fundamentales de mujeres y menores en un entorno cada vez más condicionado por la inteligencia artificial. El texto, pues, reconoce los avances regulatorios impulsados por la Unión Europea y pide que el bloque comunitario continúe liderando la respuesta frente a la violencia digital.
En esa declaración se advierte de que la proliferación de contenidos misóginos, sexistas y de odio en redes sociales tiene efectos directos sobre la participación de las mujeres en el espacio público. Estos discursos, señalan las instituciones firmantes, no solo deterioran el debate democrático, sino que generan consecuencias que trascienden lo digital.
Entre ellas figuran el deterioro de la salud mental, el silenciamiento de voces femeninas en internet, el acoso persistente. En algunos casos, incluso, estas situaciones de violencia terminan materializándose también fuera de la red.
Por último, para asegurar que las medidas acordadas tengan continuidad, el convenio establece la creación de una comisión de seguimiento. Esta se encargará de coordinar las actuaciones y supervisar el desarrollo de las iniciativas previstas durante la vigencia del acuerdo.