Sesgos algorítmicos en la Inteligencia Artificial (2ª parte)

SESGOS ALGORÍTMICOS EN LA INTELIGENCIA ARTIFICIAL (2ª parte) El día 6 de noviembre de 2025, en El Ediario.es podemos leer “la primera resolución en España, derivada de un caso sucedido en Almendralejo, se centra en la responsabilidad de los progenitores: Multa de 2.000 euros a los padres de un menor que creó una imagen de una compañera desnuda con inteligencia artificial”. Marta Borraz/Alba Pastor Hemeroteca: “DEEPFAKES SEXUALES: el caso de las menores de Almendralejo consolida una nueva forma de violencia machista”. La creación y difusión de desnudos falsos con inteligencia artificial se ha popularizado y emerge como un tipo de violencia sexual que aún cuenta con escasa regulación, pero tiene consecuencias para las víctimas. “Hay niñas pasándolo muy mal”, dicen las madres de las menores víctimas de desnudos falsos creados con inteligencia artificial. Se han circulado rápidamente entre los móviles de sus compañeros.

Un negocio con lista de espera: la app usada para “desnudar” a menores en Badajoz cobra 9 euros por 25 fotos. Aunque esta técnica de IA que permite crear videos, imágenes o audios hiperrealistas es usada en diversos ámbitos y con distintos fines, se han acumulado los casos en los que el objetivo es difundir desnudos ficticios de mujeres creados sin su consentimiento. Y buena parte de este tipo de creaciones digitales son contenido sexual o pornográfico. La influencer Laura Escanes el pasado agosto dijo sentirse “utilizada y expuesta”. Pocos meses después la cantante Rosalía denunciaba una foto suya manipulada por el rapero JC Reyes en la que aparece sin ropa: “Es un tipo de violencia”, estalló la cantante. Como dicen las periodistas de este artículo “No es una broma de mal gusto ni un hecho sin trascendencia para quien lo sufre, sino una nueva forma de violencia machista emergente y cada vez más común”. Así lo calificó el Instituto Europeo de Igualdad de Género, que engloba las deepfakes en la categoría de ciberviolencia. Para Eva Cruells, Coordinadora de FemBloc “se trata de la explotación de la sexualidad de las mujeres sin su consentimiento para ridiculizarlas, señalarlas y atacar su libertad sexual”. Nos dice que “el digital es un ámbito más en el que se ejercen las violencias que tradicionalmente hemos vivido en lo analógico y por la especificidad de la tecnología se crean nuevas”. Al sexpreading (difusión de material de contenido sexual sin consentimiento) se suma ahora una vuelta de tuerca. Son actos que tienen sus raíces en la violencia machista, según las expertas, y “mandan un mensaje no solo a las víctimas en particular, sino a todas las mujeres”, como dice la Sra. Cruells.

Para la abogada Laia Serra, penalista experta en Igualdad de Género, este tipo de violencia puede ser muy variado, pero la intención sí tiene “un denominador común”: “divulgar la representación de los cuerpos y contenidos sexuales todavía consigue tener un devastador poder de represalia, descrédito, desprestigio y estigma de las mujeres. A esta dinámica de la posverdad, la distinción entre lo cierto y lo falso cada vez tiene menos valor social”. La Psicóloga especialista en violencias machistas, María Bilbao afirma que “sigue siendo una vulneración de su intimidad y su vida privada” y, aunque el cuerpo que aparece en la imagen no sea el suyo, puede ser vivido “como una intromisión muy violenta” que conduce 54 a sentimientos de “vergüenza, miedo o desconfianza”.

Para Noelia Igareda, profesora de Filosofía del Derecho de la Universidad Autónoma de Barcelona “puede ser tan terrible como cualquier otra forma de violencia sexual”, “Habrá vergüenza, sensación de humillación, impotencia y estigma, incluso en algunos casos acaba convirtiéndose en una forma de chantaje”, como ocurrió en uno de los casos de Almendralejo, entre los que se encuentra una niña de 12 años que se enteró de que su fotografía había sido manipulada para “desnudarla” porque un chico se la mandó por Instagram amenazándola para pedirle dinero.

La concepción de violencia digital como violencia machista no se ha estipulado hasta la aprobación de la Ley de Garantía Integral de la Libertad Sexual, la conocida Ley del solo sí es sí, con ella se pretende la protección de la autonomía y la libertad sexual de las mujeres, pero se perdió la oportunidad de incorporar a la creación o difusión de deepfakes sexuales como un delito específico en el Código Penal. Sin embargo, dicen las expertas, que hay aún una escasa percepción social del daño infringido y de su impacto; una falta de conciencia y de formación en el respeto a los derechos de las personas en lo virtual y no somos siempre conscientes como dice la profesora Igareda que “la inteligencia artificial es un territorio sin ley”. Sólo podemos intentar encajar estas conductas en otros delitos penales (coacciones, integridad moral, pornografía infantil, por ejemplo y esperar a las reformas legislativas que están por venir a nivel europeo. La IA es un sistema basado en una máquina que está diseñando para funcionar con distintos niveles de autonomía y que puede mostrar capacidades de adaptación tras la información que recibe (generalmente sexista, machista, desigual, racista…) generando un resultado de salida que influye en entornos físicos y virtuales por cuantos esos sesgos se han amplificado. Estamos rodeados de asistentes virtuales inteligentes como SIRI, ALEXA, CORTANA; de sistemas de reconocimiento fácil como FACEID DE APPLE; de traductores simultáneas como GOOGLE TRANSLATE; de sistemas de recomendaciones en Plataformas de Contenidos, etc.

El Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) nº 300/2008, (UE) nº 167/2013, (UE) nº 168/2013, (UE) 2018/858m (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial) se puede considerar el primer reglamento exhaustivo sobre IA; clasifica el riesgo en cuatro categorías:

1º.- se prohíben las aplicaciones y sistemas que supongan un riesgo inaceptable, como los sistemas de puntuación social gestionados por el gobierno, como los que se utilizan en China. Estos sistemas representan una amenaza directa para la seguridad pública, los derechos fundamentales o la privacidad. Su uso está prohibido, salvo en situaciones muy excepcionales. Estos sistemas se caracterizan por manipular cognitivamente el comportamiento de personas; manipular el comportamiento que aprovecha vulnerabilidades de personas o grupos concretos; evaluar o puntuar socialmente, o identificar biométricamente en tiempo real en espacios públicos. 2º.- las aplicaciones de alto riesgo, como una herramienta de escaneo de CV que clasifica a los solicitantes de empleo, están sujetas a requisitos legales específicos. Estos sistemas pueden tener un impacto significativo en los derechos fundamentales, especialmente en salud, seguridad y empleo. Su uso está permitido solo si cumplen con medidas estrictas de seguridad y supervisión continua. Esta categoría engloba a sistemas que cumplen dos condiciones: por un lado, están condicionados a utilizar como componente de seguridad de un producto y deben someterse a una evaluación de conformidad por terceros con vistas a la comercialización o puesta en servicio de productos, y por otro lado, sistemas específicos recogidos en el Anexo III del Reglamento, cuando influyen en la toma de decisiones que suponen un riesgo sobre la salud, la seguridad o los derechos fundamentales. Se recomienda revisar en cada momento si el sistema de IA puede ser catalogado como de riesgo alto dado que la tipología de casos puede cambiar en el tiempo. 3º.- Riesgo Limitado, las aplicaciones que no están explícitamente prohibidas o catalogadas como de alto riesgo y que interactúan directamente con los usuarios, como herramientas de IA generativa y chatbots (programa de IA diseñado para simular conversaciones con usuarios humanos a través de textos o voz, empleando técnicas de procesamiento del lenguaje natural). Están sujetas a obligaciones específicas de transparencia como los sistemas de reconocimiento de emociones o que determinen la asociación a categorías sociales concretas a partir de datos biométricos, y sistemas que manipulan contenido (imagen, sonido, video, etc) que asemeje a personas, objetos, lugares y entidades que pueden inducir erróneamente a una persona a pensar que son auténticos o verídicos.

4º.- Bajo o nulo riesgo, esta clasificación no es explícita, se determina por exclusión. En esta categoría, los usuarios deben tener la libertad de tomar decisiones informadas, voluntarias y sin coacciones sobre el uso de estas tecnologías.

Las aplicaciones de IA captan y aplican la información que se ve en internet prediciendo qué contenidos nos resultan más atractivos, analizándolos y personalizándonos la publicidad, como también se pueden utilizar para diagnosticar y tratar un cáncer, de ahí la gran importancia que tiene en muchos afectos de nuestra vida. 55

Tiene aspectos tanto negativos como positivos, de ahí la necesidad de una regulación de la IA de la UE y que se está haciendo una necesidad internacional. Así a finales de septiembre de 2021 se aprobó un Proyecto de Ley en el Congreso de Brasil, que crea un marco legal para la IA. Esta legislación europea está influyendo a nivel global, sirviendo de guía a otros países en la formulación de sus propias políticas de IA, equilibrando innovación y regulación ética. El Sandbox Regulatorio de España es un ejemplo de cómo los países miembros de la UE están implementando y adaptando el marco del RIA a nivel nacional. Esta iniciativa muestra cómo España se adelanta en la creación de un ambiente seguro y controlado para el desarrollo de soluciones de IA; en paralelo, el Reino Unido está avanzando en la protección de los usuarios en el espacio digital a través del Online Safety Bill, dando un paso hacia la garantía de un entorno digital más seguro y responsable. El Reglamento (UE) 2024/1689, conocido como Reglamento de la IA, en inglés AI Act, establece un marco normativo armonizado para el desarrollo y uso de sistemas de inteligencia artificial en la UE; su objetivo es garantizar que estos sistemas sean seguros, trasparentes y respetuosos con los derechos fundamentales. Otra cosa es que lo consigan. Las empresas que desarrollan o implementan sistemas de IA para el mercado de la UE están sujetas a su normativa. Las entidades fuera de la UE entran en el ámbito de su aplicación cuando lanzan sistemas de IA a través de sus filiares de la unión y también cuando sus modelos no se despliegan en la zona, pero sus resultados están destinados a ser utilizados en la UE. Aunque fue publicado en el Diario Oficial de la Unión Europea en julio de 2014 y entró en vigor a los 20 días de su publicación, esto es el 1 de agosto de 2024, su aplicación no es inmediata, sino que presentaba la siguiente cronología:

-2 de febrero de 2025, prohibición de sistemas de IA de riesgo inaceptable (las Disposiciones generales-Cap I- y las prácticas de IA prohibidas-Cap II). -2 de agosto de 2025, obligaciones de gobernanza para la IA de Propósito General (GPAI) y designación de autoridades nacionales competentes, a excepción del art. 101, relativo a las multas a proveedores de Modelos de IA de uso general, se aplica a las autoridades notificadas y organismos notificados, de los Sistemas de IA de alto riesgo (Cap. III, sección 4ª), a los modelos de IA de uso general (Cap. V), a la gobernanza (Cap. VII), a las sanciones (Cap. XII) y a la confidencialidad, dentro de la garantía de cumplimiento (art. 78) .

-2 de agosto de 2026, aplicación completa del resto del R.I.A. se aplicará con carácter general, si bien regulada algunas excepciones

-2 de agosto de 2027, se aplicará a las reglas de clasificación de los sistemas de IA de alto riesgo (art. 6.1) Los principales aspectos de esta regulación comunitaria se pueden sintetizar en seis apartados: 1. Qué regula el Reglamento IA. Establece: -normas armonizadas para la introducción en el mercado, la puesta en servicios y la utilización de Sistemas de IA en la UE

-prohibiciones de determinadas prácticas de IA en el entorno comunitario -requisitos específicos para los Sistemas de IA calificados de alto riesgo, así como obligaciones para los operadores de estos sistemas -normas armonizadas de transparencia, que serán de aplicación a determinados Sistemas de IA -medidas de apoyo a la innovación, prestando especial atención a Pymes y empresas emergentes

2. Cuál es su ámbito de aplicación: a quien afecta y qué queda fuera de su alcance

Se aplica a:

-los proveedores que introduzcan en el mercado o pongan en servicios Sistemas de IA o Modelos de IA de uso general en la UE, con independencia de si están o no establecidos en el UE o en un tercer país

-los responsables del despliegue de Sistemas de IA que, estando establecidos en un tercer estado, utilicen en la UE los resultados de salida generados por los Sistemas de la IA

-los importadores y distribuidores de Sistemas de IA

-los fabricantes de productos que introduzcan en el mercado o pongan en servicios un Sistema de IA junto con su producto y con su propio nombre o marca

-los representantes autorizados de los proveedores que no estén establecidos en la UE -las personas afectadas que estén ubicadas en la UE

No se aplica a:

-ámbitos que queden fueran del Derecho de la UE -en materia de seguridad nacional o con fines militares y de defensa afecte a las competencias de los Estados miembros

-a autoridades públicas de terceros países, ni organizaciones internacionales que si bien entren en el ámbito del Reglamento utilicen los Sistemas de IA en el marco de acuerdos o de la cooperación internacional con la UE o con uno o varios Estados miembros, si ese tercer país u organización ofrece garantías suficientes -no afectará a la responsabilidad de los prestadores de servicios intermedios, entendiendo por tales aquellos que presten uno de los siguientes servicios de la sociedad de la información como un servicio de “mera transmisión”, consistente en transmitir, en una red de comunicación, información facilitada por el destinatario del servicio o en facilitar acceso a una red de comunicación

-queda expresamente fuera del alcance un servicio de “memoria caché”, consistente en transmitir por una red de comunicación información facilitada por el destinatario del servicio, que conlleve el almacenamiento automático, provisional y temporal de esta información, prestado con la única finalidad de hacer más eficaz la transmisión ulterior de la información a otros destinatarios del servicio, a petición de éstos.

-también queda fuera un servicio de “alojamiento de datos”, consistente en almacenar datos facilitados por el destinatario del servicio y a petición de este.

-no se aplica a los Sistemas o Mode56 los de IA, incluidos sus resultados de salida, desarrollados y puestos en servicio específicamente en la investigación y el desarrollo científico como única finalidad

-no se aplica a ninguna actividad de investigación, prueba o desarrollo relativo a Sistemas o Modelos de IA antes de su introducción en el mercado o puesta en servicios.

-no se aplica a las obligaciones de los responsables del despliegue que sean personas físicas que utilicen Sistemas de IA en el ejercicio de una actividad puramente personal de carácter no profesional

-no impide que la UE o los Estados miembros mantengan o introduzcan disposiciones legales, reglamentarias o administrativas más favorables a los trabajadores en cuanto a la protección de sus derechos respecto del uso de Sistemas de IA por los empleadores, ni que fomenten o permitan la aplicación de convenios colectivos que sean más favorables a los trabajadores -no se aplica a los Sistemas de IA divulgados con arreglo a licencias libres y de código abierto, a menos que se introduzcan en el mercado o se pongan en servicios como Sistemas de alto riesgo o Sistemas de IA que entren en el ámbito de aplicación del art. 5 o del art. 50.

3. Con un enfoque basado en el riesgo con diferentes grados como he mencionado anteriormente: -con un sistema de categorización biométrica: que incluye a las personas físicas en categorías específicas en función de sus datos biométricos que incluyen opiniones políticas, afiliaciones sindicales, orientación sexual, religiosa, raza, etnia, etc. -un sistema de identificación biométrica: destinado a identificar a las personas físicas sin su participación activa, generalmente con lo que figuren en una base de datos de referencia -espacios controlados de pruebas para la IA: con posibilidad de desarrollar, entrenar, validar y probar, en condiciones reales cuando proceda, un sistema de IA innovador, con repercusiones considerables en el mercado de la UE debida a su alcance o a los efectos negativos reales o razo- nablemente previsibles en la salud pública, los derechos fundamentales o la sociedad en su conjunto, y que puede propagarse a gran escala -sistemas de inferencia de emociones -creación masiva de base de datos biométricos con recreación facial mediante extracción masiva de imágenes donde no siempre se garantiza la privacidad debido a los avances de la digitalización y los ciberataques que cada vez son más sofisticados. Se nos dice que los métodos tradicionales están obsoletos, que son vulnerables, costosos y generan problemas de seguridad (phishing, robo de credenciales…) 4. Qué implicaciones puede acarrear esta regulación a las entidades que operen con sistemas de IA en la prestación de servicios y la venta y distribución de mercancías -a escala de la Unión: La Comisión desarrollará los conocimientos especializados y las capacidades de la Unión en el ámbito de la IA mediante Oficinas de IA, que fomentará y facilitará la elaboración de Códigos de Buenas Prácticas a escala de la Unión a fin de contribuir a la correcta aplicación del Reglamento; se creará un Consejo Europeo de la IA compuesto de un representante por Estado miembros, que prestará asesoramiento y asistencia a la Comisión y a los Estados miembros para facilitar la aplicación coherente y eficaz del Reglamento; se creará un Foro Consultivo para proporcionar conocimientos técnicos y asesorar al Consejo de IA y a la Comisión, así como para contribuir a las funciones de éstos; su composición representará una selección equilibrada de partes interesadas, incluidos la industria, las empresas emergentes, las Pymes, la sociedad civil y el mundo académico, y adoptará, mediante un acto de ejecución, disposiciones sobre la creación de un grupo de expertos científicos independientes, para asesorar y apoyar a la Oficina de IA -a escala nacional: cada Estado miembro designará al menos una autoridad notificante responsable de establecer y llevar a cabo los procedimientos necesarios para la evaluación, designación y notificación de los organismos de evaluación de conformidad, así como su supervisión, y una autoridad de vigilancia del mercado como autoridades nacionales competentes a los efectos del presente Reglamento; ejercerán estás autoridades sus competencias con independencia, imparcialidad y sin sesgos, a fin de preservar la objetividad de sus actividades y funciones y de garantizar la aplicación y ejecución del Reglamento; los estados miembros pondrán a disposición del público, por medios de comunicación electrónica, información sobre la forma de contactar con las autoridades competentes a más tardar el 2 de agosto de 2025

5. Qué medidas de apoyo a la innovación contempla el RIA -a escala nacional, los Estados miembros velarán por que sus autoridades competentes establezcan al menos, un espacio controlado de pruebas para la IA, que estará operativo a más tardar el 2 de agosto de 2026 -proporcionará un entorno controlado que fomente la innovación y facilite el desarrollo, el entrenamiento, la prueba y la validación de sistemas innovadores de IA durante un periodo limitado antes de su introducción en el mercado o su puesta en servicio, con arreglo a un plan del espacio controlado de pruebas específico acordado entre los proveedores o proveedores potenciales y la autoridad competente. Podrán incluir pruebas en condiciones realices supervisadas dentro de ellos -a escala regional o local, también podrán establecerse espacios controlados de pruebas para la IA, adicionales o conjuntamente con las autoridades competentes de otros Estados miembros -el Supervisor Europeo de Protección de Datos también podrá establecer un espacio controlado de pruebas para la IA para las instituciones, órganos y organismos de la Unión -las autoridades competentes proporcionarán orientación, supervisión y apoyo dentro del espacio controlado de pruebas para la IA con vistas a determinar los riesgos, en particular para los derechos fundamentales, la salud y la seguridad

-la Comisión, además de proporcio57 nar apoyo técnico, asesoramiento y herramientas, adoptará actos de ejecución que especifiquen las disposiciones detalladas para el establecimiento, el desarrollo, la puesta en prácticas, el funcionamiento y la supervisión de los espacios controlados de pruebas para la IA

-los actos de ejecución incluirá los principios de admisibilidad y selección para participar en el espacio controlado de pruebas para la IA; los procedimientos para la solicitud, la participación, la supervisión, la salida y la terminación del espacio controlado de prueba para la IA, incluidos el plan del espacio controlado de pruebas y el informe de salida, así como las condiciones aplicables a los participantes -medidas dirigidas a proveedores y responsables del despliegue, en particular Pymes, incluidas las empresas emergentes proporcionándole, si tienen domicilio social o una sucursal en la Unión, un acceso prioritario a los espacios controlados de pruebas para la IA, siempre que cumplan las condiciones de admisibilidad y los criterios de selección; actividades de sensibilización y formación específicas sobre la aplicación del Reglamento IA adaptadas a las necesidades de las Pymes, incluidas las empresas emergentes, los responsables del despliegue y, en su caso, las autoridades públicas locales; canales específicos existentes y nuevos canales para la comunicación; asesoramiento y responder a las dudas planteadas acerca de la aplicación del Reglamento y sobre la participación en los espacios controlados de pruebas para la IA, y fomentar la participación de las Pymes y otras partes interesadas pertinentes en el proceso de desarrollo de la normalización 6. Qué infracciones y sanciones regula al incumplimiento de previsiones en materia de IA

-que serán efectivas, proporcionadas y disuasorias

-tendrán en cuenta los intereses de las Pymes, incluidas las empresas emergentes, así como su viabilidad económica

-sanciones de hasta 35 millones de euros en caso de realizar prácticas de IA prohibidas, o, si el infractor es una empresa, de hasta 7% de su volumen de negocios mundial total correspondiente al ejercicio financiero anterior, si esta cuantía fuese superior -sanciones hasta 15 millones de euros si se incumples otras disposiciones que se recogen respecto de operadores u organismos notificados, o, si el infractor es una empresa, de hasta el 3% de su volumen de negocios mundial total correspondiente al ejercicio financiero anterior, si esta cuantía fuese superior -sanciones hasta 7 millones de euros si presenta información inexacta, incompleta o engañosa a organismos notificados o a las autoridades nacionales competentes en respuesta a una solicitud, o, si el infractor es una empresa, de hasta el 1% del volumen de negocios mundial total correspondiente al ejercicio financiero anterior, si esta cuantía fuese superior En el 30º Congreso Estatal de Mujeres Abogadas se planteó si la IA era una aliada o rival de la Igualdad de Género en el ámbito legal, partiendo de que la Teoría Feminista del Derecho sostiene que “el derecho no es razón, sino poder” y la realidad nos ha demostrado que las normas jurídicas han recreado los estereotipos y roles sociales que han definido durante siglos la distribución desigual de derechos y obligaciones, entre hombres y mujeres, discriminando las posibilidades de las mujeres. El derecho se ha investido de una igualdad formal y material entre hombres y mujeres, estructurado a partir de una neutralidad impostada para desdibujar el papel de las mujeres, privándolas de derechos y poder. La tecnología llegó para quedarse y ha transformado en poco tiempo la sociedad creando una revolución cultural que ha amplificado los sesgos en detrimento de las mujeres, por lo que hay que analizar con perspectiva de género las nuevas herramientas que se generan con la IA y sus consecuencias para las mujeres porque encontramos nuevas formas de violencia que no tienen cobertura jurídica sancionadora como ha quedado constancia en la primera parte de este artículo, y que no se ha visto mejorado con la reglamentado europea, por lo que tras la exposición de las ponencias y comunicaciones y arduos debates, el plenario aprobó las siguientes conclusiones:

1º) La inteligencia artificial es una herramienta poderosa que puede transformar el ámbito legal, pero su impacto en la igualdad de género depende de cómo se desarrolle y utilice. Actualmente, los sesgos de género presentes en la IA, derivados de datos históricos y de la falta de diversidad en su diseño, están perpetuando desigualdades de género. Sólo con un enfoque consciente y responsable, podremos aprovechar su potencial para fortalecer la equidad en el sistema legal y en la sociedad en general.

2º) Un sesgo en el derecho es una inclinación o prejuicio, consciente o inconsciente, que influye en la interpretación y aplicación de normas jurídicas, afectando la imparcialidad del sistema de justicia. Estos sesgos pueden manifestarse en leyes, decisiones judiciales, políticas públicas o en el uso de tecnologías legales como la inteligencia artificial. Los sesgos pueden basarse en factores como género, raza, clase social o discapacidad, y su presencia puede llevar a resoluciones injustas o discriminatorias. La Recomendación General N° 33 de la CEDAW subraya que los estereotipos de género en el derecho constituyen una vulneración de los derechos humanos, ya que obstaculizan el acceso de las mujeres a la justicia y perpetúan desigualdades estructurales. Por ello, es fundamental identificar y corregir estos sesgos para garantizar un sistema legal equitativo y verdaderamente imparcial. La inteligencia artificial, al basarse en datos históricos que reflejan desigualdades, puede reforzar estos sesgos, impactando negativamente en el acceso de las mujeres a la justicia. Para garantizar un sistema de justicia equitativo, es crucial que la IA se desarrolle con mecanismos de control que eliminen estos sesgos. Esto implica una revisión constante de los datos, la inclusión de perspectiva de género en su diseño y la implementación de regulaciones que aseguren su uso justo y transparente. Solo así la tecno58 logía podrá fortalecer la igualdad y no convertirse en una barrera para los derechos de las mujeres.

3º) El derecho a la no discriminación por razón de sexo, raza, discapacidad, situación socioeconómica o historia vital, pueden verse amenazados si la IA es entrenada con datos sesgados. Para que podamos hablar de sistemas de IA seguros, éticos y fiables para las mujeres debemos garantizar la transparencia y conocer cómo el sistema inteligente ha sido entrenado para la toma de sus decisiones, examinando los sesgos tanto de los datos como de los algoritmos utilizados.

La accesibilidad al código fuente y los algoritmos seleccionados son elemento esencial para garantizar la transparencia y la trazabilidad. Siendo fundamental realizar auditorías de los sistemas y la rendición de cuentas.

4º) Proponemos destinar presupuesto público para investigar cómo los modelos de Machine Learning (ML) pueden ser utilizados en el ámbito del Derecho para identificar, prevenir y eliminar los estereotipos de género presentes en las decisiones judiciales. 5º) Las administraciones públicas, especialmente la administración de Justicia, en el uso de la IA para la adopción de cualquier decisión, debe garantizar la transparencia de la misma, obligación que no se reduce en informar del uso de IA o cualquier otro sistema de respuesta automática, sino que exige la accesibilidad de los datos aportados y la utilización de algoritmos transparentes y explicables. Las resoluciones asistidas en sistemas de inteligencia artificial en ningún caso pueden realizarse sin la supervisión debidamente acreditada del órgano con competencia para la toma de la decisión que deberá fundamentar la resolución en el análisis de los datos del caso concreto.

6º) Es un hecho constatable que en los últimos años estamos asistiendo al desarrollo de robots sexuales con IA con apariencia de mujeres y menores que plantea una problemática evidente, ya que no sólo refuerza la cosificación de las mujeres, sino que también las reduce a la condición de meros objetos, promoviendo su sumisión dentro de un marco de deseos masculinos. En esencia, actúan como un mecanismo de socialización patriarcal que distorsiona la sexualidad masculina al vincularla con la erotización de la violencia contra las mujeres y perpetuar la cultura de la violación.

JURÍDICAS

Por ello, siendo conscientes de las vulneraciones de los derechos de las mujeres que plantea la cuestión, consideramos necesario abordarlo jurídicamente con perspectiva de género proponiendo la creación de un grupo de personas expertas para proponer medidas legislativas en el Congreso de los Diputados.

7º) Se deberán tipificar como delito los deep fakes, es decir, a quienes, sin autorización de la persona afectada y con ánimo de menoscabar su integridad moral, difundan, exhiban o cedan su imagen corporal o audio de voz generada, modificada o recreada mediante sistemas automatizados, softwares, algoritmos, inteligencia artificial o cualquier otra tecnología, de modo que parezca real, simulando situaciones de contenido sexual o gravemente vejatorias.

Siendo además esencial regular medidas cautelares específicas para la retirada inmediata de las simulaciones de imágenes, vídeos o voces de personas, generadas por sistemas automatizados, software, algoritmos o mecanismos de inteligencia artificial a petición de la persona afectada. 8º) Partiendo de las conclusiones ya adoptadas en anteriores Congresos de Mujeres Abogadas, como abolicionistas de la prostitución, denunciamos su fomento a través de la IA cuyas imágenes constituyen violencia sexual contra las mujeres. Si estamos en contra de la prostitución como manifestación de la Violencia de Género, la IA no puede servir para la perpetuación de esta situación. Consideramos necesaria la interpretación de nuestro ordenamiento jurídico con el correspondiente enfoque de género para garantizar la no vulneración de los Derechos Fundamentales de las mujeres. También se votó en el plenarios sobre el Anteproyecto de Ley ORGÁNICA PARA LA PROTECCIÓN DE LAS PERSONAS MENORES DE EDAD EN LOS

ENTORNOS DIGITALES, alcanzando las siguientes conclusiones: 1. Falta de Perspectiva de Género Denunciamos la ausencia de perspectiva de género en el anteproyecto de ley, evidenciada por la falta de lenguaje inclusivo en su redacción. 2. Incorporación de Perspectiva de Género Exigimos que la ley incorpore la perspectiva de género de manera explícita en su articulado y que exista coherencia lingüística entre el enunciado de la ley y su desarrollo normativo. 3. Defensor Judicial para Personas Menores de edad con Ingresos Superiores al SMI Sugerimos el nombramiento de un defensor judicial para las personas menores de 16 años cuyos ingresos superen el Salario Mínimo Interprofesional (SMI) en cómputo anual, para evitar una explotación de las personas menores por parte de sus progenitores o tutores. 4. Condiciones para Usuarios de Especial Relevancia Exigimos que el reconocimiento de "usuario de especial relevancia" se base en el cumplimiento de uno solo de los requisitos de manera individualizada, y no de forma acumulativa. Además, que se denomine “persona usuaria de especial relevancia”. 5. Aplicación Universal de la Ley a Creadores de Contenido de personas Menores de Edad Exigimos que la normativa se aplique a todas las personas menores de edad que sean creadoras de contenido, sin excepciones. 6. Prohibición de la Sexualización en la Publicidad con personas Menores Exigimos la prohibición expresa de la sexualización en la publicidad en la que participen personas menores de edad.

7. Valoración Positiva de la Pena de Alejamiento Digital Reconocemos como un avance significativo la inclusión en el anteproyecto de ley de la prohibición de acceso o comunicación a través de redes sociales, foros, plataformas de comunicación u otros espacios digitales, lo que conlleva la incorporación de la pena de alejamiento digital. 8. Identificación Digital para la Protección de Menores en Comunicaciones 59

Comerciales Consideramos necesario que los prestadores de servicios de comunicación audiovisual y plataformas de intercambio de videos exijan la identificación de las personas usuarias mediante una cartera de identidad digital, con el fin de proteger a las personas menores de edad frente a comunicaciones comerciales inadecuadas y reforzar la protección ante contenidos audiovisuales inapropiados. 9. Implementación de la Cartera de Identidad Digital Exigimos que se promuevan las medidas legislativas necesarias para la implementación de la cartera de identidad digital como mecanismo de protección para las personas menores de edad. 10. Modificación del Artículo 173 bis del Código Penal (Ultra falsificaciones) Exigimos la supresión de la expresión "con ánimo de menoscabar su integridad moral" en la redacción del nuevo artículo 173 bis del código Penal, debido a la inequívoca connotación sexual o vejatoria del tipo penal. 11. Eliminación de la Modificación del Artículo 186 del Código Penal Exigimos la eliminación de la modificación propuesta para el artículo 186 del Código Penal, que introduce un dolo específico reforzado, ya que va en contra del principio de protección de personas menores de edad o en situación de especial vulnerabilidad. Nos sorprende que esta exigencia no sea requerida en ningún otro tipo penal. Estas conclusiones recogen los puntos fundamentales de los reclamos y propuestas presentadas en relación con el anteproyecto de ley orgánica de protección de personas menores de edad en los entornos digitales, destacando las áreas que requieren atención para garantizar la protección efectiva de los derechos de las personas menores de edad en el entorno digital, con especial énfasis en la perspectiva de género, la identificación digital y la eliminación de cláusulas injustas.

Y hago mía todas y cada una de estas conclusiones y que, si bien la IA ofre ce oportunidades significativas para la equidad, también perpetúa desigualdades estructurales cuando no se desarrolla con perspectiva de género.

Mª AUORA CAPARRÓS MORENO Cda. 3.231 ICAAL Estudiante de Doctorado UNED