La inteligencia artificial está reproduciendo sesgos de género y raza que pueden profundizar la discriminación contra las mujeres, alertó ONU Mujeres.

Un estudio de 133 sistemas detectó sesgos de género en el 44% y sesgos de género y raza en el 26%. Los modelos que generan texto suelen asociar a las mujeres con el hogar y la familia, y a los hombres con los negocios y la carrera profesional.

“Esto no es solo un defecto de diseño que pueda corregirse con una actualización. Es una brecha real en las políticas que hemos dejado abierta. De los 138 países con una estrategia nacional de inteligencia artificial, solo 24 mencionan la igualdad de género y apenas 18 incluyen medidas sustantivas al respecto”, afirmó Jayathma Wickramanayake, responsable de tecnologías digitales de ONU Mujeres.

La organización señaló que estas herramientas pueden agravar desigualdades cuando se usan para crear contenidos o tomar decisiones sin supervisión humana ni perspectiva de género. También facilitan nuevas formas de violencia digital: casi una de cada cuatro defensoras, activistas y periodistas consultadas dijo haber sufrido ataques en línea asistidos por IA, incluidos deepfakes.

Las mujeres son solo el 30% de la fuerza laboral dedicada a la inteligencia artificial y, fuera del sector, tienen casi el doble de probabilidades que los hombres de ocupar empleos con alto riesgo de automatización. ONU Mujeres pidió incorporar sus derechos, experiencia y participación en el desarrollo y la gobernanza de estas tecnologías.