¿Por qué la IA generativa está reforzando estereotipos de género?

El estudio publicado por la UNESCO el 7 de marzo de 2024, titulado "Desafiando prejuicios sistémicos: una investigación sobre el sesgo contra mujeres y niñas en modelos de lenguaje grandes", ha arrojado luz sobre las preocupaciones relacionadas con la IA generativa y su impacto en la reproducción de estereotipos, especialmente aquellos relacionados con el género.

La investigación reveló que los sistemas de procesamiento del lenguaje natural de plataformas de IA generativa ampliamente utilizadas, como Chat GPT y Llama 2, contienen estereotipos de género y otros prejuicios diversos. Esto plantea una seria preocupación, ya que estas plataformas son accesibles para el público en general y, por lo tanto, tienen un alcance significativo en la sociedad.

La presencia de estereotipos en estos sistemas de IA generativa plantea desafíos para la educación y la promoción de la diversidad e inclusión en la sociedad. En lugar de fortalecer la diversidad y la igualdad, estos sistemas pueden perpetuar y reforzar los estereotipos existentes, lo que dificulta la tarea educativa de fomentar un entorno más inclusivo y equitativo.

Es importante abordar estas preocupaciones y trabajar en la mejora de los algoritmos de IA para mitigar los sesgos y prejuicios sistémicos. Esto requerirá una colaboración entre investigadores, desarrolladores de IA, educadores y formuladores de políticas para garantizar que la tecnología se utilice de manera ética y responsable, promoviendo la igualdad y la diversidad en todas sus formas.