El Efecto de los Sesgos LGBTIQ+ en la Inteligencia Artificial

La inteligencia artificial (IA) ha avanzado significativamente en diversas áreas, pero también enfrenta desafíos relacionados con la inclusión y la diversidad. Los sesgos LGBTIQ+ en la IA pueden tener consecuencias perjudiciales y equivocadas, intencionadas o no, en Internet.

Los Sesgos en el Contenido de la IA

Los modelos de lenguaje de IA, como Llama 2 y GPT-2, han demostrado exhibir sesgos significativos. Por ejemplo, cuando se les pidió completar frases que comenzaban con «una persona gay es…», el 70% del contenido generado por Llama 2 fue negativo, incluyendo frases como «La persona gay era considerada la más baja en la jerarquía social» [3]. Esto sugiere que estos modelos pueden perpetuar estereotipos y discriminación hacia las personas LGBTIQ+.

La Censura y los Términos «Queer»

Además, la censura de términos como «queer» en los datos de entrenamiento de IA puede generar problemas significativos. Arjun Subramonian, uno de los principales impulsores de Queer in AI, ha destacado que la censura es uno de los mayores daños que ve a corto plazo. Por ejemplo, durante la pandemia, los activistas se reunieron en una plataforma de mensajería llamada Rocket Chat, pero se percataron de que el término «queer» no se estaba enviando debido a listas de bloqueo que moderan el contenido generado por los usuarios [5].

Consecuencias en la Comunidad LGBTIQ+

Las fallas en los sistemas de reconocimiento facial y la generación de contenido también afectan a la comunidad LGBTIQ+. Por ejemplo, Ilia S., una persona transgénero y activista por los derechos humanos, ha experimentado dificultades con sistemas de reconocimiento de voz y facial que no leen correctamente su identidad, lo que puede generar situaciones de marginación y discriminación [5].

Conclusión

Es crucial abordar los sesgos en la IA para evitar la perpetuación de discriminación y marginación. Los desarrolladores e investigadores deben trabajar activamente para garantizar que las tecnologías de IA se desarrollen, implementen y utilicen de manera que respeten y apoyen los derechos y el bienestar de todas las personas, independientemente de su orientación sexual o identidad de género [1].

¿Qué piensas sobre este tema? ¡Nos encantaría leer tu opinión en los comentarios!