Sesgos de Género en ChatGPT: ¿Cómo se reflejan y cómo abordarlos?
Sesgos de género
Le hice una misma pregunta al ChatGPT, la respuesta era parecida pero no igual, y las diferencias eran muy relevantes e inquietantes.
Le hice la misma pregunta al ChatGPT “consejos estratégicos para mujeres dueñas de empresa”, ENTER, seguidamente pregunté: “consejos estratégicos para hombres dueños de empresa”, ENTER, la respuesta fue una lista de 5 mágicos consejos, lo interesante de este ejercicio fue que la respuesta era parecida pero no igual y las diferencias eran muy relevantes e inquietantes.
Como profesional trabajando desde hace un tiempo en temas de: género, feminismo, brecha económica, inclusión en el lenguaje y demás, no pude evitar notar que las respuestas brindadas estaban llenas de sesgos y estereotipos de género. ¡Claro! Cómo podrían no estarlo, al preguntar al mismo ChatGPT que opinaba de esto y la Inteligencia Artificial (IA) responde:
“Como modelo de lenguaje, ChatGPT aprende de los datos que se utilizan para entrenarlo, incluyendo los sesgos que pueden estar presentes en esos datos o documentos. Por lo tanto, si los datos de entrenamiento tienen sesgos de género, es posible que las respuestas generadas por ChatGPT también muestren esos sesgos.
… Es importante tener en cuenta que los sesgos de género no son intencionales en el caso de ChatGPT. Sin embargo, es importante seguir trabajando para mejorar la igualdad de género y eliminar los sesgos de género en todos los ámbitos, incluyendo la tecnología y la inteligencia artificial”
Antes de seguir, ¿de qué estamos hablando?
Para todas aquellas personas que no conocen la nueva herramienta, el ChatGPT es un modelo de lenguaje desarrollado por OpenAL, que utiliza IA para generar respuestas coherentes y relevantes a partir de preguntas y solicitudes en lenguaje natural. Es muy interesante y sorprendente, ya que se convierte en una herramienta web que facilita tareas tan simples como crear un correo hasta sintetizar con gran precisión todo tipo de documentación que se encuentra en la web. Marcando un nuevo hito en la relación de las personas, el trabajo con la tecnología.
Pero volviendo al tema ¿Por qué el Chat GPT tiene sesgos? los motivos son simples pero históricamente relevantes, primero falta de representación de las mujeres en carreras o el mundo STEAM, esto limita las miradas de las personas que crean procesos o herramientas ya que usualmente los gestores son hombres; segundo, sería el sesgo implícito que se encuentra en los datos utilizados para entrenar el modelo GPT, que como ya les mencioné se alimenta de todo lo que está en la WEB y de lo que le falta también.
El libro “Mujeres invisibles: El sesgo de los datos en un mundo diseñado para los hombres" (2019) de Caroline Criado Pérez, destaca las formas en que la falta de datos y la falta de consideración de género en la recopilación de datos pueden tener efectos negativos en las mujeres y por ende en una sociedad que busca la equidad.
El libro contempla muchas áreas donde la falta de datos afecta directamente la vida de las mujeres, donde nuestra vida se pone en riesgo, por ejemplo, las mujeres tendemos a tener más efectos secundarios con medicamentos porque los estudios originales se hacían solamente con hombres y los efectos secundarios que ellos presentaban era la referencia general.
Así como, en las estadísticas de zonas de guerra, como los datos no vienen usualmente segregados por género, no se visibiliza que las personas más propensas a sufrir lesiones y muerte por minas terrestres son mujeres, niñas y niños.
Leer este libro se convierte en una experiencia reveladora que permite a las mujeres (a las personas en general) comprender con fundamentos la importancia de los datos en su calidad de vida. Aunque deja una sensación ácida y amarga, también es inspirador y motivador para tomar acción.
¿Cómo podemos lograr una sociedad igualitaria en un mundo donde la innovación tiene sesgos que nos afectan?
La empatía humana es la esperanza
Hace varios años que doy capacitaciones sobre lenguaje inclusivo o neutro y su importancia, tomando en cuenta todos los aspectos para cautivar a mi público meta: la tendencia mundial, los derechos humanos, las estrategias comerciales, la humanidad, puedo concluir que… y el enfoque que más conecta es la importancia del “darse cuenta”, ser conscientes de que muchas de nuestras construcciones sociales hoy están obsoletas, y creer en el tremendo poder que posee la empatía para cambiar realidades hacia espacios para equitativos e inclusivos.
Ser una persona que habla de manera neutra, que escribe con lenguaje inclusivo, que no perpetúa estereotipos, que visibiliza las diferencias y las transversalidades humanas es un persona que lo entendió todo, que ceder a nueva información no significa, que “yo perdí”, significa que todas las personas ganamos, y que sabe que la única manera de diferenciarnos de la IA, es nuestra capacidad de autoanálisis, de identificación y de erradicación de nuestros sesgos pero, sobre todo nuestra humanidad y evolución constante.
El chat GPT y la IA siempre van a tener sesgos, como el que me encontré yo haciendo una simple pregunta sobre negocios, porque está alimentado por historia, una historia que a las mujeres no nos favorece.
Pero la estrategia está en la humanidad y tecnología trabajando unidas para no dejar a nadie atrás. ¿Cómo lograremos esto? No lo sabemos, cada día hay cosas nuevas creándose que nunca pensamos ver, pero sí sé que mi accionar de identificar estereotipos y buscar maneras más inclusivas de comunicar es lo que hace la diferencia aquí y ahora.
Todas las personas tratando de construir una sociedad donde seamos parte.
- Este blog no fue escrito por el ChatGPT, pero si le consulté su opinión para no dejarle por fuera. ;)
Lograr entenderlo todo puede ser una tarea complicada, ¿quieres aprender más sobre sesgos de género? Agenda una sesión gratuita de 30 minutos con nosotras para saber más de nuestra asesoría en lenguaje inclusivo y sesgos de género
Escrito por: Cristina Trejos Gutiérrez