Publicidad
Publicidad

La IA tiene sesgos, pero también le permite a más personas expresar su voz

La tecnóloga, economista e influencer trans Ophelia Pastrana reflexiona sobre cómo las nuevas tecnologías abren nuevas conversaciones sobre la diversidad, y por qué es importante aprender a usarlas.
mié 12 junio 2024 07:05 AM
Ophelia Pastrana, influencer y conferencista trans
Ophelia Pastrana, influencer y conferencista trans

Escuchar a Ophelia Pastrana es abrir nuevos mundos. Sabe de economía, de filosofía, de comedia, de teatro, de tecnología. Es profesional en muchos temas, y a todos los puede llevar hacia el terreno de lo que milita: la importancia de aprender a crear entornos más diversos para un mundo cada vez más cambiante.

“Como vieja loba de mar, vengo a pedir que en lugar de tenerle miedo a la Inteligencia Artificial aprendamos a aprovecharla y veamos su enorme potencial para generar nuevas conversaciones y más acceso a historias humanas, a otros puntos de vista posibles”, dice.

Este mes, la influencer trans fue ponente en la Platzi Conf 2024, uno de los eventos de tecnología más convocantes de la región, donde instó a las audiencias a no tener miedo a la inteligencia artificial ni a las tecnologías emergentes que marcarán el futuro.

Publicidad

¿La Inteligencia Artificial es una herramienta que fomenta contenidos más diversos o los limita?

Las Inteligencias artificiales de por sí suelen reforzar sesgos, porque como son herramientas estadísticas. Los datos que se usan para entrenarlas son los que ya están en la web, y por lo tanto, son los que hoy se replican mayormente como humanidad, con todos sus estereotipos.

¿En qué ejemplos podemos verlo?

Uno de ellos es el de las inteligencias artificiales de reconocimiento facial, que tienen una tasa de efectividad diferente para la gente blanca que para todas las demás. Para la gente con piel morena o la gente que no sea blanca, puede estar expuesta a un sistema de reconocimiento facial con una efectividad del 60-70%. Estamos hablando de que estos sistemas se usan en los accesos de aeropuertos, pasaportes, sistemas de seguridad, la ley. Si te fijas hay muchos falsos positivos a la hora de encontrar gente sospechosa, nada más que porque tienen la piel morena.

Las bases de datos que se usan para entrar en las inteligencias artificiales están dominadas de la mirada blanca, hegemónica. Entonces si: existe un sesgo en las inteligencias artificiales. Es como comparar la cantidad y calidad de contenidos que hay en inglés o en español: hay más datos en inglés porque en el mundo es un idioma que se habla más, y eso genera consecuencias en la IA como que genere más contenidos en ese idioma.

Publicidad

¿Entonces, la IA es una tecnología que profundiza sesgos?

Detrás de la IA hay casos horribles de los cuales podemos hablar muy tendido, pero lo importante es entender que las tecnologías que se hacen para ayudar. En este caso, por ejemplo, gracias a ella hay gente que se expresa, escribe, canta, hace videos, porque hoy la inteligencia artificial se lo permite. Las tecnologías de la cultura del Internet suelen ser tecnologías de democratización, de generar acceso a información, a herramientas. Internet sirve para que entiendas cómo vive la gente al otro lado del mundo, cosa que hace 30 años hubiera sido imposible. Para entender otras formas de ser posibles. Para que te comuniques con gente sin tener muchos intermediarios que se fijen en lo que se está diciendo y demás.

¿Crees que la IA funciona del mismo modo, democratizando?

Si. Lo bonito es que, gracias a que las inteligencias artificiales existen, mucha gente va a poder hacer cosas, y esto va a asustar a muchas personas puristas, pero mucha gente va a poder hacer cosas que antes no podía hacer. Está hecho para que tengamos conversaciones con las computadoras y puede abrirle el mundo a muchas personas a programar sin que sepan programar, a dibujar sin que sepan dibujar, a cantar sin que sepan cantar. O sea, la queja de hoy en día cualquier persona puede escribir porque lo escribió ChatsGPT la debemos dar vuelta: alguien que no podía escribir está escribiendo.

Cualquier persona puede generar un video y esto quiere decir que alguien que no podía ser cinematógrafo, vía las internet artificiales, lo podría hacer, y va a poder contar las historias que quiera contar. Es lo mismo que pasó con el Internet. Cuando llegó como tecnología el Internet, toda la computadora, mucha gente se quejaba de que cualquier persona va a poder publicar cualquier cosa.

Y esa democratización de las voces, de la diversidad: ¿es accesible a todos/as?

Lo más interesante de las inteligencias artificiales que tenemos hoy es que hoy día conversan. A Google tú le hacías una pregunta, que si no era, tenías que arrancar otra vez. Un ejemplo: Google, dime cuáles son los restaurantes de sushi de la cuadra. Te dice. Le repreguntas; “Bueno, pero, ¿cuáles son los que le pueden gustar a mi mamá?” Y Google te responde cualquier otra cosa diferente a la pregunta, porque es una plataforma de información unilateral. Mientras que Chat GPT con otros sistemas de lenguaje artificial, tú puedes conversar. Oye, y de esa lista, ¿cuáles crees que abren en la tarde? Ah, ¿y cuáles crees que se ven bonitos?

Como esto es tan natural, se presta para que mucha gente que no tiene el cómo hacer uso de una computadora o que no sabe usarla de modo tan completo, pueda interactuar con la tecnología de una manera muy simple. Y eso puede generar más acceso, yo creo que sí. Yo sí veo a mi abuela hablando con ChatGPT para preguntar cosas. Quizás no sabe cómo abrir Skype, pero capaz si vea ChatGPT a lo mejor, o una inteligencia artificial que le diga, ya te conectas con tu nieta, le permite comunicarse más y mejor con el mundo.

El punto es que habrá gente que a lo mejor solo con la inteligencia artificial va a poder interactuar con la tecnología. Y yo creo que eso es positivo, porque hay algo ahí de la tecnología y de cómo la gente podrá acceder a ella, sin importar quién sea o dónde esté.

Publicidad

¿Cómo crees que evolucionará esta tecnología en el tiempo?

Hay que tomar en cuenta que las inteligencias artificiales que tenemos ahorita son las peores que vamos a tener, porque son las primeras que están apareciendo y aún no están integradas con casi nada.

Prepárate para que las inteligencias artificiales sean parte de tu teléfono, pero desde el chip o de tu computadora. Mientras, va a haber quien todavía va a querer seguir usando las computadoras del mouse y teclado en 10 años, tanto como tengo amigos que van a estar buscando una máquina de escribir.

Entonces, ¿No le ves nada negativo?

Hay muchos temas super profundos detrás de la Inteligencia Artificial, pero nos trabamos en en el “voy a perder mi trabajo”. Entendamos que hace 5 años, ¿qué era usar el Internet o estar en el Internet? Tenías un teléfono inteligente que tenía Netflix, Google, Spotify, Twitter, Instagram y otro par de servicios. Y hoy hay muchísima oferta más, incluso no sabemos si el propio Google va a sobrevivir al salto las inteligencias artificiales. Todo está roto, dañado, cambiando. Y entonces hay mucha incertidumbre.

Detrás de esa incertidumbre, ¿hay alguna respuesta que puedas dar sobre qué viene?

Yo vengo como vieja loba de mar, de 43 años, que le tocó ver las punto com del 2000, y su caída. Recuerdo cuando se destrozó ese internet. Cuando la gente dudaba qué era tener un navegador Netscape. Era otro internet, con otra comunicación, que luego se volvió a hacer. Entonces, ahora es muy probable que el internet se destroce otra vez.

Traigo conmigo esas lecciones a este espacio, de Platzi, porque aquí están quienes podrán construir en el futuro esas nuevas tecnologías de forma más accesible, y para recordar que las lecciones que se aprendieron en el pasado nos sirvan para lograr que la gente esté lista de lo que puede podría volver a suceder. Si ya aprendimos a sacar la inundación, a secarla, a rehacer la pared y a pintar confiemos en eso para ver cómo la remodelamos la próxima vez que se vuelva a inundar.

¿Cada cuanto suceden estas “inundaciones” donde todo cambia rotundamente?

La tecnología los acostumbra a comerse la cola todo el tiempo. Siempre están pensando en cómo hacerlo más y más. Pero antes obviamente no estaba tan desarrollada y los tiempos de tardanza entre una tecnología eran más largos. Pensemos por ejemplo en el primero y el segundo Iphone, y ahora el tiempo que tarda en salir cada nuevo modelo. El Chat GPT, se instaló hace uno, dos años y ya avanzó años luz en su aplicación al día a día. Ahora, en 10 años, ¿cuánto va a cambiar la tecnología?

Tenemos que aprender a que no nos asusten con los cambios, porque lo difícil de predecir el futuro no es saber qué va a cambiar porque, spoiler alert: todo va a cambiar. Y si no me crees, piensa cómo trabajábamos hace 10 años y cómo trabajamos hoy. Tenemos que aprender a ver las cosas con más curiosidad y aferrarnos más a nuestras capacidades de volvernos a parar si nos caemos, en lugar de poner tanta energía en intentar quedarnos parados en el mismo lugar.

¿Cómo aprendemos a ver de forma más curiosa?

Hay algo acerca de la educación en particular, donde claramente el sistema educacional estándar colapsó, pero hace mucho tiempo. A veces pienso que la gente que, por ejemplo, se opone a la lengua incluyente y que se opone a estas cosas que se enseñan desde la primaria, realmente lo que tienen son dejos de un aprendizaje con mucho trauma de un sistema escolar que está atrasadisimo en temas de cambios sociales.

La mirada crítica hay que enseñarla desde las casas, desde las conversaciones.Por ejemplo, desde las noticias, cuando los y las niñas preguntan: ¿Cuál es el medio bueno, mamá? La respuesta es: todos, sólo depende de tu perspectiva. Y entonces, ¿cuál dice la verdad? La verdad es emergente en lo que tú leas de todas las fuentes posibles. Para cada noticia, tú puedes ver cómo ponen los titulares o la noticia entera, medios de la derecha, centro y medios de la izquierda. Y por medio de entender quién está publicando, tú vas a hacer tu propio criterio, porque estás leyendo entre líneas.

Ahora, ¿cómo enseñas que la verdad no es lo que está escrito sino el entre líneas?

Hay que enseñarlo, fomentarlo. La IA trabaja por algoritmos. Entonces, lo que siempre se repitió en Internet va a tener preponderancia. La máquina no va a tener curiosidad, nosotros somos los que tenemos que encargarnos de eso.

Yo he tenido muchas pláticas corporativas sobre la preparación que necesitan, porque se viene el cambio. les dijo: “Dejen que una mujer trans les hable del cambio”, un mensaje sobre “abre tu mente”.

¿Cómo se puede hacer que esto se abra más a pensamientos más creativos y más diversos?

A mi me dijeron creciendo toda la vida que lo último que van a reemplazar la tecnología es a las artes. Pero por supuesto, ya hay inteligencia artificial que canta, pinta, dibuja. Pero ahora entendí que lo que realmente hay que cambiar son nuestros procesos de cómo manejamos la creatividad y cómo hacemos más y mejores preguntas.

Y también, cuestionar a las personas detrás de las empresas de IA. La inteligencia artificial no es un robot que llega un día y te dice “disculpa, quítate, ya ahora soy el escritor”. Son las personas las que crean los sistemas y sus lógicas, y hay que tener conversaciones con esas personas y pedirle: ¿cómo hacemos para que tu inteligencia artificial tenga una mirada diversa, inclusiva, lo más libre de sesgos posibles?

¿Y desde el día a día, cómo lo aplicamos?

Nuestra naturaleza de existencia es organizar cosas que están desorganizadas porque somos bestias de la entropía. El universo conspira para que todo esté desorganizado y nuestro trabajo es casi que volverlo a organizar para que podamos predecir sobre eso. Lo mismo pasa con la tecnología: debemos poder alinearla los valores que queramos fomentar, desde una mirada humana.

En esta época, hay que aprender a añadir a nuestras baterías de herramientas elementos que no son estándar, las que naturalmente incorporaremos, las tradicionales. Pero es necesario aprender a incluirlas.

No nos enseñaron a compartir los valores humanos a través de la tecnología, pero hay que ir aprendiendo. Por ejemplo: tengo una amiga que juega videojuegos con su chiquita, y una vez que le pregunté por qué lo hacía, me dijo: “porque si no lo hago,e s como mandarla al parque sola”. Nos enseñan a distanciar la tecnología de la vida cotidiana, cuando ya es más que evidente que es parte de nuestra vida en general.

¿Qué se aprende, qué suma el tener entornos y conversaciones más diversas?

Gran parte de la solución a todo el caos que vivimos hoy es convivir con una mentalidad diversa. Pero cuando digo diversidad, digo desde una mujer trans, una mamá soltera, una persona que se educó en una universidad o en otra, gente transnacional, movilidad, cuerpas, neuro divergencias. Una persona milenial en una oficina boomer, o al revés. Y cuando convives con la diversidad, ¿qué aprendes? A convivir con gente que maneja caminos diferentes que tú. Y a convivir con curiosidad: a cómo esas personas viven su propia vida, tan diferente a la tuya, y sumar sus aprendizajes a tu propia vida.

Publicidad