¿Es posible que los algoritmos sean sexistas?

“Vivimos en una sociedad patriarcal y, al final, eso tiene una incidencia en la mayoría de los aspectos que rigen la vida. Y no es una conducta exclusiva de hombres, sino que también hay mujeres que reproducen estos sesgos”, apunta.

Como ejemplos, señala que la configuración de algoritmos ha reproducido prácticas discriminatorias alrededor de comunidades que de por sí ya son marginalizadas, como las mujeres, migrantes o incluso personas de la tercera edad, porque -según sus palabras- sus diseñadores los crean con base en estereotipos de género y clase.

“La elaboración de un algoritmo también depende de que hay pocas mujeres que participan en el proceso de diseño de los mismos. No están tomando decisiones ni ofreciendo sus conocimientos, que muchas veces también parten de experiencias que les atraviesan de forma personal”, agrega.

La falta de representación de las mujeres es delicada, señala, ya que 50% de la población no está representada en ofertas de servicios, productos o siquiera políticas públicas. Y el problema está desde el momento en el que los criterios para recabar la información no son cuestionados.

"El sesgo algorítmico es un problema humano, no técnico”, dice SocialTIC, una organización sin fines de lucro dedicada a la investigación. Se define como el reflejo de un sistema informático de los valores de las personas implicadas en la codificación y recolección de datos usados para crear el algoritmo. El estudio de SocialTIC advierte que estos sesgos pueden agravar la discriminación pro motivos de género, sexualidad o diversidad étnica.

Pamela Soria, economista y líder del equipo de Winnin, una empresa que se dedica a dar asesoría a grandes marcas con base en análisis de data, afirma que quienes se encargan de interpretar la información tienen la responsabilidad de complementar el estudio con técnicas cualitativas, no sólo cuantitativas.

“Quienes nos dedicados a esto tenemos que entender que trabajamos con un sesgo de origen, porque los algoritmos son diseñados, en su mayoría, por programadores y en su mayoría son hombres. Y ya de entrada, ahí excluyes la perspectiva de mujeres o personas no binarias”, afirma.

Para Soria, un algoritmo busca tomar decisiones más rápidas, pero éstas no necesariamente son más precisas. “Desde hace cinco años que la data se vende como panacea y como si fuera completamente irrefutable. De ahí la importancia de la big data, esa rama que sí contempla el análisis de otros factores que influyen a quienes recabaron la información, pero también variables adicionales de la información, como factores culturales y sociales”, sostiene.

La toma de decisión a partir de datos es una práctica común en casi todas las empresas, sobre todo en el rubro de la publicidad. Sin embargo, apunta la especialista, cuando no se consideran los factores sociales en su interpretación, además de reproducir prácticas discriminatorias, se alejan de sus objetivos.

“Las marcas grandes no toman decisiones que no estén basadas en datos. Por ejemplo, el caso de la última campaña de Fud, que fue súper golpeada en internet (se refiere a la lanzada con motivo del Día de las Madres). Para que saliera una campaña con ese nivel de difusión alguien del equipo seguramente hizo algo de social listening (supervisar conversaciones sobre la marca), pero el trabajo no termina ahí. En ese caso debieron distinguir la voz de la conversación digital que analizaron y de los prejuicios desde los que los participantes hablaron”, explica.

La especialista recomienda capacitaciones de temas relacionados con discriminación y derechos humanos con el fin de obtener análisis más profundos, además de configurar equipos más diversos que puedan compartir, de forma personal, experiencias que ellos mismos han vivido por sus circunstancias.