Síguenos en nuestras redes sociales:

Publicidad

¿Qué tan imparcial es la inteligencia artificial?

Los algoritmos pueden estar sesgados por el contexto que han vivido quienes los programaron, y esto perpetúa las desigualdades como brechas de género, considera Fátima Masse.
lun 25 octubre 2021 11:59 PM

(Expansión Mujeres) - Vivimos en una era en la que todo gira en torno a los datos: desde las estadísticas que salen de encuestas oficiales, hasta los millones de registros que se generan con nuestras actividades (compras con tarjetas, búsquedas en internet...). El fenómeno es tan importante que los datos se consideran como el combustible del siglo XXI, porque permiten tomar decisiones más precisas que pueden derivar en ganancias millonarias.

Los datos no solo son números, sino también palabras, colores, sonidos o cualquier tipo de información que se pueda recolectar, organizar y analizar de forma sistemática. Uno de sus valores agregados es que nutren sistemas de inteligencia artificial que permiten a las computadoras ejecutar tareas humanas.

Publicidad

En mi cabeza, el concepto de inteligencia artificial suena demasiado futurista y me imagino una ciudad llena de robots. Sin embargo, hoy se aprovecha en casi todo lo que hacemos. Por ejemplo, en sistemas bancarios para acreditar a una persona como sujeto de crédito, el cálculo de la prima que pagará una persona por un seguro médico, sistemas para hacer diagnósticos médicos más precisos o el contenido que una red social le muestra a cada usuario.

¿Las máquinas son imparciales a diferencia de los humanos? Los algoritmos pueden estar sesgados por el contexto que han vivido quienes los programaron, y esto perpetúa las desigualdades como brechas de género.

A grandes rasgos, hay dos elementos que se asocian a los sesgos de la inteligencia artificial:

1. Los datos reflejan otra serie de brechas de género. Las mujeres están subrepresentadas en múltiples actividades y sectores, por lo que los registros tendrán cierto sesgo que impactará a las decisiones . Por ejemplo, aunque las mujeres componen la mitad de la población, solo concentran 32% de los créditos hipotecarios .

Estas cifras muestran una brecha entre sexos en favor de los hombres que puede influir en los datos para entrenar máquinas para determinar el nivel de riesgo de una persona que busca una hipoteca. Esta situación se complica aún más cuando se consideran otras dimensiones como raza, edad, orientación sexual, localidad o nivel de ingresos, entre otros, que interactúan y afectan la forma en la que cada persona experimenta el mundo. Sin embargo, hay muy poca información disponible para conocer estas diferencias.

Publicidad

2. Hacen falta científicas de datos. De acuerdo con el Banco Mundial, en 2020, menos del 15% de los egresados de carreras de ciencia, tecnología, ingeniería y matemáticas de México fueron mujeres . Estas carreras, también conocidas como STEM por sus siglas en inglés, están estrechamente relacionadas con la ciencia de datos. ¿Cuántas de ellas entrarán y permanecerán en el mercado laboral para influir en la forma en la que se capta y analiza la información?

De acuerdo con Catherine D’Ignacio y Lauren F. Klein, en su libro Feminismo de Datos, los datos son parte del problema y perpetúan disparidades sociales, pero también pueden ser parte de la solución. Para que lo segundo se concrete, hay que reconocer que las conclusiones de los datos podrían no ser tan objetivas o neutrales como creemos.

De ahí la importancia de tener equipos de ciencia de datos plurales, de manera que los análisis deriven en más oportunidades para las poblaciones en desventaja. Solo así caminaremos hacia empresas y sociedades más incluyentes.

Nota del editor: Fátima Masse es Directora de Sociedad incluyente del IMCO. Síguela en Twitter como @Fatima_Masse . Las opiniones expresadas en esta columna son exclusivas de su autora.

Consulta más información sobre este y otros temas en el canal Opinión

Publicidad

Tags

OpiniónMujeresInteligencia artificialTecnologíaEquidad de género
Publicidad