En mi cabeza, el concepto de inteligencia artificial suena demasiado futurista y me imagino una ciudad llena de robots. Sin embargo, hoy se aprovecha en casi todo lo que hacemos. Por ejemplo, en sistemas bancarios para acreditar a una persona como sujeto de crédito, el cálculo de la prima que pagará una persona por un seguro médico, sistemas para hacer diagnósticos médicos más precisos o el contenido que una red social le muestra a cada usuario.
¿Las máquinas son imparciales a diferencia de los humanos? Los algoritmos pueden estar sesgados por el contexto que han vivido quienes los programaron, y esto perpetúa las desigualdades como brechas de género.
A grandes rasgos, hay dos elementos que se asocian a los sesgos de la inteligencia artificial:
1. Los datos reflejan otra serie de brechas de género. Las mujeres están subrepresentadas en múltiples actividades y sectores, por lo que los registros tendrán cierto sesgo que impactará a las
decisiones
. Por ejemplo, aunque las mujeres componen la mitad de la población, solo concentran 32% de los créditos
hipotecarios
.
Estas cifras muestran una brecha entre sexos en favor de los hombres que puede influir en los datos para entrenar máquinas para determinar el nivel de riesgo de una persona que busca una hipoteca. Esta situación se complica aún más cuando se consideran otras dimensiones como raza, edad, orientación sexual, localidad o nivel de ingresos, entre otros, que interactúan y afectan la forma en la que cada persona experimenta el mundo. Sin embargo, hay muy poca información disponible para conocer estas diferencias.
