Algoritmo y género

Al hilo de Ada Lovelace, he querido profundizar en el mundo informático y en la presencia de la mujer en él a lo largo de la historia. Sin embargo, me he detenido en un tema de actualidad, no exento de polémica: la inteligencia artificial y el sesgo de género. 

Y es que, en pleno siglo XXI, herramientas avanzadas como los algoritmos son capaces de producir una visión muy distorsionada de la realidad en lo que a género respecta. 

Si hablamos de mercado laboral y algoritmo, éstos tienden a recomendar a hombres para puestos directivos porque, hasta ahora, han sido ellos quienes han ocupado esos cargos, siendo este dato estadístico, en muchos casos, decisorio, sin tener en cuenta otros factores. 

Las máquinas aprenden a partir de patrones de repetición extraídos de experiencias anteriores y sacan sus propias conclusiones. Analizan una gran cantidad de datos y terminan aprendiendo por cuenta propia. Así, si ciertas profesiones tienen una mayor presencia de perfiles masculinos, el algoritmo entenderá que los hombres son más aptos para desempeñar ese cargo. El algoritmo está, por tanto, condicionando y descartando otros perfiles según la edad, la raza o el sexo.

Y aunque estos cálculos matemáticos aportan celeridad a los procesos y son de gran ayuda, en ocasiones pueden acabar excluyendo y, peor, reproduciendo estereotipos del pasado. 

Un ejemplo de ello lo encontramos en lo que le sucedió hace unos años a David Heinemeier Hansson, creador de la plataforma Ruby on Rails (framework que permite construir aplicaciones web con acceso a bases de datos). David denunció públicamente a Apple por concederle 20 veces más límite de crédito que a su pareja, cumpliendo ambos las mismas condiciones. “La Apple Card es jodidamente sexista”, publicaba en 2019 en sus redes sociales. 

¡Dentro noticia! 

¿Cuál fue la respuesta del servicio técnico de la compañía? Culpar al algoritmo. 

El Informe Mobile Gender Gap Report 2021 destaca que las mujeres tienen un 7% menos de probabilidades que los hombres de tener un móvil y un 15% menos de probabilidades de usar internet. Que las mujeres tengan menos acceso a estas tecnologías significa que no están generando la misma cantidad de datos que los usuarios masculinos, lo que sesga las bases de datos con las que trabaja el algoritmo. 

Los algoritmos reproducen lo que aprenden a base de analizar datos, pero son los humanos quienes generan y recopilan la información que se incluye en esa arquitectura de datos, y son los humanos quienes determinan de qué conjuntos de datos aprenden los algoritmos para hacer predicciones. Quizá tengamos aquí el origen del problema. Si esta discriminación existe en la inteligencia artificial es porque aún perdura en la sociedad, siendo los algoritmos los primeros en darse cuenta.

Se hace necesario, por tanto, no solo un cambio cultural en la sociedad, en ocasiones paulatino, sino también en la industria tecnológica que, a mi juicio, no está haciendo lo suficiente para abordar estos sesgos algorítmicos infringiendo, en muchos casos, los derechos fundamentales de las personas.