Los algoritmos

Si nos paramos a pensar, los sesgos que afectan a la Inteligencia Artificial están en los datos y los propios algoritmos. Pero cuando hablamos de datos no solo tenemos en cuenta sexo, edad o raza, que podrían ser los primeros que se nos vienen a la cabeza, sino cualquier dato referido a una persona. Y no solo eso, sino que vamos un paso más allá, refiriéndonos también a la importancia que se le da a cada uno de estos datos, así como su utilidad a la hora de estructurarlos o al propio algoritmo que escojo para operar con ellos.

Otorgar una hipoteca, contratar en una empresa… el algoritmo creado para cada una de estas tareas toma decisiones, decisiones en la que en muchas ocasiones no se han hackeado esos sesgos.

Un sonado ejemplo lo vimos en el 2014 con el famoso caso de un desarrollo de Inteligencia artificial que había hecho Amazon. Para ese año esta compañía implementó un modelo que evaluaba las hojas de vida de los candidatos y era la encargada de elegir quien pasa a la siguiente etapa de reclutamiento y quien no.

Todo esto se hacía de manera automática y estuvo funcionando por un buen tiempo hasta que en 2015 los desarrolladores se dieron cuenta que el modelo solamente elegía candidatos hombres para puestos de desarrollo de software y otros puestos relacionados con la tecnología. Este modelo desechaba por completo a cualquier candidata mujer para dichos puestos.

Obviamente, esto era inaceptable por lo que los desarrolladores intentaron solucionar el problema sin éxito y poco tiempo después tuvieron que quitar esta implementación para su proceso de reclutamiento.

El problema se presentó porque los datos que se utilizaron para entrenar el modelo eran de hacía 10 años, es decir eran datos de reclutamiento recolectados desde el 2004, cuando un gran porcentaje de los solicitantes eran hombres, y por ende los contratados también eran hombre, por lo que el modelo aprendió que todas las personas que podían ocupar estos puestos solamente tenían que ser hombres y no mujeres. 

El problema fueron los datos que se utilizaron al principio, que fueron datos sesgados, por lo tanto, el modelo tenía un resultado sesgado. 

Pero justamente vemos otro de los grandes problemas que ocurre en los desarrollos de Inteligencia Artificial, y es que al momento de realizar el proyecto, los desarrolladores debieron tomar un tiempo para analizar los datos con que contaban y entenderlos mejor y justamente durante ese análisis se hubiesen dado cuenta del desbalance de los datos favoreciendo a los candidatos masculinos sobre las mujeres, por lo que se hubiese tomado acción desde el principio y no unos meses después de haber implementado el modelo.

España pionera por una Europa Inteligente

España es pionera en la estrategia de una Europa Inteligente con la mirada puesta en la ética. La presentación del piloto del primer sandbox regulatorio sobre IA y la constitución del nodo gallego de Inteligencia Artificial ponen de relieve el interés del país por ser una potencia europea en una tendencia decisiva para el futuro de las sociedades. Una colaboración entre el Gobierno de España y la Comisión Europea para montar el piloto del primer sandbox regulatorio sobre Inteligencia Artificial (IA). 

Nuestra ministra Carme Artigas no dudó en tildar al proyecto “hito”, según aseguraba que “el mundo nos está viendo, porque esto es un proyecto de larga duración que tendrá un gran impacto a la larga en diversos ámbitos. No en vano, estamos colocando los estándares del uso futuro de una IA decente”.