Inteligencia Artificial desde la mirada Femenina 

Foto de Rawpixel (Freepik.es)

La inteligencia artificial (IA) tiene como objeto que los ordenadores hagan la misma clase de cosas que puede hacer la mente, a grandes rasgos. Tiene dos objetivos principales. Uno es tecnológico: usar los ordenadores para hacer cosas útiles (a veces empleando métodos muy distintos a los de la mente). El otro científico: usar conceptos y modelos de IA que ayuden a resolver cuestiones sobre seres humanos y demás seres vivos. La mayoría de los especialistas en IA se centra en un solo objetivo, aunque algunos contemplan ambos.

La IA ha puesto en entredicho nuestro concepto de la humanidad y su futuro. Algunos incluso dudan si de hecho tendremos un futuro, porque prevén que la IA superara a la inteligencia humana en todos los ámbitos. Aunque algunos pensadores ven esto con agrado, la mayoría le teme: ¿Qué lugar quedará, se preguntan, para la dignidad y las responsabilidades humanas?

Lady Ada Lovelace predijo la IA en la década de 1840. Más concretamente, predijo parte de ella. Al no haber atisbos de las redes neuronales ni de la IA evolutiva o dinámica, se centró en los símbolos y en la lógica. Tampoco sentía inclinación por el objeto psicológico de la IA, ya que su interés era puramente tecnológico.

Dijo por ejemplo que una maquina “podría componer piezas musicales elaboradas y científicas de cualquier grado de complejidad o extensión”  y también que podría expresar  “los grandes hechos de la naturaleza” y haría posible “una época gloriosa para la historia de las ciencias”.(Así que no le habría sorprendido ver que, dos siglos más tarde, los científicos utilizan como Big Data y trucos  de programación diseñados especialmente para mejorar los conocimientos de genética, farmacología, epidemiologia… etc)

En la actualidad, un análisis realizado por el Instituto de la Mujer de España indica que menos del 25% de las personas que se dedican a la investigación en IA son mujeres; y entre quienes lideran proyectos en el ámbito empresarial en este campo solo un 18% son mujeres. En cuanto a los artículos de investigación en este tema, ha indicado que el porcentaje de autoras se sitúa en el 13,8%. Ya que el mundo será dirigido por IA, tenemos que fomentar la diversidad.

Seguramente ya habrá escuchado el concepto “Sesgos” pues la IA no se escapa.

“Error sistemático en el que se puede incurrir cuando, al hacer muestreos o ensayos se seleccionan o favorecen unas respuestas frente a otras”. Así define la RAE el concepto de ‘sesgo’. Pero ¿cómo influyen estos sesgos en la Inteligencia Artificial? Cuando hablamos de sesgo en IA, lo hacemos de la misma forma que en cualquier otra actividad o área de conocimiento. Hablamos de prejuicios, de concepciones de la realidad por las cuales tomamos decisiones de forma inconsciente.

«Otorgar una hipoteca, contratar en una empresa… el algoritmo creado para cada una de estas tareas toma decisiones, decisiones en la que en muchas ocasiones no se han hackeado esos sesgos.»

Los algoritmos

Si nos paramos a pensar, los sesgos que afectan a la Inteligencia Artificial están en los datos y los propios algoritmos. Pero cuando hablamos de datos no solo tenemos en cuenta sexo, edad o raza, que podrían ser los primeros que se nos vienen a la cabeza, sino cualquier dato referido a una persona. Y no solo eso, sino que vamos un paso más allá, refiriéndonos también a la importancia que se le da a cada uno de estos datos, así como su utilidad a la hora de estructurarlos o al propio algoritmo que escojo para operar con ellos.

Otorgar una hipoteca, contratar en una empresa… el algoritmo creado para cada una de estas tareas toma decisiones, decisiones en la que en muchas ocasiones no se han hackeado esos sesgos.

Un sonado ejemplo lo vimos en el 2014 con el famoso caso de un desarrollo de Inteligencia artificial que había hecho Amazon. Para ese año esta compañía implementó un modelo que evaluaba las hojas de vida de los candidatos y era la encargada de elegir quien pasa a la siguiente etapa de reclutamiento y quien no.

Todo esto se hacía de manera automática y estuvo funcionando por un buen tiempo hasta que en 2015 los desarrolladores se dieron cuenta que el modelo solamente elegía candidatos hombres para puestos de desarrollo de software y otros puestos relacionados con la tecnología. Este modelo desechaba por completo a cualquier candidata mujer para dichos puestos.

Obviamente, esto era inaceptable por lo que los desarrolladores intentaron solucionar el problema sin éxito y poco tiempo después tuvieron que quitar esta implementación para su proceso de reclutamiento.

El problema se presentó porque los datos que se utilizaron para entrenar el modelo eran de hacía 10 años, es decir eran datos de reclutamiento recolectados desde el 2004, cuando un gran porcentaje de los solicitantes eran hombres, y por ende los contratados también eran hombre, por lo que el modelo aprendió que todas las personas que podían ocupar estos puestos solamente tenían que ser hombres y no mujeres. 

El problema fueron los datos que se utilizaron al principio, que fueron datos sesgados, por lo tanto, el modelo tenía un resultado sesgado. 

Foto de mahdis-mousavi (Unsplash)

Pero justamente vemos otro de los grandes problemas que ocurre en los desarrollos de Inteligencia Artificial, y es que al momento de realizar el proyecto, los desarrolladores debieron tomar un tiempo para analizar los datos con que contaban y entenderlos mejor y justamente durante ese análisis se hubiesen dado cuenta del desbalance de los datos favoreciendo a los candidatos masculinos sobre las mujeres, por lo que se hubiese tomado acción desde el principio y no unos meses después de haber implementado el modelo.

España pionera por una Europa Inteligente

España es pionera en la estrategia de una Europa Inteligente con la mirada puesta en la ética. La presentación del piloto del primer sandbox regulatorio sobre IA y la constitución del nodo gallego de Inteligencia Artificial ponen de relieve el interés del país por ser una potencia europea en una tendencia decisiva para el futuro de las sociedades. Una colaboración entre el Gobierno de España y la Comisión Europea para montar el piloto del primer sandbox regulatorio sobre Inteligencia Artificial (IA). 

Nuestra ministra Carme Artigas no dudó en tildar al proyecto “hito”, según aseguraba que “el mundo nos está viendo, porque esto es un proyecto de larga duración que tendrá un gran impacto a la larga en diversos ámbitos. No en vano, estamos colocando los estándares del uso futuro de una IA decente”. 

“Es muy importante hacer los deberes antes de empezar el camino”, continuó la representante española. “O sea, hemos de crear un ambiente donde se pongan juntas las autoridades competentes con los desarrolladores y los usuarios, con el ojo muy puesto en las PYMEs. En España, el 95% de las fábricas tienen esta característica. Para nosotros es muy importante un marco de trabajo que sea comprensible por todos, y aterrizarlo de tal manera que cualquiera lo entienda. Por eso en tan importante que encontramos las herramientas adecuadas para que el proyecto continúe su andadura comercial tras su implementación”, explicó. 

Este sandbox viene, por tanto, a dar confianza a las compañías a la hora de usar la Inteligencia Artificial, y eso sólo se puede lograr desde un gobierno justo.

“La regulación no es buena o mala, sino inteligente o no inteligente”, recordó Artigas. “El primer test vendrá en tres meses, y tendrá que ver con las aplicaciones de gran riesgo. El resultado de las pruebas nos dará las guías de las nuevas normas”.  

Miriam Barajas

Madre de 5 niñ@s, Programadora, Mentora STEM, Speaker, Líder de Equipos.

Solution Analyst Salesforce en NTTDATA. Directora de Negocio en SnailStep

Miriam está especializada en el CRM Salesforce en distintas nubes y Ética de la Inteligencia Artificial. Master en Equipos de Alto Rendimiento. Master en Inteligencia Artificial y Big Data.
Certificación Internacional Gender Coach. Certificación en Managment 3.0

Mentora en más de 10 organizaciones. Comprometida con romper la brecha de Género y la brecha digital. Apasionada de la Tecnología.

«Trabajar con y para las personas es mi Mantra; ayudar a mejorar el mundo es mi meta»

Últimos Artículos

No se encontraron resultados

La página solicitada no pudo encontrarse. Trate de perfeccionar su búsqueda o utilice la navegación para localizar la entrada.

Otros Artículos

Otros

Un modelo de Turismo Generativo

Fuente: Freepik (PCH Vector)Mi nombre es Isabel Sánchez Tejado y mi trabajo consiste en ayudar a los responsables de los territorios rurales que están en riesgo de despoblación, a transformarlos en destinos turísticos sostenibles, mediante el Método de Turismo...

leer más

Percepción de la vejez en los jóvenes

Foto de Killarn Peralta en Unsplash La juventud se retroalimenta de juventud. La juventud, a quien ya desde su infancia le han llegado mensajes pregonando que la juventud es la mejor época de la vida, a la que le han injertado desde los medios de comunicación que la...

leer más