Los algoritmos bancarios no usan gafas de género

por

Tras décadas de batallas y conquistas para ir cambiando la mentalidad en la sociedad, nos encontramos con una nueva amenaza.

Los algoritmos que perpetúan esquemas heredados.

Los algoritmos bancarios nos discriminan

 ¿Qué es un algoritmo?

Un algoritmo es un conjunto de reglas definidas que permite solucionar un problema, de una determinada manera, mediante operaciones sistemáticas y finitas.

Estas instrucciones, definidas y ordenadas en función de los datos, resuelven el problema o la tarea.

Los algoritmos tienen cada vez más relevancia en la toma de decisiones, en diferentes sectores; uno de ellos es el financiero, donde el análisis es fundamental.

En el sector financiero son muy utilizados. Estos programas recopilan información, analizan los datos y adaptan las ofertas y los productos de un banco en función del historial de un cliente y de otras circunstancias del sector.

Es decir, un programa informático que, a partir de la información dada, recomendará la aprobación o no de una operación de financiación.

Es como un analista de riesgos con un chip como corazón, un sistema de inteligencia artificial que se supone, no debería tener el sesgos, para homogeneizar las respuestas.

¿Pero cómo puede un algoritmo tener sesgos?

¿Es posible que en un terreno supuestamente objetivo, basado en números, cálculos y fría toma de decisiones, nos encontremos con discriminaciones y sesgos de todo tipo?

En lo que se conoce como “aprendizaje automático” o machine learning, los procesos de toma de decisiones mejoran a medida que se incorporan miles de datos al algoritmo, lo que conocemos como big data.

Aunque esos sistemas desarrollan una cierta capacidad para «pensar por sí mismos», no podemos dejar de lado que sigue instrucciones y que se basa en la información que recoge de nuestra realidad:  si la sociedad es machista, el algoritmo también.

algoritmos bancarios sin gafas de género

¿Cómo hemos llegado a crear algoritmos con sesgos de género?

A pesar de que las pioneras en programación fueron mujeres y a que la primera persona que programó un algoritmo fue la matemática británica Ada Lovelace (1815-1852).

Hoy en día el mundo de la programación se compone  por equipos con mayoría de hombres, con perfiles de formación vinculados a la ingeniería, sin la presencia de otras disciplinas.

Como ya he comentado en la charla El futuro más digital y tu más humana, es necesario que la mujeres nos sumemos a los equipos de desarrollo de estos algoritmos, no solo las programadoras sino las expertas en otra disciplinas.

Enriquecer esos algoritmos con miradas menos técnicas y más sociológicas, que pudiera aportar razones por las que las mujeres no tiene un historial crediticio equiparado al de los hombres.

La discriminación en el caso de estos algoritmos bancarios se origina en que dentro de los datos históricos, no existe una suficiente representación de la mujer, porque era normal hasta no hace tanto que las relaciones con los bancos las llevaban los hombres y no las mujeres.

Al no comprender que las mujeres están infrarrepresentadas, los algoritmos determinan que existe más riesgo de otorgar un crédito a una mujer, porque no hay suficientes datos que avalen nuestra conducta crediticia.

Es decir una discriminación del pasado nos vuelve a discriminar ahora.

Sería necesario enseñar a los algoritmos y encontrar la forma de corregir esta distorsión en los datos, para solventar este sesgo.

 

Los bancos también tienen diferentes políticas comerciales para las mujeres

 

Es que la consecuencia del análisis de los algoritmos también afectan a los productos que nos ofrecen y a las políticas comerciales de las entidades.

No nos ofrecen productos de inversión, ya que hay menos patrimonio asociado a nuestros perfiles.

Hay productos que nunca se nos ofrece

¿Qué estamos haciendo para tener mejores algoritmos?

Europa está trabajando en una nueva estrategia digital y se está incorporando tambien la ética en la inteligencia artificial para aprovechar todo el potencial que nos dan los algoritmos

Los expertos calculan que es un trabajo que nos llevará más de 10 años, pero debemos estar atentas para que esta vez no sea el algoritmo el que deje atrás a las mujeres.

negocios digitales productividad digitalizacion andrea collazo

Consultorías en Digitalización

Mentorías, formaciones, consultoría sobre negocios digitales, marketing online, digitalización

Andrea Collazo

Soy Andrea Collazo de andrecollazo.com.  Acompaño, enseño, apoyo e inspiro a otras mujeres que quieren iniciar o hacer crecer su negocio online, las empodero con las nuevas tecnologías mientras desarrollan sus negocios digitales, webs, blogs y su presencia en las redes sociales.

Últimos Artículos

0 comentarios

Enviar un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

+ Sobre tratamiento de datos de los comentarios

RESPONSABLE TRATAMIENTO: VISIONARIAS, S.C.

FINALIDAD:  Publicar el comentario en relación a la noticia.

LEGITIMACIÓN: Consentimiento del interesado.

CESIONES: No se prevén cesiones, excepto por obligación legal o requerimiento judicial.

DERECHOS: Acceso, rectificación, supresión, oposición, limitación, portabilidad, revocación del consentimiento. Si considera que el tratamiento de sus datos no se ajusta a la normativa, puede acudir a la Autoridad de Control (www.aepd.es).

INFORMACIÓN ADICIONAL: política de privacidad