Los algoritmos bancarios nos discriminan

 ¿Qué es un algoritmo?

Un algoritmo es un conjunto de reglas definidas que permite solucionar un problema, de una determinada manera, mediante operaciones sistemáticas y finitas.

Estas instrucciones, definidas y ordenadas en función de los datos, resuelven el problema o la tarea.

Los algoritmos tienen cada vez más relevancia en la toma de decisiones, en diferentes sectores; uno de ellos es el financiero, donde el análisis es fundamental.

En el sector financiero son muy utilizados. Estos programas recopilan información, analizan los datos y adaptan las ofertas y los productos de un banco en función del historial de un cliente y de otras circunstancias del sector.

Es decir, un programa informático que, a partir de la información dada, recomendará la aprobación o no de una operación de financiación.

Es como un analista de riesgos con un chip como corazón, un sistema de inteligencia artificial que se supone, no debería tener el sesgos, para homogeneizar las respuestas.

¿Pero cómo puede un algoritmo tener sesgos?

¿Es posible que en un terreno supuestamente objetivo, basado en números, cálculos y fría toma de decisiones, nos encontremos con discriminaciones y sesgos de todo tipo?

En lo que se conoce como “aprendizaje automático” o machine learning, los procesos de toma de decisiones mejoran a medida que se incorporan miles de datos al algoritmo, lo que conocemos como big data.

Aunque esos sistemas desarrollan una cierta capacidad para «pensar por sí mismos», no podemos dejar de lado que sigue instrucciones y que se basa en la información que recoge de nuestra realidad:  si la sociedad es machista, el algoritmo también.

A pesar de que las pioneras en programación fueron mujeres y a que la primera persona que programó un algoritmo fue la matemática británica Ada Lovelace (1815-1852).

Hoy en día el mundo de la programación se compone  por equipos con mayoría de hombres, con perfiles de formación vinculados a la ingeniería, sin la presencia de otras disciplinas.

Como ya he comentado en la charla El futuro más digital y tu más humana, es necesario que la mujeres nos sumemos a los equipos de desarrollo de estos algoritmos, no solo las programadoras sino las expertas en otra disciplinas.

Enriquecer esos algoritmos con miradas menos técnicas y más sociológicas, que pudiera aportar razones por las que las mujeres no tiene un historial crediticio equiparado al de los hombres.

La discriminación en el caso de estos algoritmos bancarios se origina en que dentro de los datos históricos, no existe una suficiente representación de la mujer, porque era normal hasta no hace tanto que las relaciones con los bancos las llevaban los hombres y no las mujeres.

Al no comprender que las mujeres están infrarrepresentadas, los algoritmos determinan que existe más riesgo de otorgar un crédito a una mujer, porque no hay suficientes datos que avalen nuestra conducta crediticia.

Es decir una discriminación del pasado nos vuelve a discriminar ahora.

Sería necesario enseñar a los algoritmos y encontrar la forma de corregir esta distorsión en los datos, para solventar este sesgo.

Los bancos también tienen diferentes políticas comerciales para las mujeres

Es que la consecuencia del análisis de los algoritmos también afectan a los productos que nos ofrecen y a las políticas comerciales de las entidades.

No nos ofrecen productos de inversión, ya que hay menos patrimonio asociado a nuestros perfiles.

Hay productos que nunca se nos ofrece