Muchas empresas ya están implementando soluciones de Inteligencia Artificial (IA) en su día a día, desde pequeñas tareas repetitivas, predecir tendencias o seleccionar talento. Pero hay dos preguntas que las y los directores o líderes no se hacen:

¿Puedo explicar cómo toma decisiones la IA? y por lo tanto, ¿podemos confiar en la IA?

Estas preguntas son el inicio de poder explicar por qué se selecciona un perfil y otro, por qué determina que hay más tendencias en un mercado diferente al que creíamos o si simplemente eres capaz de explicar el por qué la IA ha tomado la decisión de no dar un préstamo a un cliente.

Hay dos ideas que voy a explicar: la explicabilidad y la confianza.

Un algoritmo es explicable cuando se puede comprender y confiar cómo se han obtenido los resultados o predicciones. No se trata sólo de que el sistema funcione, sino de que se puedan justificar las decisiones que toma o los resultados que obtenemos.

El dilema de esta explicabilidad en la IA surge a medida que la tecnología evoluciona y los algoritmos son cada vez más complejos, haciendo que incluso los mismos programadores no pueden explicar cómo se ha llegado a un resultado concreto.

Esto ha surgido como un problema en el momento de delegar decisiones a la IA, ya que las personas no confiamos en lo que no entendemos. Cuando hablamos más concretamente en la toma de decisiones, la confianza se construye a través de la comprensión, es decir, saber qué datos se han tenido en cuenta, qué límites tiene e incluso, si haría los mismo en otro contexto.

No me refiero a un tema técnico, sino a una condición esencial para que podamos confiar y colaborar con las nuevas tecnologías. Por eso a los algoritmos o la IA se les llama “Cajas negras”. Sabemos que introducimos datos, a veces incluso qué tipo de datos y sus características, y el sistema devuelve una decisión, predicción o recomendación, pero sin saber cómo llegó a esa conclusión.

La IA ya está mostrando las enormes posibilidades que puede ofrecer, sin embargo ya se han empezado a detectar sesgos, fallos legales y dilemas éticos.

Muchos de estos problemas no surgen por mala gestión o con intención, sino por falta de transparencia. Los modelos de IA han sido entrenados con grandes volúmenes de datos que reflejan comportamientos pasados y, con ellos, también sus errores y prejuicios, que se van perpetuando y amplificando cuando entran en los modelos de IA una vez entrenados.

Un ejemplo de estos sesgos, sería un sistema de selección de personal que penaliza de forma inconsciente a las mujeres. A nivel legal, se está detectando que muchas decisiones automáticas están afectando a los derechos humanos fundamentales como el acceso a créditos o servicios públicos.

Estos retos son señales de que la IA tiene unos límites que revelan que no hay transparencia; sin ella no podemos explicar la toma de decisiones y por lo tanto no podemos confiar al 100% en los resultados, conclusiones, predicciones o toma de decisiones de la IA.

Sólo entendiéndola podemos usarla de forma responsable, detectar y corregir errores y asegurarnos que las decisiones que se tomen sean justas y éticas.