De acuerdo con la investigación “A longitudinal approach for understanding algorithm use”, desarrollada por el académico de la Escuela de Administración UC, Edgar Kausel, los algoritmos hacen mejores predicciones que las personas en diversos contexto. Sin embargo, cuando se equivocan “estos pueden tener muchas dificultades para generar una buena imagen que los humanos que cometen el mismo error”, señala el investigador. El estudio fue publicado en el Journal of Behavioral Decision Making y tuvo como coautores a Álvaro Chacón y Tomás Reyes, académicos de la Escuela de Ingeniería UC.

De manera simple, ¿en qué consiste esta investigación?

Según investigaciones previas, los algoritmos hacen mejores predicciones que los humanos en diversos contextos. Sin embargo, la gente tiende a no usarlos mucho especialmente cuando los ven fallar. A esto se le llama “aversión a los algoritmos”.

Nuestro estudio examinó cómo la gente usa los consejos de algoritmos y humanos para tomar decisiones financieras usando un diseño longitudinal. Encontramos que cuando un algoritmo daba un consejo inexacto, la gente tendía a “castigarlo” más que si el mismo consejo venía de un humano. Sin embargo, este efecto era más fuerte si ocurría en los primeros días del estudio que al final. Esto es porque la gente se forma una primera impresión negativa de los algoritmos cuando fallan. Por lo tanto, los algoritmos pueden tener más dificultades para generar una buena imagen que los humanos imprecisos, incluso si tienen un rendimiento similar. Además, a los humanos se les perdonan más fácilmente los errores que a los algoritmos.

¿Por qué es novedoso el hecho de que se utilice un enfoque longitudinal en este estudio? ¿En la práctica qué lo diferencia de estudios anteriores?

Los estudios previos usaban experimentos, lo que es bueno porque te permite cambiar muchos detalles y ver qué pasa con los resultados. El problema es que eran en base a una o dos predicciones. Esto es poco realista porque por ejemplo la gente usa una aplicación como Waze todos los días…. Entonces quisimos ver qué pasaba si hacían predicciones todos los días por 18 días.

En cuanto a metodología se señala que se realizaron dos estudios con 401 participantes: ¿en qué consistieron?

En el primero los participantes hicieron predicciones financieras durante 18 días. En el segundo también hicieron varias predicciones, pero en un mismo día.

 ¿Y cuáles son las principales conclusiones?

Encontramos que efectivamente había aversión a los algoritmos, luego de que la gente los veía fallar, y esto era particularmente fuerte en los primeros días. Lo cual es consistente con la idea de que uno genera “primeras impresiones” fuertes de la calidad del algoritmo. La gente los castigaba mucho más que los mismos errores cometidos por humanos.

¿Qué valor pueden tener estas conclusiones en ámbitos laborales o en otras áreas?

Una implicancia es que gerentes y personas responsables de implementar nuevas herramientas de algoritmos deben estar conscientes de que un algoritmo no depurado puede generar alta desconfianza inicial en los usuarios, lo que puede afectar la adopción posterior.

Por ejemplo, si se lanza una nueva app para ayudar a gestionar un proyecto, el momento del lanzamiento y los niveles de precisión del algoritmo implican un tradeoff. Es decir, lanzarlo antes puede implicar un algoritmo no depurado, pero lanzarlo tarde puede implicar que esté más depurado y con menos fallas.  Puede haber una tentación en lanzar o implementar algoritmos temprano debido a la potencial competencia o la eficiencia. Sin embargo, hacerlo podría tener consecuencias adversas sobre la tasa de adopción del algoritmo. Es decir, si falla una vez, es bien probable que la gente pierda la confianza y no los usará más.