Un eje que cada vez se vuelve más central en la discusión sobre el uso ético de los datos, es la aparición de tecnologías que a través de algoritmos y técnicas de machine learning toman decisiones sobre personas. Machine learning, o aprendizaje automático, es la denominación utilizada para identificar diversos conjuntos de técnicas a través de las cuáles se le “enseña” a computadoras a optimizar procesos de toma de decisiones, en muchos casos basados en decisiones previas tomadas por humanos, en algún problema en particular. Este tipo de prácticas han sido utilizada en las últimas décadas por el sector privado en diversas áreas, como la industria financiera y bancaria. Las “redes sociales” como Facebook o Twitter implementan estas técnicas diariamente para optimizar el alcance de sus contenidos y Google las utiliza para mejorar los resultados de las búsquedas.

El foco que une esta conversación con las políticas de gestión de datos, es visible en el momento en que los gobiernos comienzan a incorporar estas técnicas avanzadas de implementación de algoritmos para la toma de decisiones en procesos de política pública. Existen diversos casos en el mundo y la región en los que se han tomado decisiones a través de herramientas tecnológicas, que han reproducido sesgos pre-existentes, así como casos en donde la tecnología utilizada no era comprendida cabalmente por los servidores públicos y luego no podían explicar los resultados obtenidos.

LDA ha publicado recientemente un análisis sobre el uso de estas tecnologías en América Latina denominado “Automatizar con cautela: Datos e Inteligencia Artificial en América Latina”. Este documento se centra en dos casos principalmente, uno de Uruguay y otro de Argentina, y fue el eje de un taller realizado en Montevideo en el que participaron diversos actores de gobiernos, sociedad civil y academia de la región para debatir sobre los riesgos y alcances de la temática.

Por ello, es necesario ampliar la conversación de la transparencia y la rendición de cuentas de datos e información pública, hacia la transparencia y rendición de cuentas de los algoritmos utilizados en procesos públicos de toma de decisión que afecten de forma directa o indirecta a la ciudadanía. Es una discusión compleja y todavía no está del todo claro cómo se puede saldar en el corto plazo, pero es central que se contemplen estos debates en el futuro..