Sin embargo, investigadores de la Universitat Oberta de Catalunya (UOC) y de otros países europeos, expresan sus resquemores y llaman a profundizar en mejoras en las herramientas de la IA y en las normas de uso.
Andrea Rosales, investigadora del grupo Communication Networks and Social Change (CNSC), de la UOC, «las tecnologías digitales generan grandes cantidades de datos y dan la idea de que es posible controlar y cuantificar la mayoría de los aspectos de la vida».
La también profesora de los Estudios de Ciencias de la Información y de la Comunicación, opinó, no obstante, que “muchos aspectos de la vida cotidiana no son cuantificables y muchas cuantificaciones son burdas aproximaciones a la realidad».
Perteneciente además al Internet Interdisciplinary Institute (IN3), se refirió a un
análisis de la novela QualityLand, de Marc-Uwe Kling, una ficción en la que todo está regulado por los algoritmos.
La profesora Rosales, junto a otra especialista, Sara Suárez, señaló que hay una parte más oscura y menos conocida en las nuevas tecnologías y en cómo se están implantando.
“La digitalización forzada de la sociedad está excluyendo a los colectivos más vulnerables, ya que los sistemas algorítmicos tienen sesgos. Además, las tecnologías parecen capaces de solucionar problemas para los que, en realidad, no están preparadas”, anotaron.
En este sentido, Rosales afirmó que los algoritmos que toman nuestras decisiones también se equivocan.
«Por ejemplo, las apps de citas han cambiado la forma como buscamos pareja, dando relevancia a aspectos cuantificables de nuestras vidas que rigen el sistema de prioridades que visibiliza a los usuarios más populares en estas aplicaciones», precisó, al agregar luego que los datos no son neutrales.
“Uno de sus riesgos es que los sesgos pueden reproducir o agrandar los prejuicios que existen en la sociedad al no representar a los colectivos menos favorecidos. Un problema al que se suma la falta de leyes que regulen los algoritmos de hoy en día, la mayoría de los cuales son opacos, ya que no se sabe cómo funcionan”, remarcó.
En torno a la novela QualityLand, detalló que expone cómo la ficción presenta un mundo que nos resulta cada vez más familiar.
Aborda temas de vigencia actual como la falta de libertad, frustraciones por la digitalización forzada, el tecno-optimismo imperante, la hiperdatificación de la vida cotidiana y las amenazas que los sistemas basados en datos plantean a la democracia.
mem/ft
