La semana pasada se publicó en el Diario Oficial la recomendación del Consejo para la Transparencia sobre Transparencia Algorítmica cuyo principal objeto es “orientar y promover la adopción de buenas prácticas en torno a la transparencia y publicidad de los sistemas de decisiones automatizadas y semiautomatizadas que se utilizan en el sector público, tanto desde el respeto al ejercicio del derecho de acceso a la información pública, como de la publicación proactiva de información relevante sobre dichos sistemas”.
Esta recomendación responde a lo rápido que va avanzando el uso de herramientas de inteligencia artificial en el sector público, para diversas acciones: Fiscalización: en el extranjero hay interesantes casos de uso de ésta para analizar volúmenes importantes de información para detectar posibles conductas anómalas en el pago de impuestos y en Chile existe un modelo predictivo para fiscalizaciones proactivas de la Dirección del Trabajo.
Para tomar decisiones como la asignación de colegios en el sistema de admisión escolar. Para comunicar o informar a la ciudadanía sobre ciertos servicios o bienes públicos, como el “bot” por Whatsapp del Ministerio de la Mujer y Equidad de Género para brindar ayuda a personas que se encuentren en situación de violencia de género. Para contribuir a la prevención de delitos con el uso de inteligencia artificial para el reconocimiento facial o de patentes vehiculares-; entre muchos otros usos y potencialidades.
Sin embargo, y como se ha advertido por diversas entidades internacionales (OCDE, Unión Europea, UNESCO, entre otras), la falta de transparencia y rendición de cuentas del uso intensivo de estos mecanismos puede afectar todo su potencial y aumentar sus riesgos, como la desinformación, la discriminación arbitraria o generar desigualdad. Tal como hay casos muy exitosos de su uso, también ha habido casos muy criticados.
Un estudio mostró cómo algunos sistemas de reconocimiento facial tenían tasas de error más altas en la identificación de personas de raza negra o asiática comparado con personas de raza blanca, lo que lleva a la discriminación en áreas como la seguridad, la vigilancia y la identificación.
También se detectaron sesgos de género en procesos de reclutamiento laboral afectando a mujeres; discriminación algorítmica en la concesión de créditos por instituciones financieras, privilegiando a hombres aún en caso de contar con los mismos antecedentes que mujeres; entre muchos otros ejemplos.
En Chile, contamos desde el año 2008 con el principio de publicidad de la función pública establecido en nuestra Carta Fundamental y, desde el 2018, con la Ley de Transparencia que ha implicado un importante desarrollo de nuestro ecosistema de transparencia e integridad. Así mismo, tenemos desde el 2021 una Política Nacional de Inteligencia Artificial y se discute en el Congreso un proyecto de ley que Regula los sistemas de inteligencia artificial. Es decir, tenemos una experiencia de 15 años impulsado la transparencia en el sector público pero en materia de IA aún está todo muy en pañales.
Por esto, se hace tan necesario comenzar a establecer un cierto marco regulatorio a estas herramientas para sacarles su máxima potencialidad y que puedan contribuir a tener servicios y bienes públicos de calidad, accesibles para todas las personas, aumentando la acción eficaz y eficiente del Estado.
De este modo un primer paso imprescindible es la transparencia y rendición de cuentas, de modo que todas las personas puedan acceder, de manera sencilla y rápida, a información sobre los sistemas de decisiones automatizadas y semiautomatizadas que se están utilizando hoy en día para hacer más eficiente su labor, fomentando así que los organismos mantengan publicada cierta información que pueda afectar los derechos fundamentales de las personas o su acceso a servicios y beneficios.
Así, se busca que sea la tecnología la que esté al servicio de las personas y no al revés, pudiendo informarse, controlar y cuestionar el cuándo y cómo nuestras instituciones públicas se sirven de estas herramientas para el cumplimiento de sus funciones. Sin duda se trata de un primer paso que probablemente vaya evolucionando de la mano del mayor desarrollo e intensidad de su uso.
Para seguir leyendo columnas de Ex-Ante, clic aquí.
Lea también. Audios: ¿Qué haremos después de la caja de Pandora? Por Francisca Werth Wainer
Caso Audios: ¿Qué haremos después de la caja de Pandora? Por Francisca Werth Wainer. https://t.co/Z594duqc3z
— Ex-Ante (@exantecl) September 5, 2024
Publicaciones relacionadas
El guerrero cultural piensa, implícitamente, que el ciudadano es menos inteligente que él. Esa presunción lo lleva a convencerse de que posee la capacidad para transformar el pensamiento de los demás. A los ojos de estos sujetos, la ciudadanía sería una especie de rebaño influenciable, presa fácil de quienes buscan persuadirlos sobre cómo hay que […]
Si la preocupación es profundizar el mercado de capitales y mejorar el desempeño empresarial, la agenda debe avanzar hacia mecanismos que fortalezcan el valor del directorio como garante de confianza frente al mercado.
Salvo por los tópicos y la jerga de este tiempo, el documento del congreso suena arcaico. La perspectiva que ofrece como novedosa está emparentada con el rudimentario anticapitalismo del FRAP en los años 50 y la Unidad Popular en los 60 y 70. ¿Qué idea tienen los líderes del FA de lo que es un […]
No son el problema: son la semilla que multiplica. Cautelar a quienes poseen grandes empresas no es favoritismo, es responsabilidad. Si queremos un país próspero, debemos proteger el entorno que permite que la riqueza se cree, se mantenga y se reinvierta.
Estados Unidos anunció nuevos aranceles para productos chilenos como salmones, vinos, madera y frutas. La medida podría reducir la competitividad de las exportaciones nacionales y confirma que, bajo la doctrina America First, las afinidades políticas no garantizan un trato comercial favorable.
