AGESIC

1.6 Observatorio de uso de Inteligencia Artificial en el Estado.

Descripción

¿Cuál es la problemática que el compromiso aborda?

Las soluciones basadas en Inteligencia Artificial (IA) se han convertido en una herramienta indispensable para el desarrollo y prestación de servicios digitales para la ciudadanía. A través de su implementación, se puede potenciar la transformación digital en el Estado.

No obstante, estas soluciones presentan desafíos y riesgos que pueden traducirse en consecuencias no deseables para tomadores de decisiones basadas en esta tecnología, generando resultados imprevisibles o inesperados.

Debido a la naturaleza compleja de las soluciones de IA, estos resultados pueden incluso parecer opacos debido a la dificultad para explicarlos.

Por otra parte, existe demanda de diferentes actores de la sociedad respecto a la apertura a la participación y al acceso a información sobre aplicaciones de inteligencia artificial en el Estado, lo que está orientado a dar garantías respecto a su uso ético y responsable, tal como reducir la posibilidad de sesgos no deseados en datos y modelos utilizados en aplicación de Inteligencia Artificial, entre otros aspectos relevantes.

¿Cómo contribuirá a resolver la problemática?

La creación de un Observatorio de Inteligencia Artificial en el Estado, aportará al dar respuesta a la problemática planteada, en tanto tiene como objetivos:

1. implementar un espacio abierto de intercambio entre diferentes actores,
2. generar recomendaciones, criterios y principios para el uso de IA en el Estado y transparencia de los algoritmos, integrando aportes de diferentes actores y
3. brindar información sobre los avances del uso de IA en los distintos ámbitos del Estado, publicando casos de uso que permitan a las personas interesadas tener información actualizada.

Asimismo, se propone diseñar los procesos necesarios que den sostenibilidad a la iniciativa.

Estos objetivos están orientados a impulsar la transparencia del uso de IA en el Estado, y contribuir a la generación de confianza y la mitigación de los riesgos identificados que la tecnología presenta, habilitando el control social del uso de Inteligencia Artificial en el Estado, sobre la base del marco de su uso ético y responsable.

Por otra parte, el Observatorio permitirá avanzar en algunos de los objetivos planteados en el marco de la Estrategia de Inteligencia Artificial para el Gobierno Digital, que buscan:

Impulsar un ámbito de discusión sobre el uso de la IA en el Estado, generar capacidades y favorecer una cultura de investigación en IA.

Generar un marco de referencia que contribuya a su implementación contemplando entre otros: actores (tales como públicos, privados, academia, sociedad civil), roles y responsabilidades, normas, procedimientos y mecanismos de toma de decisión, así como indicadores sobre performance y pautas para el análisis de impacto.

Promover la transparencia activa, el cumplimiento de los principios y valores éticos.

Objetivo

Crear un Observatorio de Inteligencia Artificial en el Estado que promueva y fomente el uso ético, responsable, seguro y confiable de esta tecnología, y fortalezca el ecosistema de inteligencia artificial en Uruguay.

Metas

• Generar espacios de intercambio con diferentes sectores interesados para desarrollar recomendaciones, criterios y estándares técnicos que permitan abordar el uso responsable, seguro y confiable de tecnologías de IA en el Estado. - Inicio 01/05/2022 - Fin 30/06/2024 - Avance 40%
• Desarrollar criterios y recomendaciones para las Instituciones públicas que den pautas para la transparencia de Algoritmos en las aplicaciones de uso de IA en el Estado, en sinergia con la normativa vigente en materia de Transparencia y Acceso a la Información Pública - Inicio 01/09/2022 - Fin 30/09/2023 - Avance 25%
• Promover el uso de la tecnología de IA en beneficio de la población contemplando aspectos de ética, privacidad, responsabilidad, transparencia y no discriminación; y publicar casos de uso de IA en el Estado. - Inicio 01/06/2022 - Fin 30/06/2023 - Avance 40%
• Puesta en marcha del Observatorio de IA en el Estado, incluyendo lineamientos, y casos de uso. - Inicio 01/10/2023 - Fin 30/06/2024 - Avance 0%

Situación Actual al 30/11/2022

Meta 1:

1ra Reunión de intercambio 

El 19 de mayo de 2022 se llevó adelante la 1era Reunión de intercambio "Bases para un Observatorio de uso de Inteligencia Artificial en el Estado". Con la misma se dio inicio al proceso de creación del Observatorio. 

Participaron actores del Estado, academia, sector privado, organizaciones de sociedad civil, especialistas de la Alianza de Gobierno Abierto y UNESCO. 

El objetivo de esta primera instancia fue generar un espacio de intercambio que posibilitara conocer las temáticas, problemas y desafíos que en cada sector se identifica para crear:

• Recomendaciones, criterios y estándares técnicos que permitan abordar el uso responsable, seguro y confiable de tecnologías de Inteligencia Artificial en el Estado.
• Criterios y recomendaciones para las Instituciones públicas que den pautas para la transparencia de Algoritmos en las aplicaciones de uso de IA en el Estado, en concordancia con la normativa vigente en materia de Transparencia y Acceso a la Información Pública.

Los aportes recibidos fueron sistematizados. En la sección documentos relacionados se encuentra disponible el Informe de la 1era Reunión de intercambio. 

Acceder a la Agenda de la actividad

Acceder a más información sobre la 1era Reunión de Intercambio

2da Reunión de intercambio

Se realizó el 23 de agosto de 2022. El objetivo de esta segunda instancia, fue recabar propuestas, y generar insumos, focalizados en dos ejes temáticos: 

• ¿Cómo integrar transparencia y acceso a la información pública a la temática de algoritmos e inteligencia artificial?
• ¿Cuáles serían los usos de IA por parte del Estado que aportarían a la población, además de que los sistemas tengan mitigados los sesgos y sean creados bajo los principios orientadores de transparencia por diseño y de privacidad por diseño? 
  

Los aportes recibidos fueron sistematizados en un informe que suma nuevos insumos para continuar trabajando.

En la sección documentos relacionados se accederá al Informe de la 2da Reunión de Intercambio, a la Agenda de la actividad y a la Guía de Apoyo asociada. 

3ra Reunión de intercambio

Se realizó el 25 de octubre de 2022.La propuesta de esta tercera instancia, convocada en modalidad Taller de trabajo, estuvo enfocada en dos ejes temáticos: 

• Transparencia algorítmica - Registro de algoritmos de IA 
• Relevamiento de ecosistema IA 
  

El objetivo de la reunión fue generar un intercambio entre los participantes sobre contenidos que podrían incluirse en una guía de transparencia algorítmica y en un formulario de autoevaluación para entidades públicas sobre uso de IA, considerando aspectos de normativa, ética, transparencia y uso responsable. 

Se ofreció además una puesta en común de los insumos generados en reuniones de intercambio realizadas en forma previa. Los aportes recibidos fueron sistematizados en un informe que será publicado próximamente y sumará nuevos insumos. 

Estas instancias y sus resultados, aportan a tres de las cuatro metas de este compromiso, lo que apoya la elaboración evolutiva hacia la puesta en marcha del Observatorio IA. 

Las actividades fueron ?organizadas por la Unidad de Acceso a la Información Pública (UAIP) y la Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento (Agesic). 

Meta 2:

Se avanzó en la generación de insumos para desarrollar criterios y recomendaciones para las instituciones públicas sobre transparencia de Algoritmos. 

Meta 3:
 
Se avanzó en el diseño de la autoevaluación para las instituciones públicas con el objetivo de publicar el uso de IA.