Saltar al contenido principal
AGESIC

1.6 Observatorio de uso de Inteligencia Artificial en el Estado.

Visitas: 24132 | Última actualización: 28/06/2024

Descripción

¿Cuál es la problemática que el compromiso aborda?

Las soluciones basadas en Inteligencia Artificial (IA) se han convertido en una herramienta indispensable para el desarrollo y prestación de servicios digitales para la ciudadanía. A través de su implementación, se puede potenciar la transformación digital en el Estado.

No obstante, estas soluciones presentan desafíos y riesgos que pueden traducirse en consecuencias no deseables para tomadores de decisiones basadas en esta tecnología, generando resultados imprevisibles o inesperados.

Debido a la naturaleza compleja de las soluciones de IA, estos resultados pueden incluso parecer opacos debido a la dificultad para explicarlos.

Por otra parte, existe demanda de diferentes actores de la sociedad respecto a la apertura a la participación y al acceso a información sobre aplicaciones de inteligencia artificial en el Estado, lo que está orientado a dar garantías respecto a su uso ético y responsable, tal como reducir la posibilidad de sesgos no deseados en datos y modelos utilizados en aplicación de Inteligencia Artificial, entre otros aspectos relevantes.

¿Cómo contribuirá a resolver la problemática?

La creación de un Observatorio de Inteligencia Artificial en el Estado, aportará al dar respuesta a la problemática planteada, en tanto tiene como objetivos:

  1. implementar un espacio abierto de intercambio entre diferentes actores,
  2. generar recomendaciones, criterios y principios para el uso de IA en el Estado y transparencia de los algoritmos, integrando aportes de diferentes actores y
  3. brindar información sobre los avances del uso de IA en los distintos ámbitos del Estado, publicando casos de uso que permitan a las personas interesadas tener información actualizada.

Asimismo, se propone diseñar los procesos necesarios que den sostenibilidad a la iniciativa.

Estos objetivos están orientados a impulsar la transparencia del uso de IA en el Estado, y contribuir a la generación de confianza y la mitigación de los riesgos identificados que la tecnología presenta, habilitando el control social del uso de Inteligencia Artificial en el Estado, sobre la base del marco de su uso ético y responsable.

Por otra parte, el Observatorio permitirá avanzar en algunos de los objetivos planteados en el marco de la Estrategia de Inteligencia Artificial para el Gobierno Digital, que buscan:

Impulsar un ámbito de discusión sobre el uso de la IA en el Estado, generar capacidades y favorecer una cultura de investigación en IA.

Generar un marco de referencia que contribuya a su implementación contemplando entre otros: actores (tales como públicos, privados, academia, sociedad civil), roles y responsabilidades, normas, procedimientos y mecanismos de toma de decisión, así como indicadores sobre performance y pautas para el análisis de impacto.

Promover la transparencia activa, el cumplimiento de los principios y valores éticos.

Objetivo

Crear un Observatorio de Inteligencia Artificial en el Estado que promueva y fomente el uso ético, responsable, seguro y confiable de esta tecnología, y fortalezca el ecosistema de inteligencia artificial en Uruguay.

Metas

  • Generar espacios de intercambio con diferentes sectores interesados para desarrollar recomendaciones, criterios y estándares técnicos que permitan abordar el uso responsable, seguro y confiable de tecnologías de IA en el Estado. - Inicio 01/05/2022 - Fin 30/06/2024 - Avance 100%
  • Desarrollar criterios y recomendaciones para las Instituciones públicas que den pautas para la transparencia de Algoritmos en las aplicaciones de uso de IA en el Estado, en sinergia con la normativa vigente en materia de Transparencia y Acceso a la Información Pública - Inicio 01/09/2022 - Fin 30/09/2023 - Avance 100%
  • Promover el uso de la tecnología de IA en beneficio de la población contemplando aspectos de ética, privacidad, responsabilidad, transparencia y no discriminación; y publicar casos de uso de IA en el Estado. - Inicio 01/06/2022 - Fin 30/06/2023 - Avance 100%
  • Puesta en marcha del Observatorio de IA en el Estado, incluyendo lineamientos, y casos de uso. - Inicio 01/10/2023 - Fin 30/06/2024 - Avance 100%

Situación Actual al 31/12/2023

Meta 1: Se detallan los espacios de intercambio realizados con diferentes sectores interesados para desarrollar recomendaciones, criterios y estándares técnicos para abordar el uso responsable, seguro y confiable de tecnologías de Inteligencia Artificial en el Estado.

Actividades 2022

1ra Reunión de intercambio. El 19 de mayo de 2022 se llevó adelante la 1era Reunión de intercambio "Bases para un Observatorio de uso de Inteligencia Artificial en el Estado". Con la misma se dio inicio al proceso de creación del Observatorio. Participaron actores del Estado, academia, sector privado, organizaciones de sociedad civil, especialistas de la Alianza de Gobierno Abierto y UNESCO.

El objetivo de esta primera instancia fue generar un espacio de intercambio que posibilitara conocer las temáticas, problemas y desafíos que en cada sector se identifica para crear:

  • Recomendaciones, criterios y estándares técnicos que permitan abordar el uso responsable, seguro y confiable de tecnologías de Inteligencia Artificial en el Estado.
  • Criterios y recomendaciones para las Instituciones públicas que den pautas para la transparencia de Algoritmos en las aplicaciones de uso de IA en el Estado, en concordancia con la normativa vigente en materia de Transparencia y Acceso a la Información Pública.

Los aportes recibidos fueron sistematizados. En la sección documentos relacionados se encuentra disponible el Informe de la 1era Reunión de intercambio. 

Acceder a la Agenda de la actividad

Acceder a más información sobre la 1era Reunión de Intercambio

2da Reunión de intercambio. Se realizó el 23 de agosto de 2022. El objetivo de esta segunda instancia, fue recabar propuestas, y generar insumos, focalizados en dos ejes temáticos: 

  • ¿Cómo integrar transparencia y acceso a la información pública a la temática de algoritmos e inteligencia artificial?
  • ¿Cuáles serían los usos de IA por parte del Estado que aportarían a la población, además de que los sistemas tengan mitigados los sesgos y sean creados bajo los principios orientadores de transparencia por diseño y de privacidad por diseño? 

Los aportes recibidos fueron sistematizados en un informe que suma nuevos insumos para continuar trabajando.

En la sección documentos relacionados se accederá al Informe de la 2da Reunión de Intercambio, a la Agenda de la actividad y a la Guía de Apoyo asociada. 

3ra Reunión de intercambio. Se realizó el 25 de octubre de 2022. La propuesta de esta tercera instancia, convocada en modalidad Taller de trabajo, estuvo enfocada en dos ejes temáticos: 

  • Transparencia algorítmica - Registro de algoritmos de IA 
  • Relevamiento de ecosistema IA 

El objetivo de la reunión fue generar un intercambio entre los participantes sobre contenidos que podrían incluirse en una guía de transparencia algorítmica y en un formulario de autoevaluación para entidades públicas sobre uso de IA, considerando aspectos de normativa, ética, transparencia y uso responsable. 

Se ofreció además una puesta en común de los insumos generados en reuniones de intercambio realizadas en forma previa. Los aportes recibidos fueron sistematizados en un informe que será publicado próximamente y sumará nuevos insumos. 

Estas instancias y sus resultados, aportan a tres de las cuatro metas de este compromiso, lo que apoya la elaboración evolutiva hacia la puesta en marcha del Observatorio IA. 

Las actividades fueron organizadas por la Unidad de Acceso a la Información Pública (UAIP) y la Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento (Agesic). 

Actividades 2023

En el 2023 el Programa de Datos e Inteligencia Artificial es uno de los programas prioritarios liderados por Agesic, que integra y articula estrategias, políticas, recursos, infraestructura e iniciativas en sectores específicos.

En el marco de este Programa se ha comenzado un proceso de revisión y actualización de la Estrategia de Inteligencia Artificial para Uruguay, con el fin de proponer acciones más relevantes y efectivas tras el avance de esta tecnología. Para este proceso, se cuenta con la cooperación técnica de Banco de Desarrollo de América Latina (CAF) y de UNESCO, particularmente en la implementación de la Recomendación sobre la Ética de IA, adoptada por los países miembros en noviembre de 2021.

Los objetivos y las metas del compromiso Observatorio de uso de IA en el Estado, se ven contenidos y potenciados dentro de este Programa, que tiene previstos espacios de participación y de intercambio que se inician en el mes de junio de 2023.

Recomendación sobre la Ética de la Inteligencia Artificial

Espacios de intercambio 2023

1era Mesa de diálogo “Inteligencia Artificial: oportunidades y desafíos de una estrategia nacional”. Se realizó el 28 de junio de 2023. El objetivo se enmarca en la meta 1 del compromiso, manteniendo los espacios de trabajo colaborativo e interdisciplinario entre diferentes actores de las instituciones públicas, la sociedad civil, el sector privado y la academia. En esta oportunidad se trabajó en:

  • Intercambio de ideas y propuestas que permitan evolucionar la actual estrategia de inteligencia artificial a los nuevos contextos y desafíos;
  • El alcance que debe tener la nueva estrategia de inteligencia artificial;
  • Las temáticas, dimensiones y principios a ser contemplados; los principales problemas y desafíos a dar respuesta;

Líneas de acción que permitan dar respuesta a estos desafíos. Se consideró en el trabajo, los objetivos del Observatorio de uso de IA, como parte relevante en la temática de transparencia de la estrategia.

2da Mesa de diálogo “Inteligencia Artificial: oportunidades y desafíos de una estrategia nacional”. Se realizó el 6 de julio de 2023. En esta instancia se trabajó en el mismo formato y dinámica que la 1a. instancia de la mesa, pero esta vez, enfocando en propuestas temáticas sobre las cuales surgieron aportes producto del intercambio y las visiones de los participantes. Estas propuestas temáticas en relación a la Estrategia de Inteligencia Artificial fueron sobre:

  • Institucionalidad y Gobernanza;
  • Marco regulatorio y de referencia;
  • Derechos Humanos;
  • Ética, Transparencia y rendición de cuentas;
  • Formación, gestión del conocimiento y ciudadanía;
  • Impacto en el ámbito laboral;
  • Ecosistema de IA;
  • Gestión y uso de datos. 

Participaron en las actividades más de 100 personas.

Acceder a la información sobre las mesas de diálogo.

Actividades – 2do. semestre 2023

Como parte de la Fase 2 del Programa de Datos e Inteligencia Artificial, se continuó  con el desarrollo de actividades que han contribuido al cumplimiento de las metas del compromiso Observatorio de uso de IA en el Estado, en contexto integrado con la revisión de la Estrategia de Inteligencia Artificial.

Mesas de diálogo “Inteligencia Artificial: oportunidades y desafíos de una estrategia nacional” con sectores y colectivos de interés identificados en el proceso de participación, para intercambiar visiones y propuestas a la revisión de Estrategia de IA, de modo de recoger miradas de interés para la temática, con énfasis en los aspectos vinculados a los cometidos sustantivos de los diferentes sectores que participaron.

  • 31 de agosto de 2023 - reunión con referentes de la Academia, desde la visión de formación y capacitación como parte sustancial en esta temática.
  • 5 de setiembre de 2023 – reunión coordinada conjuntamente con el Colectivo MujeresIT, para integrar la perspectiva de género.
  • 3 de octubre de 2023 – reunión coordinada conjuntamente con representantes del sector de tecnologías de la información.
  • 5 de octubre de 2023 – reunión con grupo de emprendedores. Esta actividad se realizó en coordinación con el Banco Interamericano de Desarrollo, en su sede en Montevideo.

Se mantuvo el interés en los objetivos del Observatorio de uso de IA, como parte relevante en la temática de transparencia de la Estrategia.

Participaron de las mesas de diálogo realizadas durante el año, 250 personas de diferentes sectores.

Los informes de las mesas están en proceso de revisión por parte de los y las participantes. Una vez finalizado el mismo, quedarán publicados.

Acceder a los informes de las mesas de diálogo

Meta 2: Durante el 2022, se avanzó en la generación de insumos para desarrollar criterios y recomendaciones para las instituciones públicas sobre transparencia de Algoritmos. Estos insumos surgieron de los espacios de intercambio, la revisión comparada con otras experiencias y de la normativa vigente.

Durante el 2023, se avanzó en la generación de una primera versión de una guía para las instituciones públicas sobre Transparencia de Algoritmos, donde se ha evidenciado la importancia de integrar diferentes miradas disciplinares. Este primer avance está en proceso de revisión y análisis para alcanzar una versión publicable.

En el primer semestre del 2024 se completó una guía de recomendaciones sobre transparencia que recogió además, actualización de avances a nivel internacional y en organismos multilaterales, e integró nuevas miradas disciplinares para su elaboración. Se alcanzó acuerdo sobre la primera versión de la guía para las instituciones públicas y también de un proceso de actualización de la misma. Esta versión está en proceso de publicación y quedará integrada al Observatorio de IA en el Estado antes del día 10 de julio de 2024.

Meta 3: Durante el 2022, se avanzó en el diseño de la autoevaluación para las instituciones públicas con el objetivo de publicar el uso de IA.

En el 2023, se elaboró un procedimiento para relevar los casos de uso de aplicación de IA en el Estado en dos etapas. Una de ellas incluye un formulario para reporte de los casos, donde se han considerado algunos puntos surgidos como insumos de la tercera mesa de diálogo del año 2022. En noviembre 2023 se comenzó con la distribución del formulario para relevar los casos de uso de aplicación de inteligencia artificial en organismos del Estado a la lista de jerarcas de organismos, buscando el mayor nivel de adhesión en esta primera fase de relevamiento. Esta distribución incluyó el envío del formulario-encuesta a direcciones generales de organismos de la administración central, servicios descentralizados, entes autónomos, gobiernos departamentales y personas públicas no estatales. Se recibieron respuestas de 22 (veintidós) organismos reportando casos y también reportando que no tienen casos de aplicación de inteligencia artificial.

En el mes de mayo de 2024, se dio por terminada la primera etapa de relevamiento de estos casos de uso.

El informe de la sistematización de la información estará disponible en el Observatorio de IA. Se ha comenzado además, la definición de un procedimiento para actualizar información e integrar nueva, lo que excede a la meta del compromiso.

Meta 4: En las actividades y el trabajo realizado para el cumplimiento de las metas 1, 2 y 3 se generaron contenidos que están incluidos en el Observatorio de uso de IA en el Estado:

  • Antecedentes del Observatorio y proceso de creación del mismo.
  • Informes de los espacios de intercambio mantenidos durante la vigencia de este compromiso.
  • Recomendaciones para la transparencia algorítmica para instituciones públicas.
  • Metodología y resultados del relevamiento de casos de uso de aplicación de inteligencia artificial en el Estado.
  • Recursos de interés, relevantes a la temática y que forman parte de las referencias consideradas.
Estos contenidos están en un sitio web, que se pondrá público el 10 de julio de 2024

Proyecto en cifras

Eje temático
Gestión pública más eficiente y abierta al monitoreo de la ciudadanía
Fecha Inicio
01/05/2022
Fin estimado
30/06/2024
Plazo Estimado
791
Estado
Finalizado
Avance al 30/06/2024
100%
Organismo
AGESIC
Responsable
Gabriel Hernández y Maximiliano Maneiro
Departamento
Director del Área Infraestructura - Agesic y Gerente de la División Tecnologías Emergentes
E-mail
gabriel.hernandez@agesic.gub.uy y maximiliano.maneiro@agesic.gub.uy
Teléfono
29012929
Versión:3.2-11 Mirador de agenda digital