--°C

La inteligencia artificial (IA) avanza cada vez con mayor rapidez y ya forma parte de distintas tareas dentro del Estado. Desde asistentes virtuales que responden consultas ciudadanas hasta herramientas que ayudan a redactar documentos administrativos, la tecnología comenzó a incorporarse a la gestión pública y abrió un nuevo desafío: cómo aprovechar sus beneficios sin perder de vista los riesgos que implica.

En ese contexto, la Sindicatura General de la Nación (SIGEN) presentó la Guía de Controles destinada a fortalecer el control sobre el uso de sistemas de IA en la Administración Pública Nacional (APN). El documento, aprobado mediante la Resolución 197/2026, propone un conjunto de controles para que los organismos incorporen estas tecnologías bajo criterios de transparencia, seguridad de la información y rendición de cuentas.

Ese diagnóstico se apoyó en un relevamiento realizado por la SIGEN en distintos organismos de la APN. "Se instruyeron relevamientos a las Unidades de Auditoría Interna (UAI) de todo el Sector Público Nacional. De ahí surgió que diversos organismos se encuentran impulsando iniciativas de inteligencia artificial, advirtiéndose la necesidad de fortalecer y sistematizar los controles que deben acompañar su diseño, desarrollo, implementación y utilización", explicó a El Auditor.info Marina Varela, gerenta de Proyectos Especiales de la SIGEN.

A partir de ese trabajo, la SIGEN avanzó en la elaboración de la Guía. Según indicó Varela, "la elaboración responde a la necesidad de acompañar la incorporación de herramientas de inteligencia artificial desde una perspectiva preventiva y basada en riesgos". En ese marco, agregó que el documento "brinda un marco de referencia para que los organismos incorporen controles proporcionales a los riesgos, promoviendo que las iniciativas de IA se desarrollen de manera alineada con los objetivos institucionales", además del marco normativo vigente y los principios de integridad, transparencia, responsabilidad y buena gestión pública.

"La Guía aún no tiene el carácter obligatorio de una norma; esperamos que contribuya a exponer la orientación y controles recomendados para la implementación y utilización de sistemas de IA", señaló Marina Varerla, gerenta de Proyectos Especiales de SIGEN.

Aunque el debate sobre la inteligencia artificial suele asociarse con un escenario futuro, la tecnología ya tiene aplicaciones concretas dentro del sector público. Para Mariana Sánchez Caparrós, doctora en Ciencias Jurídicas y magíster en Derecho Administrativo, los casos más visibles se encuentran en la atención ciudadana. "Hoy el uso más conocido está en los asistentes virtuales para atención ciudadana, como los chatbots, que permiten responder consultas y facilitar la realización de trámites".

La especialista señaló que el uso de estas herramientas comenzó a extenderse a otras áreas de gestión. "También hay experiencias piloto donde la IA se utiliza para asistir en la redacción de dictámenes o documentos administrativos, y algunas jurisdicciones provinciales ya cuentan con herramientas como Microsoft Copilot integradas a sus aplicaciones de oficina, por ejemplo en áreas de la provincia de Buenos Aires o de Tierra del Fuego", destacó.

Sánchez Caparrós advirtió que el crecimiento del uso informal de plataformas de inteligencia artificial por parte de los agentes públicos plantea desafíos en materia de protección de datos y hace necesario establecer reglas claras para evitar lo que se conoce como "IA en las sombras". En ese contexto, la guía de la SIGEN distingue dos escenarios: el uso individual de herramientas de inteligencia artificial generativa por parte de los trabajadores del Estado y los sistemas de IA integrados a procesos institucionales que pueden influir en decisiones administrativas o en la prestación de servicios públicos.

Para el organismo de control, ambos casos requieren mecanismos de supervisión, aunque con distintos niveles de complejidad. En ese sentido, Varela explicó que "la Guía constituye una herramienta práctica tanto para los responsables de la gestión como para quienes ejercen funciones de auditoría interna". Además, destacó que "para las autoridades y responsables de la gestión, permite disponer de los controles organizados por tema, mostrando en cada caso el riesgo que se busca mitigar".

"El desafío sigue estando en los datos, pero la pregunta es más amplia: ¿Qué grado de madurez tiene cada organismo para adoptar la inteligencia artificial?", interrogó la especialista Mariana Sánchez Caparros

Más allá de los controles técnicos, el documento pone el foco en un aspecto que aparece de manera recurrente en el debate internacional: la gobernanza. Para Sánchez Caparrós, la posibilidad de implementar inteligencia artificial de manera confiable depende de mucho más que de la disponibilidad de información. "El desafío sigue estando en los datos, pero agregaría una pregunta más amplia: ¿qué grado de madurez tiene cada organismo para adoptar inteligencia artificial?", sostuvo.

Desde su perspectiva, la preparación institucional debe analizarse de forma integral. "Un organismo puede tener muchos datos, pero si no tiene una estrategia clara, capacidades internas, infraestructura, reglas de gobernanza y mecanismos de monitoreo, difícilmente pueda implementar IA de manera confiable". En esa línea, resumió que "el punto no es solo tener datos, sino saber para qué se van a usar, bajo qué reglas, con qué controles, en qué infraestructura y con qué capacidades institucionales y humanas vas a desarrollar sistemas de IA".

Uno de los principios centrales de la Guía es que la inteligencia artificial no reemplaza la responsabilidad de los funcionarios públicos. La supervisión humana aparece como un requisito permanente, especialmente cuando estas herramientas intervienen en procesos administrativos.

La Guía también identifica distintos niveles de riesgo según el tipo de aplicación. Mientras algunas herramientas cumplen funciones de apoyo administrativo, otras podrían tener impacto directo sobre los derechos de las personas. "No es lo mismo utilizar IA para resumir un expediente que para asistir una decisión que puede afectar la libertad, el acceso a un beneficio social o una intervención en materia de salud", advirtió Sánchez Caparros. Sin embargo, remarcó que "requiere un enfoque interdisciplinario. No alcanza con desarrollar una buena solución tecnológica; también hay que incorporar desde el diseño perspectivas jurídicas, éticas, sociales y de experiencia de usuario".

Desde la SIGEN aclararon que la Guía funciona como un marco de referencia para orientar la implementación y utilización de sistemas de inteligencia artificial en el Estado. "La Guía aún no tiene el carácter obligatorio de una norma; esperamos que contribuya a exponer la orientación y controles recomendados para la implementación y utilización de sistemas de inteligencia artificial", indicó Varela.

Y recordó que estos lineamientos se complementan con las Normas de Control Interno para Tecnología de la Información (TI), vigentes desde 2022. "Esas normas establecen lineamientos para el gobierno y la gestión de TI, enfatizando la necesidad de garantizar control, seguridad, integridad de la información y adecuada delimitación de responsabilidades, elementos esenciales para la adopción responsable de la IA".