GUÍA DE CONTROLES IA DE SIGEN

 

La Guía de Controles para el uso de Inteligencia Artificial en el Sector Público Nacional (IF-2026-53068261-APN-GPNYPT#SIGEN), publicada por la Sindicatura General de la Nación (SIGEN) se aplica a todo el Sector Público Nacional en los términos de la Ley 24156.00 Se trata de una guía técnica de auditoría interna que establece objetivos de control y riesgos a mitigar. Tiene gran relevancia práctica pues será el parámetro que utilicen SIGEN, las Unidades de Auditoría Interna (UAI) y la AGN al auditar cualquier organismo del Sector Público Nacional que use IA.

En cuanto a su estructura, podemos distinguir dos escenarios, con controles distintos para cada uno.

Escenario 1 — Uso individual de IA generativa (ChatGPT, Copilot, Gemini, etc. como apoyo al agente público, sin integración institucional). Los controles se centran en tres ejes: que haya una política institucional aprobada para el uso de esas herramientas, que el uso quede documentado en los procedimientos, y que se instrumenten cuidados específicos sobre los datos que se ingresan a esas plataformas.

Escenario 2 — Sistemas IA institucionales (IA incorporada a procesos, aplicaciones o decisiones organizacionales, con entrenamiento de datos). Desarrolla catorce objetivos de control que cubren todo el ciclo de vida: planificación, responsables, desarrollo, seguridad, datos de entrenamiento, pruebas, puesta en producción, trazabilidad, operaciones y tratamiento de incidentes. Además, la Guía no solo se enfoca en errores comunes, sino en riesgos técnicos avanzados como el “envenenamiento de datos” (poisoning) y los ataques de '”Adversarial Machine Learning”, factores críticos para asegurar que los algoritmos de detección de fraude no sean manipulados externamente

Los ejes conceptuales que atraviesan toda la Guía son tres, a saber:

1. La responsabilidad no se delega en la IA, sólo se traslada la ejecución, no la responsabilidad. Los funcionarios siguen siendo responsables de las decisiones, aunque estén asistidas o generadas por IA. Esto tiene implicancias directas en materia de responsabilidad administrativa y eventual responsabilidad civil del Estado.

2. Transparencia y explicabilidad como requisitos operativos. Los resultados deben poder ser comprendidos por quienes los utilizan, y también explicados a los afectados o a terceros. Si el acto administrativo fue asistido por IA y no se puede explicar el razonamiento, la motivación es cuando menos cuestionable. La Guía operativiza este principio en su Objetivo de Control 2.9, exigiendo explícitamente que los resultados sean comprensibles para que los operadores puedan 'explicar a las personas afectadas o a terceros' las decisiones tomadas

En consecuencia, la explicabilidad se transforma en una salvaguarda del derecho de defensa.

3. Protección de datos personales como condición de validez. La Ley N° 25.326 (Protección de Datos Personales) es el marco obligatorio en el uso de herramientas IA, tanto en el escenario individual como en el de sistemas institucionales.

Los organismos de recaudación nacional y provinciales utilizan o están evaluando usar herramientas de IA para fiscalización, detección de inconsistencias, cruce de datos y análisis de riesgo. La Guía SIGEN define el marco de control interno bajo el cual esos sistemas deberían auditarse.

Desde la perspectiva del contribuyente importa conocer cuál es el método con el que se ha realizado una selección para fiscalización o una retención aduanera fue generada o asistida por IA. Ello atento a que el contribuyente tiene derecho a que eso sea transparente y explicable. Es además una condición de validez del acto administrativo.

Por otra parte, el sesgo es un riesgo para mitigar en el diseño de los datos de entrenamiento. Un sistema de scoring tributario entrenado con datos no representativos puede generar selecciones discriminatorias. Esto abre líneas de impugnación que debieran ser tenidas en cuenta.

La exigencia de trazabilidad es tanto un requisito técnico como una condición que hace posible el control jurisdiccional posterior. Sin trazabilidad, no hay posibilidad real de impugnar lo que el sistema decidió.

En cuanto a los servicios tercerizados, la Guía requiere que los contratos con proveedores de nube o servicios de IA contemplen medidas de seguridad, auditabilidad y control. Esto es relevante cuando el organismo usa plataformas externas para procesar datos de contribuyentes pues los términos y condiciones del proveedor deben ser compatibles con el marco jurídico argentino, incluyendo la Ley 25.326.

En conclusión, la Guía se basa en sólidos estándares internacionales (OCDE, UNESCO, NIST, COSO 2026, entre otros). Sin embargo, presenta una limitación importante para el contexto tributario y aduanero. Ello por cuanto no aborda específicamente el uso de IA en funciones de fiscalización ni en decisiones que afectan directamente derechos de los administrados. Aunque la Guía nace desde la óptica del control interno organizacional, sus estándares de trazabilidad de decisiones automatizadas (Objetivo 2.10) y supervisión humana efectiva proporcionan el andamiaje técnico necesario para dar cumplimiento a las garantías del debido proceso administrativo en el ámbito tributario y aduanero

INTELIGENCIA ARTIFICIAL, ÉTICA Y FACTOR HUMANO, EL EQUILIBRIO NECESARIO

 

Mi agradecimiento AFIDEER, UADER y UCA Sede Paraná.

Fue un verdadero honor participar en este productivo "Ciclo de Charlas: IA en Acción". Mis felicitaciones a las instituciones organizadoras por el excelente abordaje de una temática tan crucial y actual como la Inteligencia Artificial, el equilibrio ético y el factor humano en el ámbito del estudio y el emprendimiento.

Un agradecimiento y reconocimiento especial a la excelente presentación de la Dra. Daniela Dans y equipo de colaboradores.

PROMPT INJECTION EN UN PROCESO JUDICIAL

 

El 12 de mayo de 2026, la 3ª Vara do Trabalho de Parauapebas (Brasil) dictó una sentencia que merece atención. Dos abogadas insertaron texto invisible en una demanda laboral -fuente blanca sobre fondo blanco- con instrucciones dirigidas a manipular el sistema de IA judicial para que generara una contestación superficial. 

La técnica, conocida como prompt injection, fue detectada por el sistema Galileu, utilizado por ese tribunal con amparo en las Resoluciones CNJ 332/2020 y 615/2025.

El fallo es valioso como pionero. El juez encuadró la conducta como atentado a la dignidad de la justicia, resolvió con inteligencia la cuestión de la inaplicabilidad del escudo de independencia funcional del abogado. Además, sentó un principio relevante, el ilícito es formal y se consuma con la sola inserción del comando, sin necesidad de perjuicio concreto.

Sin embargo, la sanción impuesta -10% del valor de la causa- sería de carácter moderado frente a una conducta dolosa, premeditada y técnicamente sofisticada. El punto más débil del fallo es la ausencia de comunicación al Ministerio Público pese a que la conducta podría encuadrar en figuras como fraude procesal o interferencia en sistemas informáticos.

El caso expone con claridad una deuda regulatoria que ya no puede postergarse. Las herramientas procesales vigentes no fueron diseñadas para ataques tecnológicos a la infraestructura judicial. Para estos casos se impone una legislación específica que tipifique el prompt injection y conductas análogas como ilícito autónomo, con sanciones proporcionales al dolo y al riesgo sistémico que representan, articulando de manera expresa la respuesta procesal, disciplinaria y penal.

Para Argentina, este fallo llega como advertencia anticipada. La incorporación de IA en el proceso judicial avanza en distintas jurisdicciones del país sin que esté definido aún qué ocurre cuando alguien lo ataca. Lo que parecía improbable ya tiene antecedente en el caso Mata c/ Avianca que demostró que conductas vinculadas al uso indebido de IA en el proceso —que muchos consideraban hipotéticas— terminan ocurriendo. El caso de Parauapebas es el siguiente escalón. La omisión regulatoria no es teórica sino que, por el contrario, podría tener consecuencias reales, y los tribunales deberán resolverlas con herramientas que no fueron diseñadas para ello. Entonces, en caso de utilizarse la misma maniobra nuevamente, ¿estaremos preparados regulatoriamente para ello?

UN CÓDIGO ÉTICO QUE CONSOLIDA EL CAMINO RECORRIDO

 

La Cumbre Judicial Iberoamericana recientemente aprobó el Código Ético Iberoamericano para el Uso de Inteligencia Artificial en el Ámbito Judicial. Es un instrumento que reúne a los 23 sistemas judiciales del espacio iberoamericano bajo un marco común de principios para el uso de la IA en la administración de justicia.

Se trata de un instrumento de soft law. Es decir, no tiene fuerza normativa directa ni genera obligaciones coercibles de manera inmediata. Su valor reside en sistematizar y darle autoridad institucional regional a principios que ya venían siendo recomendados en documentos previos —el Código Iberoamericano de Ética Judicial, el Dictamen de la Comisión Ibero de 2023, el Reglamento europeo de IA— dispersos hasta ahora en distintos instrumentos.

El núcleo del Código es claro y se reitera a lo largo de todo el articulado. Por un lado la IA es herramienta de apoyo, nunca sustituto del razonamiento jurídico humano y, por otro, el juez mantiene el control total sobre la decisión final. Eso no es nuevo, pero su consagración expresa en un documento regional tiene peso argumentativo real pues puede ser invocado por litigantes y operadores judiciales frente a usos cuestionables de estas tecnologías, aun antes de que cada país cuente con legislación específica.

Entre los aspectos más relevantes para la práctica cotidiana podemos destacar tres. 

a) El deber de motivación: si el juez utilizó una herramienta de IA en el análisis del caso, eso debe quedar explicitado en la resolución. 

b) El derecho de las partes a conocer ese uso y a poder cuestionarlo, lo que tiene implicaciones directas sobre el contradictorio y el derecho al recurso. 

c) La recomendación -firme aunque no absoluta- de evitar el uso de IA en la imposición de penas y en la evaluación de reincidencia en materia penal.

El Código tiene también limitaciones visibles porque no establece sanciones por incumplimient y la diversidad normativa entre los países miembros hace incierta una implementación uniforme.

En definitiva, no resuelve todo, pero fija un piso común desde el cual los operadores del derecho ya pueden argumentar, y los legisladores nacionales, construir.

VILLAGUAY: IA, ÉTICA Y EJERCICIO PROFESIONAL

 

El viernes pdo. tuve el gusto de dictar en Villaguay un taller presencial sobre inteligencia artificial, ética y responsabilidad profesional en el ejercicio de la abogacía.

Fue una jornada de mucho intercambio, reflexión crítica y participación activa, en un excelente clima de trabajo y debate.

Gracias a quienes participaron con preguntas, aportes e interés genuino por pensar el impacto de la IA en la práctica jurídica desde una mirada responsable y ética.

Nos quedamos con el compromiso de volver próximamente con nuevas propuestas y otros temas vinculados al Derecho y la tecnología.

 

TORRES ABAD c/ ESTADO NACIONAL. AUTODETERMINACIÓN INFORMATIVA Y CONTROL DE CONSTITUCIONALIDAD DE OFICIO

La actora promovió hábeas data contra el Estado Nacional con el objeto de impedir que los datos proporcionados a la ANSeS en el marco de su trámite previsional —número de teléfono y dirección de correo electrónico— fueran cedidos a la Secretaría de Comunicación Pública en virtud del Convenio Marco aprobado por Resolución JGM 166E/2016. La pretensión se fundó en los artículos 19 y 43 de la Constitución Nacional, el artículo 11 de la CADH y la propia Ley 25.326.

La cuestión central era determinar si las excepciones al consentimiento previstas en la Ley 25.326 habilitaban válidamente esa cesión. El Estado sostuvo que sí, invocando la literalidad de las normas: ambos organismos actuaban dentro de sus respectivas competencias, lo que —según el texto legal— tornaba innecesario el consentimiento del titular.

La mayoría de la CSJN reconoció que esa interpretación literal era correcta. Sin embargo, remarca que “las excepciones bajo examen tampoco cumplen con los estándares específicos fijados por esta Corte en materia de restricciones al derecho constitucional a la privacidad; puesto que no parecen justificadas ni proporcionadas para proteger “un interés superior en resguardo de la libertad de los otros, la defensa de la sociedad, las buenas costumbres o la persecución del crimen” (Fallos: 306:1892; 329:5266; 335:799; 335:888 y 343:2211)”.

Finalmente, reafirmó que la regla del consentimiento informado no es una exigencia meramente legal sino de rango constitucional, anclada en los artículos 19 y 43 de la Ley Fundamental y en el derecho a la autodeterminación informativa. En consecuencia, cualquier excepción legislativa a esa regla debe superar un escrutinio de razonabilidad, estar justificada en un interés público legítimo y específico, ser proporcional al fin perseguido y no alterar la sustancia del derecho reglamentado.

Las excepciones impugnadas no superaron ese test. Al eximir del consentimiento a toda cesión entre organismos estatales que actúen dentro de sus competencias —condición que, por definición, se cumple en prácticamente toda la actividad administrativa—, el legislador privó de contenido real a la protección constitucional, convirtiendo la regla en excepción y la excepción en regla.

La CSJN  dispuso de oficio la inconstitucionalidad de los artículos 5°, punto 2, inciso b, y 11, punto 3, incisos b y c, de la Ley 25.326 de Protección de los Datos Personales, con sustento en su propia doctrina consolidada en la materia, precisando que ello no vulnera el principio de congruencia en tanto la decisión se ciñe a los hechos y planteos que delimitaron la litis (Fallos: 335:2333; 337:179; 337:1403; 341:1924 y 343:345)..

Más allá de la solución del caso concreto, el pronunciamiento fija un estándar exigente para la reglamentación legislativa del derecho a la protección de datos personales. En efecto, las excepciones al consentimiento deben identificar con precisión el interés público comprometido, la naturaleza de los datos involucrados y la proporcionalidad de la medida. La mera invocación de competencias estatales genéricas es insuficiente.

CSJN: TORRES ABAD c/ EN - JGM s/ HABEAS DATA

 

CIERRE DE ETAPA: DEFENSA TRABAJO FIN DE MASTER

 

 

Elegí volver a estudiar porque el Derecho está cambiando, y acompañar ese cambio exige formación permanente. Así, hace unos días defendí con éxito mi Trabajo de Fin de Máster en Derecho Digital. La investigación abordó el derecho al olvido en perspectiva comparada entre España y Argentina, analizando su articulación con la libertad de expresión y los desafíos que plantean la inteligencia artificial y la indexación algorítmica.

Fue un proceso exigente, de estudio riguroso y revisión crítica de categorías tradicionales frente a nuevas arquitecturas tecnológicas.

Cierro esta etapa con satisfacción y con nuevos proyectos en marcha.