El Algoritmo del Poder. El Gemelo Digital Social y el riesgo de entregar el mapa íntimo de la Argentina – Por Ivone Alves García

Por Ivone Alves García

El Gobierno anunció el Gemelo Digital Social, una herramienta de inteligencia artificial destinada a diseñar, simular y predecir el impacto de políticas públicas. El Ministerio de Capital Humano lo presentó como una innovación para anticipar problemas sociales y optimizar decisiones. Javier Milei lo celebró como un cambio de paradigma. La promesa es directa: un Estado más rápido, más eficiente, capaz de cruzar información, simular escenarios y actuar antes de que el daño ocurra. Según las presentaciones difundidas, el sistema procesaría información de distintas fuentes estatales y privadas para proyectar problemas y proponer intervenciones. Ahí empieza la discusión real.

Acá no se trata de rechazar la inteligencia artificial por atraso ni por miedo. Un Estado serio debe usar tecnología, ordenar datos, detectar superposiciones, evitar errores y planificar mejor. El problema es otro: un Estado con baja confianza pública, sin soberanía tecnológica clara y sin controles suficientes no puede construir una maquinaria predictiva sobre pobreza, jubilaciones, asignaciones, discapacidad, infancia, empleo informal y asistencia social sin explicar antes quién la diseña, qué datos usará, dónde se guardarán, quién auditará el modelo y qué derecho tendrá el ciudadano frente a una decisión equivocada.

Un gemelo digital, en términos simples, es una réplica virtual de una realidad física o social. En la industria se usa para simular máquinas, fábricas, redes o ciudades antes de intervenir sobre ellas. Trasladado a la política social, el concepto cambia de escala y de gravedad: ya no se modela una turbina, una ruta o una planta industrial, sino hogares, necesidades, beneficios, riesgos, barrios, jubilados, niños y familias vulnerables. El tema deja de ser técnico y pasa a ser político: quién convierte la vida social en modelo y con qué criterio.

El dato social no es un dato cualquiera. Es poder. Permite saber quién cobra, quién debe, quién trabaja, quién depende del Estado, quién está enfermo, quién tiene hijos, quién vive en cada zona, qué barrio está al límite, qué familia puede caer y qué grupo puede ser asistido, vigilado, disciplinado o abandonado. Eso no es solo administración. Es el mapa íntimo de una sociedad. Un país que entrega ese mapa sin control entrega una parte de su soberanía.

La Ley argentina 25.326 existe precisamente porque los datos personales afectan derechos concretos: intimidad, honor, identidad y acceso a la información que el Estado o privados tienen sobre una persona. La Agencia de Acceso a la Información Pública también publicó una guía para el uso responsable de inteligencia artificial, orientada a atender riesgos en procesos que automatizan decisiones, personalizan experiencias o buscan mejorar resultados. El propio marco institucional reconoce que procesar datos ciudadanos con inteligencia artificial exige límites, trazabilidad, finalidad clara y responsabilidad.

La metáfora del “gemelo” busca desinfectar el conflicto. Intenta vender la ilusión de una réplica técnica, una maqueta digital donde se ensayan políticas sin costos humanos. Pero la sociedad no es un laboratorio y los sistemas sociales no responden a la lógica de un inventario industrial. Al codificar las realidades de la población vulnerable en matrices de datos estancos, se desmantela la dimensión cualitativa de la política social. El diseño de políticas deja de ser un proceso de mediación territorial y pasa a ser un ejercicio de cálculo presupuestario simulado. Si el Estado asume que la pobreza es un sistema optimizable mediante algoritmos, la tecnocracia reemplaza a la representación: el ciudadano ya no es un sujeto de derecho, sino un costo a equilibrar en una pantalla.

La palabra “optimizar” también debe ser puesta bajo sospecha. Optimizar puede significar que la ayuda llegue mejor. También puede significar recortar con más precisión. Puede significar detectar fraude real. También puede significar excluir a personas que no encajan en una matriz. Puede significar planificación. También puede servir para presentar una decisión política como si fuera una conclusión técnica. Antes un ministro decía “vamos a ajustar”. Mañana puede decir “el modelo recomienda reasignar recursos”.

Ahí empieza la desaparición de la responsabilidad. El ministro culpa al algoritmo. El técnico culpa a los datos. La empresa dice que solo provee tecnología. El organismo financiador habla de modernización. Y el ciudadano perjudicado queda frente a una máquina que no conoce, no entiende y no puede discutir. La política, con todos sus defectos, al menos tiene rostro. En un sistema opaco, el poder se vuelve impersonal. Y cuando el poder se vuelve impersonal, se vuelve más difícil de enfrentar.

Esto ya pasó en otros países. Australia tuvo el caso Robodebt, un sistema automatizado de deuda social que cruzaba datos fiscales y de asistencia para reclamar supuestas deudas a beneficiarios. El mecanismo usaba promedios de ingresos y podía emitir deudas aunque los ingresos reales de una persona hubieran variado durante el año. Terminó en una Comisión Real, cuyo informe final fue publicado en 2023. La lección fue brutal: cuando el Estado automatiza decisiones sobre vulnerables, invierte la carga de la prueba y obliga al ciudadano a demostrar que no debe, el error administrativo se convierte en angustia concreta.

Serbia ofrece otro antecedente. Amnistía Internacional denunció que el sistema de Social Card Registry, creado para cruzar datos y administrar beneficios sociales, profundizó pobreza y discriminación contra personas vulnerables. El problema no fue simplemente usar tecnología, sino aplicarla sobre asistencia social sin suficientes garantías contra exclusión, error, discriminación y falta de transparencia. La lección para Argentina es directa: cuando se automatiza el acceso a derechos básicos, los errores no los pagan quienes diseñan el sistema. Los paga quien necesita comer, cobrar, atenderse o sostener a sus hijos.

El problema argentino no es solo tecnológico. Es político. Este anuncio aparece en un país donde la asistencia social suele ser mirada primero como gasto, donde la eficiencia fiscal pesa más que la reconstrucción comunitaria, donde el Estado llega tarde al barrio pero quiere llegar temprano al dato. Por eso hay que preguntar si el Gemelo Digital Social viene a resolver la pobreza o a modelarla; si viene a mejorar la ayuda o a clasificar mejor a quienes dependen de ella; si viene a proteger derechos o a construir una herramienta más sofisticada para justificar recortes.

Una inteligencia artificial puede anticipar que una familia está en riesgo. Pero si no hay trabajo, vivienda, salud, educación, seguridad, transporte y comunidad, la predicción no resuelve nada. Solo describe mejor el fracaso. Puede detectar que un barrio se deteriora. Pero si la respuesta es ajustar criterios, reducir prestaciones o derivar a un sistema colapsado, la tecnología no habrá servido para gobernar mejor. Habrá servido para ordenar mejor la impotencia.

También hay que mirar el efecto sobre la política misma. Los funcionarios creen que estas herramientas les darán más poder: más datos, más control, más velocidad, más capacidad de anticipación. Puede ocurrir lo contrario. Si entregan los modelos, los datos, los criterios y la capacidad de simulación, terminan vaciando su propia función. La política existe para decidir entre intereses en conflicto, asumir responsabilidad y responder ante la sociedad. Si esa decisión se traslada a un sistema técnico, el político queda reducido a vocero de una maquinaria.

Ese es el giro peligroso: elecciones con decisión automatizada. La gente vota personas, pero esas personas gobiernan dentro de márgenes definidos por modelos, proveedores, consultoras, bancos de datos y arquitecturas que nadie eligió. La democracia conserva su forma exterior, pero la decisión profunda se desplaza. El ciudadano cree que discute con un gobierno; en realidad puede estar chocando contra una caja negra.

Y sí, una maquinaria así puede ser más barata que la política tradicional. Puede reemplazar consultores, equipos técnicos, auditorías manuales, relevamientos territoriales y parte de la burocracia. Pero lo barato no siempre es soberano, lo rápido no siempre es justo y lo eficiente no siempre es humano. Una sociedad no se gobierna como inventario. Mucho menos cuando se trata de pobres, niños, jubilados, enfermos y familias vulnerables.

La Argentina necesita tecnología propia, estadística pública sólida, sistemas integrados y capacidad de planificación. Pero necesita todo eso bajo control nacional, con auditorías independientes, modelos explicables, intervención humana obligatoria, derecho ciudadano a reclamar, prohibición de usos secundarios y separación estricta entre política social, seguridad e inteligencia. Sin esas condiciones, no hay modernización. Hay concentración de poder.

El Estado que no resolvió la pobreza ahora quiere predecirla, ese mismo Estado que no reconstruyó el tejido social ahora quiere simularlo y el Estado que llegó tarde al barrio ahora quiere llegar temprano al dato. Esa es la contradicción central. La inteligencia artificial no reemplaza la conducción política ni la responsabilidad moral. Puede ayudar a gobernar, pero también puede gobernar sin dar la cara.

El nuevo territorio son los datos. Si Argentina no controla ese territorio, no controla plenamente su futuro. La soberanía ya no se pierde solamente entregando tierra, puertos, ríos o recursos naturales. También se pierde entregando la información con la que se administra a la población. Y un país que permite que su pobreza, su infancia, sus jubilados y sus familias vulnerables sean procesados por sistemas opacos no está entrando al futuro. Está aceptando una forma más silenciosa de dependencia.

Ivone Alves García
Productora general | AsiaTV

Productora general y gestora cultural especializada en cooperación internacional y comunicación geopolítica. Cofundadora y productora general de AsiaTV, plataforma dedicada al análisis geopolítico y la cooperación internacional. Ha coordinado encuentros académicos, culturales y diplomáticos con embajadas, universidades y organizaciones internacionales. Cofundadora de la Alianza para el Desarrollo Auténtico y la Cooperación Ruso-Iberoamericana (ADACRI).