Gemelos digitales La revolución tecnológica que obliga a debatir privacidad, derechos y algoritmos
Especialistas de la Universidad Nacional de La Plata explican cómo funcionan estos modelos basados en datos e inteligencia artificial, sus aplicaciones en distintas áreas y los desafíos que aparecen cuando buscan representar sistemas sociales.
Un gemelo digital es una representación virtual de un objeto, proceso o sistema del mundo real que permite analizar su comportamiento, incorporar datos en tiempo real y anticipar posibles escenarios futuros.
Desde una fábrica hasta una ciudad, un hospital o incluso una sociedad, esta tecnología busca construir modelos capaces de simular situaciones y ayudar en la toma de decisiones.
Sobre esta tecnología reflexionan dos especialistas desde campos diferentes pero complementarios.
El ingeniero Armando De Giusti, referente nacional en informática, es Ingeniero en Telecomunicaciones por la Facultad de Ingeniería, Calculista Científico por la Facultad de Ciencias Exactas, Especialista en Tecnología Informática aplicada en Educación por la Facultad de Informática, ex decano de la Facultad de Informática y Profesor Extraordinario con categoría de Emérito de la UNLP.
Desde una mirada jurídica participa Javier Surasky, abogado, Profesor Adjunto de la Facultad de Ciencias Jurídicas y Sociales, Coordinador del Centro de Estudios sobre Inteligencia Artificial y Relaciones Internacionales del Instituto de Relaciones Internacionales (IRI-UNLP), Doctor en Relaciones Internacionales y especialista en Inteligencia Artificial Generativa.
Del modelo de simulación al gemelo digital conectado con la realidad
Para comprender qué son los gemelos digitales es necesario pensar primero en la idea de construir modelos que representen sistemas reales.
Durante décadas, la ciencia y la ingeniería utilizaron simulaciones para estudiar cómo funcionaría una máquina, un proceso industrial, un sistema de transporte o un fenómeno natural.
Según explica De Giusti, un gemelo digital es “la representación digital de un componente o sistema del mundo real, a partir de un modelo que trata de representar sus características y comportamiento estático y dinámico”.
Estos desarrollos comenzaron a tomar forma en la década de 1980 como una evolución de los modelos de simulación.
En un comienzo permitían estudiar escenarios posibles: por ejemplo, analizar el funcionamiento de una máquina industrial, anticipar el comportamiento de un avión en determinadas condiciones o estudiar la evolución de un cauce de agua.
La gran diferencia con los modelos tradicionales apareció cuando estos sistemas comenzaron a recibir información del mundo real a través de sensores.
De esta manera, el modelo digital dejó de ser solamente una representación teórica y pasó a actualizarse con datos reales.
“En una primera etapa un gemelo digital ha sido un modelo que ajusta el componente o sistema tratando de considerar todos sus parámetros de funcionamiento y fue evolucionando para tener datos reales en funcionamiento para tomar decisiones sobre el producto o sistema de interés”, explica De Giusti.
El crecimiento de tecnologías como Internet de las Cosas (IoT) y el aumento de la capacidad de procesamiento permitieron que los gemelos digitales evolucionaran rápidamente.
Uno de los primeros ámbitos donde mostraron todo su potencial fue la industria.
Una planta de producción puede contar hoy con sensores capaces de registrar miles de señales por segundo, analizar el funcionamiento de sus equipos y detectar cambios antes de que aparezca una falla.
Esto permite realizar mantenimiento preventivo, mejorar la calidad de los productos y tomar decisiones para optimizar procesos.
De Giusti explica que incluso existen modelos donde una planta industrial puede venir acompañada junto con su propio gemelo digital, de modo que desde el momento de instalación se dispone de información permanente sobre el funcionamiento del sistema y la posibilidad de actuar en tiempo real.
Pero la evolución de esta tecnología no quedó limitada al mundo industrial.
Con el avance tecnológico, los gemelos digitales comenzaron a aplicarse en múltiples áreas.
Un ejemplo es el modelado de ciudades: mediante información sobre tránsito, consumo energético o infraestructura, estos sistemas pueden ayudar a analizar distintos escenarios y mejorar la planificación.
También tienen aplicaciones ambientales.
Un gemelo digital de un río, alimentado con datos sobre niveles y circulación del agua, puede colaborar en la predicción de inundaciones y en la generación de alertas tempranas.
En salud, pueden utilizarse para modelar hospitales completos, estudiar la demanda de atención, analizar disponibilidad de recursos o preparar respuestas frente a situaciones críticas.
Además, en educación médica permiten desarrollar pacientes digitales para que los estudiantes practiquen situaciones clínicas y reciban evaluaciones sobre sus decisiones.
También existen aplicaciones en agricultura, donde los modelos pueden combinar información de sensores, imágenes satelitales y datos ambientales para tomar decisiones sobre cultivos; y en educación, donde sistemas basados en inteligencia artificial pueden construir modelos personalizados del aprendizaje de cada estudiante.
Inteligencia artificial: cuando el gemelo digital empieza a predecir
Uno de los cambios más importantes en los últimos años fue la integración de los gemelos digitales con inteligencia artificial.
La incorporación de algoritmos capaces de analizar grandes cantidades de datos permite que estos modelos no solamente describan una realidad, sino que también puedan anticipar comportamientos y sugerir acciones.
De Giusti explica que, por ejemplo, un gemelo digital del tránsito de una ciudad combinado con sensores en tiempo real podría permitir ajustar dinámicamente los tiempos de los semáforos para mejorar la circulación.
Así, la tecnología pasó de responder una pregunta básica, “¿cómo funciona este sistema?, a plantear otra mucho más compleja: “¿qué podría ocurrir y qué decisiones conviene tomar antes de que ocurra?”.
Cuando el modelo digital busca representar a la sociedad
El desarrollo más complejo aparece cuando la lógica de los gemelos digitales se traslada desde objetos o sistemas físicos hacia las personas.
La posibilidad de crear un “gemelo digital social” plantea la idea de utilizar grandes cantidades de datos para modelar comportamientos colectivos, necesidades o escenarios futuros.
Desde la perspectiva informática, De Giusti señala que esta evolución abre nuevas posibilidades, pero también nuevos desafíos.
Un modelo social puede integrar millones de datos y utilizar inteligencia artificial para orientar decisiones, aunque cuanto más complejo es el sistema mayores son las dificultades relacionadas con la calidad de los datos, los sesgos y la confiabilidad de los resultados.
“La calidad de los datos (en cuestiones sociales) es muy difícil de asegurar (salvo cuestiones “medibles objetivamente” como pueden ser datos biométricos/médicos que a su vez tienen un tema no menor con la privacidad requerida para los mismos).
El sesgo puede estar dado en el algoritmo mismo y sus objetivos (imaginemos cualquier inclusión/exclusión para la toma de decisiones: edad, color de piel, enfermedades previas, genealogía, lugares de residencia, etc.).
Está claro que aún con datos “perfectos” podemos tener sesgo en el resultado, según se programe el algoritmo “inteligente”.
Un resultado de impacto “social” debiera ser “trazable”, es decir conocer el encadenamiento de decisiones del algoritmo “inteligente” para llegar a la conclusión: ejemplo muy simple, si un banco decide automáticamente si dar o no un préstamo, es necesario que la IA proporcione la secuencia de análisis de datos y decisiones parciales para conocer y justificar el resultado final.
Obviamente este ejemplo se puede extender a casos mucho más delicados como un diagnóstico médico y la decisión de dar o no un subsidio para una medicación.”, concluyó De Giusti
La mirada jurídica: datos personales, derechos y límites
Para Javier Surasky, el debate cambia cuando el objeto del modelo deja de ser una máquina y pasa a ser una persona o una comunidad.
El especialista aclara que un gemelo digital no crea un “avatar” de un individuo, sino un modelo estadístico construido a partir de datos.
“Se lo clona estadísticamente capturando sus datos y con ellos se construye un modelo digital que se usa para simular situaciones”, explica.
Desde su perspectiva, el uso de esta tecnología en políticas públicas requiere analizar cuidadosamente qué información se utiliza, quién administra esos datos y qué controles existen.
Un sistema aplicado a escala social podría cruzar información sobre ingresos, educación, empleo, salud, ubicación, composición familiar o acceso a programas estatales.
El problema aparece cuando esas variables comienzan a utilizarse para clasificar personas o anticipar comportamientos, tal como ocurrió en la ciudad de Róterdam.
Allí, entre 2017 y 2021, se utilizó un sistema algorítmico para puntuar a personas beneficiarias de asistencia social según el riesgo de que quisieran percibir los beneficios cuando no cumplían las condiciones requeridas para ello.
Aunque no fue presentado oficialmente como un “gemelo digital”, creaba una representación computacional de ciudadanos, construía perfiles de riesgo y orientaba intervenciones públicas, pero investigaciones posteriores mostraron que el sistema consideraba condiciones como ser mujer, madre, joven, tener dificultades laborales o no dominar el neerlandés, como señales de sospecha de solicitudes fraudulentas.
Surasky señala que cualquier desarrollo de este tipo debe responder preguntas fundamentales: qué datos utiliza, cuál es su origen, cómo fue entrenado el sistema, quién controla su funcionamiento y cómo se evita que sea utilizado para vigilancia o decisiones injustas.
Un ejemplo es el caso de Portland/Metro, en Oregon, que contrató a Replica para modelar patrones de movilidad urbana a partir de datos de localización.
El proyecto terminó interrumpido en 2021 por desacuerdos sobre transparencia, privacidad, acceso y control de los datos entre la empresa que creó el modelo y el gobierno local.
También advierte sobre el riesgo de que la inteligencia artificial reproduzca desigualdades existentes.
Los algoritmos aprenden de datos históricos y pueden repetir patrones de discriminación si no cuentan con controles adecuados.
Por eso plantea la necesidad de transparencia, supervisión humana y mecanismos que permitan comprender y cuestionar las decisiones tomadas por sistemas automatizados.
El futuro de una tecnología que recién comienza
Los gemelos digitales representan una nueva etapa en la relación entre datos, tecnología e inteligencia artificial.
Su capacidad para simular escenarios puede aportar soluciones en áreas tan diversas como la industria, la medicina, el ambiente o la planificación urbana.
Sin embargo, cuando estos modelos comienzan a representar personas y sociedades, la discusión deja de ser solamente tecnológica.
Como explica De Giusti, el desafío es aprovechar la capacidad de los gemelos digitales para comprender sistemas complejos, predecir comportamientos y mejorar decisiones.
Como advierte Surasky, esa innovación debe estar acompañada por reglas claras que garanticen derechos, privacidad y transparencia.
El futuro de los gemelos digitales dependerá entonces de una combinación clave: más conocimiento tecnológico, pero también más reflexión sobre cómo y para qué se utilizan estos nuevos modelos de la realidad.
Desde esta perspectiva, Surasky también pone el foco en el concepto de “caja negra” algorítmica: sistemas capaces de procesar enormes cantidades de información y generar resultados, pero cuyo funcionamiento interno puede resultar difícil de comprender para quienes están afectados por sus decisiones.
En ámbitos sensibles como las políticas sociales, esto plantea un desafío adicional: una persona no debería quedar condicionada por una clasificación realizada por una inteligencia artificial sin conocer qué datos fueron utilizados ni cómo se llegó a esa conclusión.
Otro aspecto central señalado por el especialista es la necesidad de establecer mecanismos de control antes de implementar sistemas de este tipo.
La utilización de inteligencia artificial en la gestión pública requiere transparencia sobre el diseño del modelo, auditorías independientes, supervisión humana y la posibilidad de revisar decisiones automatizadas.
Para Surasky, el avance tecnológico no puede reemplazar las garantías que existen en un Estado democrático, especialmente cuando están en juego derechos fundamentales como la privacidad, la igualdad o el acceso a políticas públicas.
Además, advierte que la discusión sobre los gemelos digitales sociales no puede reducirse solamente a una cuestión de eficiencia.
La posibilidad de anticipar necesidades o comportamientos puede resultar una herramienta valiosa, pero también implica decidir qué información de las personas se recopila, con qué objetivos y bajo qué límites.
El desafío, entonces, no es solamente construir modelos cada vez más precisos, sino garantizar que esos modelos estén al servicio de la sociedad y no que sean utilizados para etiquetar, excluir o limitar oportunidades.
UNLP
