Los datos sintéticos no se limitan a reproducir el mundo. Al decidir qué casos y relaciones sobreviven a la generación, pueden convertir lo mayoritario en normalidad y hacer desaparecer lo infrecuente.

En el Radar del 26 de agosto señalábamos desde Suecia una pregunta: qué ocurre cuando delegamos en los modelos parte de nuestra capacidad de representar el mundo. El workshop The Politics of Models – Bias, Representation & Transparency in Generative Models terminó ayer en Rånäs. Una de las investigaciones vinculadas a quienes lo organizaron permite ahora hacer aquella pregunta mucho más concreta.

¿Qué ocurre cuando, al sintetizar una población, nueve países desaparecen de los datos?

Borges imaginó en Del rigor en la ciencia un imperio cuya cartografía alcanzaba tal precisión que terminaba produciendo un mapa del mismo tamaño que el territorio. La paradoja sigue siendo fértil porque toda representación necesita seleccionar, reducir y omitir para poder funcionar como representación. Los modelos generativos introducen una tensión casi inversa. No fracasan necesariamente por querer contenerlo todo, sino porque al sintetizar el mundo pueden convertir una distribución estadística en criterio de relevancia y decidir, sin formularlo de ese modo, qué diferencias permanecen y cuáles se vuelven prescindibles. Entre el mapa imposible de Borges y el dataset sintético aparece así una misma pregunta sobre la distancia entre el mundo y sus modelos, y sobre quién decide qué puede perderse en esa distancia.

La política está antes de la respuesta

El encuentro de WASP y WASP-HS reunió durante tres días investigación técnica y ciencias sociales en Rånäs Slott, con un máximo de veinte plazas. La convocatoria no presentaba los modelos generativos solamente como herramientas capaces de producir texto, imagen, sonido, vídeo o datos. Los describía como “new forms of knowledge representation”.

La distinción importa.

Si un modelo participa en la representación del conocimiento, la política no empieza únicamente cuando genera una respuesta problemática. Está también en las decisiones anteriores: qué ontologías se utilizan, cómo se construyen las categorías, qué fuentes entran en los datos, cómo se recopilan y qué relaciones entre elementos se vuelven reconocibles para el sistema.

WASP-HS organizó el workshop alrededor de cuatro ejes: representación y sesgo, poder y control, transparencia y rendición de cuentas y alineamiento social. En redes sociales, una de las personas organizadoras, Md Fahim Sikder, presentó el encuentro como un espacio para cruzar perspectivas técnicas de WASP con perspectivas de ciencias sociales de WASP-HS.

La página pública describe la agenda y los problemas de investigación; no la tratamos aquí como un acta de conclusiones. Para profundizar en lo que está en juego seguimos, en cambio, una línea de investigación vinculada directamente al workshop.

Cuando nueve países dejan de aparecer

Francis Lee, una de las personas organizadoras del encuentro, forma parte del entorno de investigación de WASP-HS Synthetic Data: Facts, Representations, and Transparency. El grupo estudia los datos sintéticos como versiones computacionales de información real y pregunta qué cuentan como verdad, qué representan, cómo pueden auditarse y qué sucede con el sesgo cuando una versión artificial del mundo empieza a circular como dato.

Un experimento de Ericka Johnson y Saghi Hajisharif hace visible el problema con una precisión difícil de ignorar.

En The intersectional hallucinations of synthetic data, las autoras sintetizaron varias veces un conjunto que denominan 1990 US Adult Census Data mediante distintos modelos generativos. Una de sus primeras preguntas fue si los casos situados en los bordes de las distribuciones se conservarían.

No se conservaron todos.

En los datos originales aparecían personas nacidas en 40 países. En uno de los conjuntos sintéticos quedaban 31. Los países que desaparecieron eran precisamente los que tenían muy poca representación en el conjunto original.

No estamos ante la alucinación típica de un chatbot que inventa un nombre, una fecha o una referencia. El sistema produce algo más silencioso: un conjunto que puede seguir pareciendo estadísticamente plausible mientras una parte de la diversidad original deja de existir en él.

El trabajo posterior de Francis Lee, Saghi Hajisharif y Ericka Johnson, The ontological politics of synthetic data: Normalities, outliers, and intersectional hallucinations, formula la consecuencia con claridad. La generación sintética tiende a “highlight majority elements as the ‘normal’ and minimize minority elements”.

Lo mayoritario puede convertirse así en normalidad no porque alguien lo declare explícitamente, sino porque la operación estadística lo reproduce con mayor facilidad mientras los casos menos frecuentes se atenúan o desaparecen.

Una sociedad no es una colección de columnas

El segundo hallazgo es todavía más importante para una lectura antropológica.

El equipo comprobó que una versión sintética podía conservar razonablemente bien algunas distribuciones individuales y, al mismo tiempo, transformar las relaciones entre variables.

En los datos originales había un registro clasificado simultáneamente con estado marital husband y sexo female. En una de las versiones sintéticas aparecieron 259 registros con esa combinación. El mismo conjunto produjo además 333 registros etiquetados simultáneamente como husband/wife y single, mientras otras combinaciones que sí existían en los datos originales desaparecieron.

Johnson y Hajisharif llaman intersectional hallucinations a esas alteraciones. Utilizan intersectional fidelity para las relaciones entre variables que el conjunto sintético sí conserva con suficiente fidelidad.

La diferencia es fundamental.

Edad, género, ocupación, ingresos, procedencia o situación familiar pueden transformarse en columnas, pero una sociedad no es una colección de columnas independientes. Esas categorías adquieren significado dentro de relaciones históricas, institucionales y sociales.

Por eso una auditoría que compruebe solamente si cada columna mantiene porcentajes parecidos puede no detectar el problema principal. Un sistema puede conservar bien las partes y modificar el mundo que forman cuando se relacionan.

La pregunta deja entonces de ser únicamente quién está representado.

También necesitamos preguntar qué relaciones sobreviven a la representación.

Lo sintético necesita cambiar algo

Aquí aparece una paradoja.

Si un conjunto sintético reprodujera exactamente cada dato y cada relación del original, dejaría de cumplir algunas de las funciones para las que se utiliza la síntesis. Parte de su utilidad consiste precisamente en introducir diferencias que permitan, según el caso, proteger privacidad, facilitar circulación o ampliar conjuntos insuficientes.

Las intersectional hallucinations no son por tanto un accidente que pueda eliminarse por completo sin más. Johnson y Hajisharif sostienen que forman parte de aquello que hace sintético al dato.

Eso desplaza la pregunta desde una búsqueda imposible de copia perfecta hacia una decisión contextual.

¿Qué relaciones deben conservarse para un determinado uso?
¿Qué desviaciones podemos aceptar?
¿Qué casos infrecuentes contienen información imprescindible?
¿Qué diferencia es ruido y cuál representa una experiencia social que no debería desaparecer?

En sus experimentos, quienes investigaban pudieron controlar algunos casos extremos y modificar el proceso de generación. Pero para hacerlo tuvieron antes que identificarlos y decidir que merecían atención.

Ahí aparece la política.

La matemática puede ayudar a preservar una relación. No puede decidir por sí sola qué relación merece ser preservada.

De la fidelidad a la confianza

Ericka Johnson condensó recientemente esta línea de trabajo en LinkedIn con una frase mínima: “Words = worlds.” En esa publicación celebraba que los conceptos de intersectional fidelity e intersectional hallucinations hubieran empezado a circular hacia la investigación médica.

La conexión importa porque, en salud, una representación computacional puede terminar afectando a decisiones con consecuencias materiales.

Arman Koul, Deborah Duran y Tina Hernandez-Boussard utilizan en The Lancet Digital Health otro concepto útil: synthetic trust. Se refieren a una confianza injustificada en modelos entrenados con datos artificiales cuando se asume que esos datos preservan adecuadamente la validez clínica o la realidad demográfica.

Su advertencia amplía el problema.

Más datos no significan necesariamente más conocimiento. Un conjunto puede crecer mediante síntesis y producir una apariencia de abundancia mientras conserva, amplifica o reorganiza las limitaciones de aquello a partir de lo que fue generado.

La cuestión no es entonces si los datos son «reales» o «artificiales» en abstracto. Es conocer qué relaciones preservan, para qué usos pueden considerarse válidos y dónde dejan de representar aquello que afirmamos estudiar.

Qué y quién cuenta como real

La conversación continúa casi inmediatamente.

Los días 8 y 9 de septiembre, dentro de EASST 2026 en Cracovia, Charlotte Högberg, Stefano Canali y Francis Lee coordinan el panel Synthetic data and representation: The politics of AI generated computational practices.

El programa reúne contribuciones sobre medicina, infraestructuras urbanas, reconocimiento facial, archivos históricos, cuerpos y metodología de las ciencias sociales. Su pregunta explícita es cómo los datos sintéticos reordenan la política de la representación y “what — and who — counts as real”.

Una de las contribuciones aceptadas lleva ese razonamiento todavía más lejos. En The politics of plausibility: Synthesis and generativity beyond excess, Chiara Carboni propone pensar la síntesis como una política de la plausibilidad.

El desplazamiento es sugerente.

El poder de un sistema generativo no consistiría solamente en afirmar qué es probable. También podría intervenir reduciendo el espacio de lo posible a aquello que ha aprendido a producir como plausible y, al producirlo repetidamente, modificar después nuestra propia idea de plausibilidad.

Ya no hablamos solamente de representar un mundo existente.

Hablamos de máquinas que pueden generar poblaciones, rellenar ausencias, producir archivos, simular cuerpos, reconstruir pasados y proyectar futuros.

Lo que desaparece también importa

El debate sobre sesgo algorítmico ha contribuido a hacer visible quién aparece peor representado por un sistema. Los datos sintéticos obligan a añadir otra dimensión.

A veces el problema no es que una minoría aparezca estereotipada.

Puede simplemente dejar de aparecer.

Y otras veces todas las categorías continúan presentes, pero las relaciones que las conectaban han sido reorganizadas.

Eso hace especialmente importante la advertencia del workshop de Rånäs. Ontologías, categorías, fuentes de datos y procedimientos de recopilación no son decisiones técnicas situadas antes de la política. Son algunos de los lugares donde esa política empieza a materializarse.

La cuestión política de un modelo no comienza cuando produce una respuesta ofensiva o una imagen estereotipada.

Comienza mucho antes, cuando una determinada versión del mundo se vuelve computable.

Y deja una pregunta que merece acompañar el próximo paso de esta conversación:

¿qué mundo empieza a existir cuando una máquina aprende qué merece ser representado?

Fuentes y referencias