Syntetiska data återger inte bara världen. Genom att avgöra vilka fall och relationer som överlever genereringen kan de göra majoriteten till norm och låta det sällsynta försvinna.

I Radarn den 26 augusti pekade vi från Sverige på en fråga: vad händer när vi överlåter en del av vår förmåga att representera världen till modeller? Workshoppen The Politics of Models – Bias, Representation & Transparency in Generative Models avslutades i går i Rånäs. En forskningslinje som är direkt knuten till några av arrangörerna gör nu den frågan betydligt mer konkret.

Vad händer när nio länder försvinner ur datamaterialet när en befolkning syntetiseras?

I Om exaktheten i vetenskapen föreställde sig Borges ett imperium där kartografin blev så exakt att den till slut framställde en karta lika stor som själva territoriet. Paradoxen är fortfarande fruktbar eftersom varje representation måste välja, reducera och utelämna för att över huvud taget kunna fungera som representation. Generativa modeller skapar en nästan omvänd spänning. De misslyckas inte nödvändigtvis genom att försöka rymma allt, utan genom att vid syntesen av världen kunna göra en statistisk fördelning till ett relevanskriterium och därmed avgöra, utan att formulera beslutet på det sättet, vilka skillnader som blir kvar och vilka som blir umbärliga. Mellan Borges omöjliga karta och det syntetiska datasetet finns därför samma fråga om avståndet mellan världen och dess modeller och om vem som får avgöra vad som kan gå förlorat i det avståndet.

Politiken kommer före svaret

Workshoppen inom WASP och WASP-HS samlade teknisk forskning och samhällsvetenskap under tre dagar på Rånäs Slott, med högst tjugo platser. Utlysningen beskrev inte generativa modeller enbart som verktyg som kan skapa text, bilder, ljud, video eller data. De beskrevs som “new forms of knowledge representation”.

Den skillnaden är viktig.

Om en modell deltar i representationen av kunskap börjar politiken inte först när modellen genererar ett problematiskt svar. Den finns också i de tidigare besluten: vilka ontologier som används, hur kategorier byggs, vilka källor som tas in i datan, hur materialet samlas in och vilka relationer mellan olika element som blir igenkännbara för systemet.

WASP-HS organiserade workshoppen kring fyra teman: representation och bias, makt och kontroll, transparens och ansvarsskyldighet samt samhällelig anpassning. I sociala medier beskrev en av arrangörerna, Md Fahim Sikder, mötet som en plats för samtal mellan WASP:s tekniska perspektiv och WASP-HS samhällsvetenskapliga perspektiv.

Den offentliga sidan beskriver programmet och forskningsfrågorna; vi behandlar den inte här som ett protokoll över workshopens slutsatser. För att förstå vad som står på spel följer vi i stället en forskningslinje som är direkt kopplad till mötet.

När nio länder slutar synas

Francis Lee, en av workshopens arrangörer, ingår i WASP-HS forskningsmiljö Synthetic Data: Facts, Representations, and Transparency. Gruppen studerar syntetiska data som datorgenererade versioner av verklig information och frågar vad som räknas som sanning, vad sådana data representerar, hur de kan granskas och vad som händer med bias när en artificiell version av världen börjar cirkulera som data.

Ett experiment av Ericka Johnson och Saghi Hajisharif gör problemet ovanligt konkret.

I The intersectional hallucinations of synthetic data syntetiserade de flera gånger ett dataset som de kallar 1990 US Adult Census Data med hjälp av olika generativa modeller. En av deras första frågor var om fall i fördelningarnas ytterkanter skulle finnas kvar.

Alla gjorde inte det.

I originalmaterialet fanns personer födda i 40 länder. I ett syntetiskt dataset återstod 31. De länder som försvann var just de som var mycket svagt representerade i originalmaterialet.

Det handlar inte om den välkända typen av hallucination där en chattbot hittar på ett namn, ett datum eller en referens. Något tystare har skett: systemet kan skapa ett dataset som fortfarande ser statistiskt rimligt ut samtidigt som en del av den ursprungliga mångfalden inte längre finns kvar.

I den senare artikeln av Francis Lee, Saghi Hajisharif och Ericka Johnson, The ontological politics of synthetic data: Normalities, outliers, and intersectional hallucinations, formuleras följden tydligt. Syntetisk generering tenderar att “highlight majority elements as the ‘normal’ and minimize minority elements”.

Majoriteten kan därmed bli norm, inte för att någon uttryckligen beslutar det, utan därför att den statistiska operationen lättare reproducerar det vanligaste samtidigt som mindre frekventa fall försvagas eller faller bort.

Ett samhälle är inte en samling kolumner

Det andra resultatet är ännu viktigare ur ett antropologiskt perspektiv.

Forskarna såg att en syntetisk version kunde bevara vissa enskilda fördelningar relativt väl samtidigt som relationerna mellan variabler förändrades.

I originalmaterialet fanns en post som samtidigt var klassificerad med civilståndet husband och könet female. I en syntetisk version fanns 259 poster med den kombinationen. Samma dataset skapade dessutom 333 poster som samtidigt var märkta husband/wife och single, medan andra kombinationer som faktiskt fanns i originalmaterialet försvann.

Johnson och Hajisharif kallar sådana förändringar intersectional hallucinations. Begreppet intersectional fidelity använder de för relationer mellan variabler som det syntetiska datasetet bevarar tillräckligt väl.

Skillnaden är avgörande.

Ålder, kön, yrke, inkomst, ursprung eller familjesituation kan göras till kolumner, men ett samhälle är inte en samling oberoende kolumner. Kategorierna får sin betydelse inom historiska, institutionella och sociala relationer.

En granskning som bara kontrollerar om varje kolumn har ungefär samma procenttal kan därför missa huvudproblemet. Ett system kan bevara delarna relativt väl och ändå förändra den värld som uppstår när de relateras till varandra.

Frågan är då inte längre bara vem som representeras.

Vi behöver också fråga vilka relationer som överlever representationen.

För att vara syntetiskt måste något förändras

Här uppstår en paradox.

Om ett syntetiskt dataset exakt återgav varje datapunkt och varje relation i originalet skulle det sluta uppfylla vissa av de syften som syntes används för. En del av nyttan ligger just i att införa skillnader som, beroende på sammanhanget, kan skydda integritet, möjliggöra delning eller förstärka otillräckliga datamängder.

Intersectional hallucinations är därför inte bara ett fel som går att ta bort helt. Johnson och Hajisharif menar att de är en del av det som gör syntetiska data syntetiska.

Frågan flyttas därmed från jakten på en omöjlig perfekt kopia till ett kontextuellt beslut.

Vilka relationer måste bevaras för ett visst användningsområde?
Vilka avvikelser kan accepteras?
Vilka sällsynta fall innehåller avgörande information?
Vilken skillnad är brus och vilken representerar en social erfarenhet som inte bör försvinna?

I experimenten kunde forskarna kontrollera vissa ytterlighetsfall och förändra genereringsprocessen. Men för att göra det behövde de först identifiera fallen och besluta att de var värda uppmärksamhet.

Där blir politiken synlig.

Matematik kan hjälpa till att bevara en relation. Den kan inte på egen hand avgöra vilken relation som förtjänar att bevaras.

Från trohet till tillit

Ericka Johnson sammanfattade nyligen denna forskningslinje på LinkedIn med tre ord: “Words = worlds.” I inlägget noterade hon att begreppen intersectional fidelity och intersectional hallucinations hade börjat användas inom medicinsk forskning.

Det spelar roll eftersom en datoriserad representation inom vård och hälsa kan ligga till grund för beslut med materiella konsekvenser.

I The Lancet Digital Health använder Arman Koul, Deborah Duran och Tina Hernandez-Boussard ett annat användbart begrepp: synthetic trust. De syftar på en oberättigad tillit till modeller som tränats på artificiella data när man antar att dessa data bevarar klinisk giltighet eller demografiska realiteter.

Varningen vidgar problemet.

Mer data betyder inte nödvändigtvis mer kunskap. Ett dataset kan växa genom syntes och skapa ett intryck av överflöd samtidigt som det bevarar, förstärker eller omorganiserar begränsningarna i det material som det genererades från.

Frågan är därför inte om data är ”verkliga” eller ”artificiella” i abstrakt mening. Frågan är vilka relationer de bevarar, för vilka användningar de kan betraktas som giltiga och var de slutar representera det vi påstår oss studera.

Vad — och vem — räknas som verkligt

Samtalet fortsätter nästan omedelbart.

Den 8 och 9 september, under EASST 2026 i Kraków, leder Charlotte Högberg, Stefano Canali och Francis Lee panelen Synthetic data and representation: The politics of AI generated computational practices.

Bidragen rör bland annat medicin, urbana infrastrukturer, ansiktsigenkänning, historiska arkiv, kroppar och samhällsvetenskaplig metod. Den uttalade frågan är hur syntetiska data omorganiserar representationens politik och “what — and who — counts as real”.

Ett av de accepterade bidragen för resonemanget ännu ett steg vidare. I The politics of plausibility: Synthesis and generativity beyond excess föreslår Chiara Carboni att syntes förstås som en plausibilitetens politik.

Förskjutningen är tankeväckande.

Ett generativt systems makt behöver inte bara ligga i att säga vad som är sannolikt. Den kan också verka genom att minska det möjligas utrymme till det som systemet har lärt sig att producera som plausibelt och, genom upprepad produktion, förändra vår egen uppfattning om vad som framstår som plausibelt.

Vi talar inte längre bara om att representera en redan existerande värld.

Vi talar om maskiner som kan generera befolkningar, fylla luckor, skapa arkiv, simulera kroppar, rekonstruera dåtider och projicera framtider.

Det som försvinner spelar också roll

Debatten om algoritmisk bias har hjälpt till att synliggöra vilka som representeras dåligt av ett system. Syntetiska data tvingar oss att lägga till ytterligare en dimension.

Ibland är problemet inte att en minoritet framställs stereotypt.

Den kan helt enkelt sluta synas.

Och ibland finns alla kategorier fortfarande kvar, men relationerna som band samman dem har omorganiserats.

Det är därför varningen i workshoppen i Rånäs är viktig. Ontologier, kategorier, datakällor och insamlingsmetoder är inte tekniska beslut som ligger före politiken. De är några av de platser där politiken börjar materialiseras.

Den politiska frågan om en modell börjar inte när den producerar ett kränkande svar eller en stereotyp bild.

Den börjar mycket tidigare, när en viss version av världen görs beräkningsbar.

Och den lämnar oss med en fråga att bära med oss in i nästa del av samtalet:

Vilken värld börjar existera när en maskin lär sig vad som förtjänar att representeras?

Källor och referenser