La inteligencia artificial se presenta a menudo como una tecnología de ampliación. Más lenguas, más voces, más personas capaces de interactuar con sistemas complejos. Pero detrás de esa promesa hay una condición previa. Para participar, hay que volverse legible para la máquina. Y las reglas de esa legibilidad no las escribe necesariamente quien participa.
Las tres historias de este Radar recorren esa tensión desde lugares distintos. Una declaración sobre IA y autodeterminación indígena plantea que la inclusión no basta si las comunidades no pueden decidir sobre sus datos, sus conocimientos y sus territorios. Un estudio sobre música generativa observa que los modelos no solo pueden comprimir la diversidad interna de los géneros. Cada sistema incorpora también sus propias ideas aprendidas sobre cómo debería sonar una categoría musical. Y, en la India, un agente telefónico diseñado para facilitar la cumplimentación de formularios muestra cómo un error en el reconocimiento del habla puede convertirse en un obstáculo material para acceder a un servicio.
En los tres casos, el problema no es solo qué puede hacer la IA. Es quién define las condiciones bajo las cuales una persona, una lengua o una cultura pueden entrar en el sistema.
1. Pueblos indígenas — La soberanía también incluye decidir si se usa
Con motivo del Día Internacional de los Pueblos Indígenas, la Comisión Indígena de la International Federation of Social Workers publicó una declaración que desplaza el debate desde una idea relativamente cómoda —hacer que la IA sea más inclusiva— hacia otra más exigente. Reconocer el derecho de los pueblos indígenas a decidir si quieren utilizar estas tecnologías, cómo y bajo qué condiciones.
La cuestión afecta directamente a los datos. Lenguas, relatos, imágenes y conocimientos tradicionales pueden acabar incorporados a repositorios digitales y conjuntos de entrenamiento. Pero que un conocimiento sea técnicamente accesible no significa que exista autorización para transformarlo en datos para un sistema de inteligencia artificial.
La declaración va además más allá del contenido de los modelos. Recuerda que la infraestructura digital necesita agua, energía y territorio, y sitúa ese consumo dentro de relaciones históricas mucho más amplias sobre quién controla los recursos. En Estados Unidos, señala también que solo alrededor del 40 % de la población indígena dispone de acceso a banda ancha. La expansión de una infraestructura tecnológica no implica necesariamente que quienes soportan parte de sus costes materiales participen en igualdad de condiciones de sus beneficios.
El documento introduce además una expresión significativa, Ancestral Intelligence. Con ella se refiere al conocimiento transmitido mediante relaciones, ceremonias, relatos, territorio y generaciones. Una forma de inteligencia cuya validez no depende de haber sido primero digitalizada, clasificada o incorporada a una base de datos.
Ahí aparece una pregunta anterior incluso a la construcción del modelo.
¿Quién tiene autoridad para transformar una cultura en datos?
Hablar de soberanía tecnológica implica algo más que disponer de herramientas propias. Puede significar conservar el derecho a no participar, establecer límites sobre determinados conocimientos o decidir que ciertos materiales no deben circular fuera de su contexto cultural.
La inclusión supone encontrar una forma de incorporar al sistema a quienes estaban fuera. La autodeterminación introduce otra posibilidad. Que sean las propias comunidades quienes decidan si quieren entrar y bajo qué condiciones.
2. Música — Cuando un género se convierte en su promedio estadístico
Un nuevo estudio de Zoe Slendebroek y Danaé Metaxa compara música generada mediante Suno y Lyria 3 con música producida por personas en cuatro géneros. Afrobeats, K-pop, Dance Pop y Heavy Metal.
El trabajo analiza cien pistas por sistema y género mediante 72 características de recuperación de información musical, o MIR, para estudiar dos cuestiones diferentes. Cuánta diversidad existe dentro de cada categoría y hasta qué punto siguen siendo distinguibles unos géneros de otros.
Los resultados muestran dos lógicas distintas de homogeneización.
Lyria 3 tiende a reducir la diversidad interna de algunos géneros. Sus producciones se concentran más alrededor de un determinado perfil acústico. Suno, en cambio, conserva algo más de variación dentro de cada categoría, pero aproxima entre sí géneros que en las grabaciones humanas mantienen perfiles más diferenciados.
No todos los modelos, por tanto, homogeneizan de la misma manera.
Hay además un detalle especialmente importante. Parte de las pruebas se realizaron introduciendo únicamente el nombre del género, sin instrucciones estilísticas adicionales. Las regularidades observadas no pueden explicarse entonces solo por lo que pide quien utiliza el sistema. Apuntan también a los priors, o tendencias previas aprendidas por el modelo durante su entrenamiento, sobre cómo debería sonar aquello que llamamos Afrobeats, K-pop, Dance Pop o Heavy Metal.
Esto importa porque un género musical nunca es únicamente una combinación de rasgos sonoros.
Es también una historia, una escena, una industria, una geografía, un público, una forma de vestir, unos circuitos de distribución y una negociación colectiva sobre qué pertenece —o deja de pertenecer— a una determinada tradición. Sus fronteras cambian porque quienes producen y escuchan música las discuten, las mezclan y las transforman.
Un sistema generativo aprende esa diversidad a partir de grandes cantidades de ejemplos. Pero para producir algo reconocible necesita extraer regularidades.
El riesgo aparece cuando aquello que estadísticamente resulta más representativo empieza a sustituir a la propia tradición.
¿Qué sucede cuando un género deja de ser una práctica social en transformación y empieza a convertirse en el centro estadístico de lo que una máquina aprendió que debe ser?
Si la música generativa adquiere peso en plataformas, publicidad, videojuegos o producción audiovisual, esta homogeneización deja de ser únicamente una cuestión estética. Los modelos pueden intervenir también en qué sonidos circulan más, cuáles resultan fácilmente reconocibles y qué formas culturales quedan situadas en los márgenes de una categoría.
La máquina no necesita prohibir una variante para volverla menos visible. Puede bastar con aprender que es menos representativa.
3. India — Cuando una máquina que no entiende tu voz puede bloquear un derecho
En India, una gran cantidad de prestaciones y servicios comienzan con un formulario. Para quienes tienen dificultades de lectoescritura o poca familiaridad con las interfaces digitales, ese formulario puede convertirse en una barrera.
FormBharo —“rellena el formulario” en hindi— propone sustituir parte de esa interacción escrita por una conversación telefónica. El sistema mantiene un diálogo oral, extrae la información necesaria y la utiliza para completar los campos correspondientes.
Se está evaluando junto con ARMMAN, una organización que trabaja en salud materna e infantil, en un contexto especialmente sensible. Facilitar la inscripción de madres con bajos ingresos en programas de atención prenatal y posnatal.
Aquí la interfaz no es una web ni un chatbot escrito.
Es la voz.
Y esa diferencia importa.
El equipo desarrolló FormVoiceAgentBench, un banco de pruebas que reúne 3.760 evaluaciones distribuidas en 960 llamadas simuladas. Cuando los modelos operan sobre transcripciones de referencia limpias, los resultados pueden ser muy altos. Pero cuando tienen que trabajar con el habla que realmente llega a través de una llamada —ruido, pronunciación, pausas, variaciones de voz y errores del reconocimiento automático— la tasa de cumplimentación correcta puede caer hasta unos 41 puntos porcentuales.
Una palabra mal transcrita se convierte en un dato incorrecto. Un dato incorrecto puede producir un formulario incorrecto. Y un formulario incorrecto puede afectar al acceso a un servicio.
El trabajo revela además una paradoja técnica interesante. GPT-5.5 alcanza alrededor de un 99,8 % de precisión en algunas tareas de extracción turno a turno utilizando transcripciones de referencia, pero ese buen resultado no lo convierte automáticamente en el mejor sistema cuando se evalúa la conversación completa.
Los errores se acumulan, se propagan y, en ocasiones, interactúan entre sí.
Por eso, modelos más pequeños combinados con controles deterministas —reglas que comprueban y restringen determinadas partes del proceso— pueden igualar o superar a sistemas más potentes cuando se mide el resultado final.
La lección resulta útil más allá de FormBharo. Optimizar cada pieza de un sistema no garantiza que funcione mejor el sistema completo.
Pero para el Radar la pregunta más importante está en otro lugar.
La administración digital lleva años convirtiendo ciertos conocimientos —leer instrucciones, navegar una web, disponer de correo electrónico, comprender categorías burocráticas— en requisitos silenciosos para ejercer derechos. Una interfaz de voz puede reducir algunas de esas barreras.
También puede crear otras.
¿Qué ocurre cuando hacerse entender por una máquina se convierte en uno de los pasos necesarios para hacerse entender por una institución?
La accesibilidad no depende únicamente de que un modelo “conozca” hindi. Depende de cómo escucha el hindi realmente hablado, de qué variaciones considera aceptables, de qué errores tolera y, sobre todo, de qué ocurre cuando se equivoca.
Porque cuando la IA se convierte en intermediaria para acceder a un servicio, la cuestión decisiva no es solo cuántos errores comete.
Es quién soporta sus consecuencias.
Una misma pregunta — Las condiciones de legibilidad
Una comunidad que decide qué conocimientos pueden convertirse en datos. Un género musical cuya diversidad se comprime cuando pasa por un modelo. Una persona que necesita que un sistema reconozca correctamente su voz para completar un trámite.
Son situaciones distintas, pero comparten una estructura.
Los sistemas de inteligencia artificial necesitan transformar el mundo en representaciones que puedan procesar. Lenguas, sonidos, identidades, conocimientos y prácticas culturales tienen que adquirir una forma legible para la máquina.
Ese proceso nunca es completamente neutral.
Decidir qué cuenta como dato, qué variaciones se consideran “ruido”, qué ejemplos representan una categoría o qué información puede utilizarse para entrenar un sistema significa establecer fronteras.
Y la legibilidad no afecta siempre del mismo modo a quienes están a ambos lados de esas fronteras.
Para una empresa tecnológica puede ser una condición necesaria para que un modelo funcione. Para una comunidad puede significar decidir qué partes de su conocimiento quedan expuestas. Para una tradición musical puede transformar qué se considera representativo. Para una persona que intenta completar un trámite puede convertirse en una condición para acceder a un servicio.
Por eso la cuestión antropológica no consiste únicamente en comprobar si la IA representa correctamente la diversidad humana.
Hay una pregunta anterior.
¿Quién decide las condiciones bajo las cuales esa diversidad tiene que hacerse legible para la máquina?
Referencias
- International Federation of Social Workers — https://www.ifsw.org/artificial-intelligence-ai-and-indigenous-peoples-self-determination/
- Zoe Slendebroek and Danaé Metaxa — https://arxiv.org/abs/2608.06106
- Aman Dalmia et al. — https://arxiv.org/abs/2608.06027