AIthropology Lab

Gobernanza y ética de la IA

No llegar tarde otra vez: IA, datos y ética pública

La apertura en Valencia del Laboratorio de Gobernanza de la IA de la ONU, leída desde la antropología: datos, consentimiento, daño algorítmico y ética pública.

· Martín González Senosiain
Acto de lanzamiento del Laboratorio de Gobernanza de la IA para la Humanidad de Naciones Unidas en Quart de Poblet, Valencia.

La deuda digital previa

La inauguración en Valencia del Laboratorio de Gobernanza de la IA para la Humanidad de Naciones Unidas puede leerse como una noticia institucional más. Un ministro, un organismo internacional, un nuevo espacio de coordinación, una promesa de cooperación multilateral. Pero sería una lectura demasiado pobre. Lo que está en juego no es solo la creación de otro foro experto sobre inteligencia artificial, sino la posibilidad de no repetir con la IA el mismo error que marcó buena parte de la digitalización contemporánea.

Durante décadas, la vida digital se ha construido sobre una cesión masiva y poco visible de datos personales. La economía de plataformas convirtió la experiencia humana en materia prima para la predicción, la clasificación y la monetización del comportamiento. Couldry y Mejias han descrito este proceso como colonialismo de datos, una forma de apropiación de la vida social mediante infraestructuras digitales que presentan la extracción de datos como innovación, eficiencia o simple comodidad. Zuboff, desde otra tradición crítica, lo formuló como capitalismo de vigilancia, un régimen económico basado en transformar la experiencia humana en datos conductuales destinados a mercados de predicción (Couldry & Mejias, 2019a, 2019b; Zuboff, 2019).

Primero fueron los sistemas operativos propietarios y los entornos cerrados. Luego llegaron la web social, los teléfonos móviles convertidos en sensores permanentes, la publicidad conductual, los intermediarios de datos y unas condiciones de uso que transformaron el consentimiento en un gesto automático. La dataficación de la salud, del movimiento, del consumo y de las relaciones cotidianas muestra que no hablamos solo de navegación web, sino de una conversión creciente de la vida social en datos tratables, comparables y comercializables (Ruckenstein & Schüll, 2017). Aceptar, continuar, permitir, sincronizar, compartir ubicación, mejorar la experiencia. La vida cotidiana quedó envuelta en una arquitectura técnica que la mayoría de las personas no entiende, no puede auditar y apenas puede abandonar.

Por eso, cuando Óscar López, ministro para la Transformación Digital y de la Función Pública del Gobierno de España, afirma que hay que actuar ahora para que la gobernanza de la IA no se convierta en un mero deseo, la frase no debería interpretarse solo como advertencia de futuro. También remite a una deuda acumulada. La inteligencia artificial no llega a un mundo virgen. Llega sobre plataformas que ya habían normalizado el rastreo, la extracción de datos, la opacidad algorítmica y la asimetría entre usuarios, empresas y Estados. La novedad de la IA no consiste únicamente en producir textos, imágenes, diagnósticos o decisiones automatizadas. Consiste en acelerar y amplificar una forma de poder que ya estaba instalada.

El nuevo Laboratorio de Gobernanza de la IA para la Humanidad, con sede en Quart de Poblet, dependerá de la Oficina de Tecnologías Digitales y Emergentes de Naciones Unidas. Su tarea será coordinar conocimiento, evaluar riesgos, favorecer la cooperación multilateral, apoyar el Pacto Digital Global y avanzar en la interoperabilidad entre marcos de gobernanza. En la presentación, el Gobierno español lo situó dentro de una agenda que incluye la Carta de Derechos Digitales, el Observatorio de Derechos Digitales, la Agencia Española de Supervisión de la IA, el Reglamento Europeo de IA y la futura ley española para el buen uso y la gobernanza de la IA (La Moncloa, 2026; Radio Valencia, 2026).

Un artefacto humano en disputa

Conviene insistir en algo que a veces se pierde entre la fascinación técnica y el miedo. La IA no es una fuerza natural ni una inteligencia caída del cielo. Es un artefacto tecnológico complejo hecho por la humanidad. Está compuesto por modelos matemáticos, datos, servidores, energía, trabajo humano, cadenas de suministro, decisiones empresariales, inversiones públicas, infraestructuras militares, lenguajes de programación, marcos legales e imaginarios culturales. Por eso no puede tratarse como si tuviera un destino propio. La IA no ocurre fuera de la sociedad. Es sociedad organizada en forma técnica.

Esta idea no es solo retórica. Desde los estudios sociales de la tecnología, Winner mostró que los artefactos pueden incorporar formas de poder, autoridad y orden social. Desde la antropología de los algoritmos, Seaver propuso estudiar los sistemas algorítmicos como cultura, atendiendo no solo a su código, sino a las personas, instituciones, prácticas y creencias que los producen. Desde esa mirada, la IA no es una herramienta neutral colocada sobre el mundo, sino un ensamblaje social y técnico que clasifica, jerarquiza y actúa dentro de relaciones concretas de poder (Seaver, 2017; Winner, 1980).

El lenguaje empleado en Valencia no es menor. La IA, dijo López, debe servir a la paz y a las personas. También contrapuso esta orientación al Manifiesto de Palantir y al auge del tecnofascismo. Ahí aparece el verdadero conflicto político. Por un lado, una visión de la IA como infraestructura de superioridad estratégica, seguridad, vigilancia, defensa y poder corporativo. Por otro, una aspiración todavía frágil. Someter la inteligencia artificial a derechos, supervisión pública, deliberación democrática y justicia global.

El caso Palantir resulta especialmente significativo porque la propia empresa y su entorno intelectual han defendido una relación mucho más estrecha entre Silicon Valley, Estado y poder militar. En The Technological Republic, Karp y Zamiska critican una tecnología centrada en consumo y entretenimiento, y reclaman una orientación de la industria hacia fines nacionales, estratégicos y de defensa. Las lecturas críticas del manifiesto de Palantir han señalado precisamente ese desplazamiento hacia una IA entendida como instrumento de dominio geopolítico, vigilancia y poder armado (Karp & Zamiska, 2025; El País, 2026).

La cuestión es si la aspiración democrática tendrá fuerza suficiente. La experiencia de la economía digital invita a la prudencia. Muchas de las grandes plataformas crecieron bajo una mezcla de entusiasmo por la innovación, dependencia estatal, debilidad regulatoria y tolerancia hacia modelos de negocio basados en extraer, cruzar y monetizar información personal. No hace falta imaginar una conspiración perfecta. Basta observar cómo se naturalizó que los datos de comportamiento se convirtieran en materia prima comercial, que la privacidad se desplazara a menús secundarios y que la transparencia quedara reducida a documentos jurídicos que casi nadie lee.

Desde la ética antropológica, esta historia plantea una pregunta incómoda. ¿Puede llamarse consentimiento a una aceptación que no se comprende, no se negocia y no puede rechazarse sin quedar fuera de servicios básicos de la vida social? En los códigos de ética de la investigación con personas, el consentimiento informado no es una casilla marcada, sino una relación. Implica explicar fines, métodos, riesgos, patrocinadores, usos de la información y derecho a retirarse. En la práctica etnográfica, además, suele entenderse como un proceso continuo, no como una firma aislada. Aplicado al mundo digital, este marco deja en evidencia la pobreza ética del consentimiento convertido en clic (American Anthropological Association, 2012; Molina et al., 2018).

La IA intensifica ese problema. Los modelos no solo tratan datos personales en sentido estrecho. Incorporan textos, imágenes, voces, gestos, patrones de movilidad, historiales de consumo, interacciones sociales y huellas de comportamiento. Lo que desde una mirada técnica aparece como dato, desde una mirada antropológica puede ser una relación social, una memoria, una vulnerabilidad, un cuerpo, una identidad, una comunidad. La pregunta ya no es solo si los datos fueron recogidos legalmente. Es si su uso respeta la dignidad de las personas y los contextos sociales de los que proceden.

Gobernar el daño antes de normalizarlo

Aquí aparece otro principio central. No hacer daño. En antropología, esta obligación no se limita a evitar daños físicos inmediatos. Incluye proteger la dignidad, la seguridad, la privacidad, el bienestar material y las consecuencias no previstas de una investigación o intervención. Trasladado a la IA, obliga a pensar en daños menos visibles pero profundamente reales. Exclusión de servicios, clasificación injusta, vigilancia laboral, sesgos en decisiones públicas, explotación de imágenes, exposición de menores, automatización de sospechas, discriminación biométrica o dependencia tecnológica de países y comunidades que no participan en el diseño de los sistemas que los afectan (American Anthropological Association, 2012; Benjamin, 2019; Eubanks, 2018).

El caso de Gaza obliga a llevar esta discusión a su extremo moral. La IA no aparece allí como una herramienta neutra de eficiencia administrativa, sino como parte de una campaña militar denunciada por organizaciones de derechos humanos como genocida, una calificación que Israel rechaza. Las investigaciones sobre sistemas como Lavender o Where’s Daddy han señalado el uso de herramientas algorítmicas para identificar objetivos y acelerar ataques en un contexto de devastación masiva de la población palestina. El ejército israelí ha negado que la IA identificara automáticamente objetivos y ha descrito estos sistemas como herramientas auxiliares para analistas, pero la controversia muestra justamente el problema ético de fondo. Cuando la decisión letal se acelera mediante sistemas opacos, la responsabilidad se vuelve más difícil de localizar y más fácil de diluir (Abraham, 2024; Amnesty International, 2024; Associated Press, 2024; McKernan & Davies, 2024; Reuters, 2024).

Si la gobernanza de la IA no puede responder a ese uso, entonces su lenguaje ético corre el riesgo de quedar reducido a una retórica decorativa para tiempos de paz. La pregunta no es únicamente si una IA militar comete errores. La pregunta es qué tipo de mundo político produce una infraestructura capaz de clasificar poblaciones, priorizar objetivos y acelerar cadenas de muerte bajo una apariencia de cálculo técnico.

La gobernanza ética de la IA tampoco puede limitarse a reunir expertos. Si de verdad quiere ser para la humanidad, debe preguntarse quién está sentado a la mesa y quién queda fuera. Las poblaciones afectadas por sistemas algorítmicos, los trabajadores precarizados por la automatización, los docentes, sanitarios, migrantes, artistas, empleados públicos, menores, personas vigiladas y países del Sur Global no pueden ser tratados solo como destinatarios pasivos de decisiones tomadas por Estados, empresas y paneles técnicos. La ética pública empieza cuando los afectados dejan de ser objeto de protección y pasan a ser interlocutores.

La antropología aplicada ofrece aquí una orientación valiosa. No se trata solo de producir conocimiento sobre los otros, sino de trabajar con los otros, involucrar a los grupos afectados, reconocer conflictos de interés, traducir saberes técnicos a lenguajes públicos y sostener procesos participativos. Pérez Lizaur sostiene que la antropología aplicada debe combinar teoría, metodología rigurosa, diseño de soluciones y humildad para trabajar en equipos interdisciplinares con participación activa de los grupos afectados. Giménez Romero, por su parte, recuerda que la antropología de orientación pública exige traducir la complejidad hacia audiencias más amplias sin renunciar al rigor (Giménez Romero, 2011; Pérez Lizaur, 2007).

El riesgo, sin embargo, es que la ética funcione como legitimación. La historia de las grandes intervenciones tecnológicas y de desarrollo muestra que palabras como participación, consentimiento, inclusión o responsabilidad pueden convertirse en procedimientos formales que protegen más a las instituciones que a las comunidades afectadas. También puede ocurrir con la IA. Un laboratorio, un panel, una guía o un código no garantizan por sí mismos una gobernanza democrática. Su valor dependerá de si pueden incomodar a los actores poderosos, publicar advertencias, exigir transparencia, reconocer daños y abrir espacios reales de disputa pública.

En ese sentido, la iniciativa de Naciones Unidas y el papel de España son importantes precisamente porque llegan tarde a una parte de la historia. No tarde del todo, pero sí después de una larga etapa en la que el ecosistema digital aprendió a vivir de la opacidad. La IA generativa, la automatización de decisiones y la infraestructura global de datos hacen que esa opacidad ya no sea solo un problema de privacidad individual. Es un problema de democracia.

No llegar tarde otra vez significa asumir que la innovación no puede seguir avanzando como excepción permanente. Significa que la ciencia y la democracia deben unirse, sí, pero también que la ciudadanía necesita capacidad real para entender, discutir y limitar los sistemas que ordenan su vida. Significa que los derechos digitales no pueden quedarse en promesas, ni la ética en lenguaje ornamental, ni la gobernanza en diplomacia tecnológica.

La pregunta de fondo no es si la inteligencia artificial tendrá valores. Siempre los tendrá, aunque no los declare. La pregunta es quién tendrá poder para definirlos, quién pagará sus daños y quién podrá decir que no.

Referencias

Vídeo breve

Vídeo breve sobre el Laboratorio de Gobernanza de la IA de la ONU, datos, consentimiento y ética pública.