AIthropology Lab
ESEN

Notas

La violencia digital no es un error de diseño

De las imágenes sintéticas en una escuela a la reutilización automática en Instagram. Una mirada antropológica sobre cómo plataformas e instituciones distribuyen el daño y el trabajo de reparación.

·Martín González Senosiain
Retrato de Olympe de Gouges sentada en un sillón y sosteniendo un libro, utilizado para ilustrar una reflexión sobre la apropiación y manipulación digital de la imagen.

Olympe de Gouges, sentada con un libro, autoría desconocida, 1793. Acuarela y grafito sobre papel. Colección Edmond de Rothschild, Museo del Louvre. Dominio público, vía Wikimedia Commons.

En la Escuela Superior de Comercio Carlos Pellegrini, en Buenos Aires, estudiantes de entre trece y catorce años fueron señalados por manipular con inteligencia artificial fotografías de compañeras para crear imágenes falsas en las que aparecían desnudas. Según las denuncias presentadas, los archivos no solo circularon entre pares. También habrían sido clasificados y ofrecidos a cambio de dinero. La intervención institucional llegó después, cuando las alumnas hablaron, las familias reclamaron y el episodio alcanzó a los medios y a la justicia.

El caso suele explicarse como el mal uso de una tecnología por parte de un grupo de adolescentes. La formulación tranquiliza. Permite aislar la responsabilidad. Existe una herramienta neutral y existen algunas personas que deciden emplearla de forma dañina. Sin embargo, para producir y comercializar esas imágenes hicieron falta más cosas. Fotografías disponibles, programas de fácil acceso, canales privados de circulación, una audiencia dispuesta a consumirlas y una comunidad de pares en la que el cuerpo de las chicas podía convertirse en objeto de intercambio.

También hizo falta una institución que no se volvió plenamente visible hasta que las personas afectadas consiguieron transformar una agresión privada en un problema público.

Para entender por qué el cuerpo de las chicas pudo convertirse en mercancía dentro del aula, no basta con identificar a quienes participaron. Hay que preguntarse qué relaciones de género organizaban el grupo, qué versiones de la masculinidad se producían entre pares y cómo el prestigio podía construirse mediante la exhibición y el intercambio de imágenes.

La antropología feminista lleva décadas mostrando que el género no es una propiedad individual que simplemente distingue a mujeres y hombres. Es una relación social que organiza diferencias, distribuye posiciones y legitima desigualdades. Lourdes Méndez sitúa la crítica al androcentrismo y al etnocentrismo en el centro de la antropología feminista, y recuerda que la categoría «mujer» debe examinarse en su heterogeneidad, sin presentarla como una experiencia universal.

Joan W. Scott propone utilizar el género para investigar cómo se construyen los significados de la diferencia y qué relaciones de poder producen. Su utilidad no consiste en añadir a las mujeres a una historia ya escrita, sino en interrogar las categorías con las que esa historia se organiza. Desde esta perspectiva, el episodio del Pellegrini no habla únicamente de cuerpos femeninos atacados. Habla también de una masculinidad producida ante otros varones, de la conversión del consentimiento en objeto de burla y del prestigio que puede obtenerse mediante el acceso, la manipulación y la distribución de imágenes.

Raewyn Connell advierte que la masculinidad hegemónica no debe entenderse como una personalidad fija. Es una configuración de prácticas generada en situaciones concretas y dentro de una estructura de relaciones. Junto a ella existen masculinidades cómplices, subordinadas y marginadas. Esta precisión evita presentar a los estudiantes involucrados como portadores naturales de una violencia masculina. La atención debe dirigirse hacia las prácticas que un grupo premia, tolera o normaliza. Quién produce la imagen, quién la solicita, quién paga, quién ríe, quién la reenvía y quién guarda silencio.

Del grupo escolar al ecosistema técnico

La inteligencia artificial generativa no creó estas relaciones, pero ha reducido el conocimiento y el tiempo necesarios para convertirlas en imágenes. Lo que antes exigía cierta destreza técnica puede realizarse ahora mediante una aplicación, una fotografía y una instrucción breve. La violencia sexual digital deja así de depender de comunidades especializadas y se incorpora a herramientas de uso cotidiano.

El episodio de Grok mostró lo que sucede cuando esta posibilidad se integra en una plataforma mundial. Según una estimación del Center for Countering Digital Hate basada en una muestra y difundida en enero de 2026, durante once días se habrían generado alrededor de tres millones de imágenes sexualizadas mediante la herramienta de X. Aproximadamente 23.000 parecían representar a menores. No se trata de un recuento exhaustivo, pero la estimación permite apreciar la diferencia de escala. La producción de una imagen sintética no consensuada puede pasar del grupo escolar a una infraestructura planetaria en cuestión de segundos.

Una investigación de Michelle L. Ding, Harini Suresh y Suresh Venkatasubramanian cuestiona que el problema pueda resolverse bloqueando una aplicación después de cada escándalo. Su cartografía identifica once categorías tecnológicas que intervienen en la creación, la distribución, el descubrimiento, el alojamiento y la monetización de imágenes íntimas sintéticas no consentidas. Las respuestas fragmentarias producen así una política de whack-a-mole. Se cierra un acceso mientras el resto del ecosistema permanece intacto.

La unidad de análisis, por tanto, no debería ser solamente la imagen ni la persona que introduce una orden. También deben observarse los modelos, las interfaces, las cuentas, los grupos de mensajería, los servicios de almacenamiento, los sistemas de recomendación y las formas de pago.

La violencia es individual en su experiencia, pero colectiva e infraestructural en su producción.

El género no borra a los hombres

Reconocer la estructura misógina de gran parte de la violencia sexual sintética no exige excluir a los hombres de la investigación. Una encuesta realizada a más de 16.000 personas en diez países encontró que el 2,2 % había sufrido alguna forma de imagen íntima sintética no consentida. El estudio no presenta ese porcentaje como una experiencia exclusivamente femenina.

Otra investigación del mismo equipo amplió el foco al conjunto del abuso sexual basado en imágenes. El 22,6 % de las personas encuestadas declaró alguna experiencia de creación, captación, amenaza o difusión íntima no consentida. Las tasas de victimización fueron similares entre mujeres y hombres, aunque las mujeres comunicaron daños más intensos y consecuencias negativas más graves. Las personas jóvenes y LGTBIQ+ aparecieron especialmente expuestas.

Las modalidades también cambian según las expectativas de género que se utilizan para causar daño. Las mujeres concentran buena parte de las falsificaciones pornográficas y de los mercados que sexualizan rostros reales. Los hombres, especialmente los más jóvenes, aparecen con fuerza en la sextorsión financiera. La agencia australiana eSafety recibió 2.206 denuncias de extorsión sexual entre julio y diciembre de 2025. El grupo que más denunció fue el de hombres de entre dieciocho y veinticuatro años, con cerca de ochocientos casos.

No se trata de diluir la desigualdad diciendo que todo afecta a todas las personas por igual. Se trata de observar qué cuerpo se fabrica, qué vergüenza se moviliza y qué amenaza resulta socialmente eficaz. El género no decide de antemano quién puede sufrir violencia. Permite analizar la forma que adopta esa violencia y las condiciones que agravan sus consecuencias.

Actívalo primero, discúlpate después

Muse Image, la herramienta presentada por Meta, permite observar el mismo problema desde el lado del diseño corporativo. La función hacía posible utilizar fotografías publicadas por perfiles públicos de Instagram como referencia para generar imágenes mediante IA. Las cuentas públicas quedaban incluidas inicialmente, salvo que cada persona encontrara y modificara la configuración correspondiente. Tampoco se enviaba una notificación cuando sus contenidos eran reutilizados.

Meta desactivó esa posibilidad después de las críticas públicas y reconoció que la función no había proporcionado el control que pretendía ofrecer. La reacción llegó cuando el producto ya había sido desplegado y cuando el posible uso no consentido de las imágenes se había convertido en un coste reputacional para la empresa.

Habilitar la función no equivale a diseñar deliberadamente cada posible abuso. Sin embargo, sí distribuye el riesgo de una manera determinada. La empresa obtiene experimentación, atención y adopción. Las personas usuarias deben descubrir que sus fotografías están disponibles, anticipar sus posibles usos, localizar el ajuste y excluirse.

El consentimiento aparece como una tarea individual posterior, no como la condición previa del producto.

«Actívalo y discúlpate después» describe algo más profundo que una mala decisión empresarial. Describe una cultura tecnológica en la que lanzar rápidamente se considera innovación, mientras que prevenir daños puede aplazarse hasta que exista presión reputacional, jurídica o económica. El diseño no es únicamente el código. También son los valores predeterminados, las fricciones, los avisos, los tiempos de respuesta y la persona sobre la que recae el trabajo de protegerse.

La capacidad económica vuelve más difícil presentar la prevención como una aspiración técnicamente inalcanzable. Meta cerró 2025 con 200.966 millones de dólares de ingresos y 60.458 millones de beneficio neto. Dedicó 57.372 millones a investigación y desarrollo. Su capacidad para anticipar los riesgos de una función que reutilizaba rostros ajenos debe examinarse junto con las prioridades que guiaron su despliegue.

No existe una cifra pública comparable para X o xAI. Ambas son compañías privadas y sus datos difundidos no ofrecen el mismo nivel de detalle ni la misma auditabilidad que las cuentas de Meta. Esa opacidad económica forma parte del problema. La sociedad puede observar el daño, pero dispone de menos instrumentos para conocer cuánto se invierte realmente en prevenirlo.

OnlyFans como contrapeso imperfecto

OnlyFans permite introducir un contraste. No porque sea un espacio libre de explotación, filtraciones o desigualdades, sino porque su arquitectura parte de una decisión diferente. Quien crea el contenido inicia su publicación, establece un precio y recibe una parte del valor generado. La diferencia no está en que una imagen sea sexual y otra no. Está en quién autoriza la circulación, en qué condiciones lo hace y quién captura el ingreso.

La plataforma conserva el 20 % de los pagos. Durante el ejercicio cerrado en noviembre de 2024 procesó 7.200 millones de dólares, pagó 5.800 millones a las cuentas creadoras, obtuvo 1.400 millones de ingresos y declaró 684 millones de beneficio antes de impuestos. Contaba con 4,6 millones de cuentas creadoras y 377,5 millones de cuentas de fans. Su propietario recibió 701 millones de dólares en dividendos entre el ejercicio y los meses posteriores.

Estos datos muestran una forma distinta de distribuir el valor, pero no una emancipación automática. Las personas creadoras asumen la exposición, la promoción constante, las filtraciones, la copia de contenidos y buena parte de la protección de su identidad. La plataforma reconoce la autorización y remunera la publicación, al tiempo que extrae una quinta parte de cada transacción y concentra beneficios extraordinarios.

OnlyFans demuestra que el consentimiento puede ocupar un lugar visible dentro del diseño. También muestra que consentir una publicación no equivale a consentir cualquier reutilización futura. El permiso para acceder a una imagen dentro de un servicio no autoriza su descarga, su venta fuera del entorno acordado ni su transformación mediante inteligencia artificial.

El contraste vuelve más precisa la tesis. El punto decisivo reside en quién autoriza la circulación de las imágenes sexuales, qué límites acompañan esa decisión, cómo puede retirarse el consentimiento y quién asume las pérdidas cuando el contenido escapa de ese marco.

La imagen no termina en el archivo

La concepción occidental de la fotografía como copia separable, disponible y transferible tampoco es universal. La antropología ha mostrado que las imágenes pueden actuar como presencias, mediadoras de relaciones o extensiones de las personas representadas. Alfred Gell propuso estudiar los objetos visuales no solo por lo que significan, sino por lo que hacen dentro de una red social. Una imagen puede distribuir agencia, activar obligaciones y afectar a quienes se relacionan con ella.

Esta idea ayuda a evitar un viejo tópico colonial. No es riguroso afirmar que determinados pueblos creen, de manera uniforme, que una cámara «roba el alma». Las prácticas son más diversas y más complejas. Lo que sí encontramos son contextos en los que una imagen no se considera un objeto neutral del que cualquiera pueda disponer.

En distintas comunidades aborígenes y de las islas del estrecho de Torres existen protocolos sobre el acceso, la reproducción y la exhibición de imágenes o voces de personas fallecidas. Las prácticas varían entre familias y pueblos. El Instituto Australiano de Estudios Aborígenes e Isleños del Estrecho de Torres conserva materiales visuales bajo restricciones culturales y exige comprobar los requisitos comunitarios antes de reproducirlos o digitalizarlos. Algunas imágenes no se muestran sin autorización de las comunidades relacionadas con ellas.

Entre fotógrafas y fotógrafos hopi se han documentado límites semejantes alrededor de ceremonias, secretos colectivos y retratos destinados a circular solo dentro de determinadas relaciones. Victor Masayesva Jr. describió la cámara como un arma capaz de violar silencios esenciales para la supervivencia del grupo. Otros fotógrafos hopi evitaron vender fuera de la comunidad retratos que consideraban ligados a su intimidad colectiva.

En Aotearoa Nueva Zelanda, los marcos de soberanía de datos maoríes vinculan la información con el whakapapa, la genealogía, las relaciones y la autoridad colectiva. Los datos no se conciben únicamente como recursos disponibles para quien puede copiarlos. Su uso implica responsabilidades hacia las personas y comunidades de las que proceden. Las propuestas recientes de soberanía algorítmica maorí trasladan estos principios al diseño y a la gobernanza de sistemas automatizados.

Estos casos no son equivalentes entre sí y no pueden reducirse a una teoría universal del alma. Sí recuerdan algo que el diseño digital tiende a borrar. Representar no siempre significa duplicar. Una imagen puede seguir vinculada a la persona, a sus antepasados, a su comunidad y a las relaciones que la constituyen.

Manipular una fotografía sin permiso no altera únicamente un archivo. Interviene sobre una presencia social. No es necesario creer que la imagen contiene literalmente un alma para comprender que la identidad no termina en la piel física ni en la posesión de la cámara que tomó la fotografía.

La DANA de València mostró esta relación de una manera próxima y material. En marzo de 2026, la antropóloga Beatriz Santamarina Campos presentó la sesión Habitar la emergencia, habitar la catástrofe. La DANA de València desde una antropología pública. El propio título situaba la catástrofe más allá del acontecimiento meteorológico. Habitar la emergencia también significa reconstruir las relaciones, los objetos y las memorias que permiten que una vida vuelva a reconocerse como propia.

Tras la riada, las universidades públicas valencianas y distintas instituciones patrimoniales impulsaron Salvem les fotos. La iniciativa recuperó fotografías y álbumes familiares cubiertos por el agua y el barro. La Universitat de València informó en enero de 2026 de la recuperación de cerca de dos millones y medio de imágenes pertenecientes a más de 1.500 familias. No se trataba de devolver objetos decorativos después de reparar viviendas y calles. Las imágenes conservaban bodas, infancias, personas fallecidas, migraciones, celebraciones y formas cotidianas de pertenecer a una comunidad.

El proyecto reveló además que el contenido de una fotografía no se agota en lo que todavía puede verse. Marisa Vázquez de Ágredos, coordinadora de Salvem les fotos, explicaba que una familia sigue reconociendo aquello que el deterioro ha borrado para una mirada externa. Una superficie casi vacía continúa alojando relaciones, relatos y presencias que solo pueden reconstruirse desde una memoria compartida.

La restauración tampoco pretendía fingir que la catástrofe no había sucedido. El barro, la pérdida de pigmentos y las marcas del agua pasaron a formar parte de la biografía material de las imágenes. Recuperarlas significaba sostener la continuidad entre el antes y el después, no devolverlas a una supuesta pureza original.

Este ejemplo permite precisar qué se vulnera cuando una imagen se manipula deliberadamente. El deepfake no introduce únicamente información falsa en un archivo. Inserta una escena no consentida dentro de la memoria pública de una persona y la obliga a disputar qué versión de su propio cuerpo será vista, compartida o creída. Si restaurar una fotografía puede formar parte del cuidado, protegerla frente a la apropiación y la falsificación también debe entenderse como una responsabilidad colectiva.

La circulación del castigo

El hostigamiento recibido por el futbolista Alexander Sørloth y por su pareja, Lena Selnes, permite observar otra modalidad. Tras la eliminación de Noruega del Mundial de 2026, Selnes hizo públicos algunos de los mensajes enviados a ambos. Incluían insultos y comentarios que instaban al futbolista a hacerse daño. El seleccionador noruego condenó los ataques, pero su recomendación práctica fue que el equipo evitara las redes sociales durante momentos de especial tensión.

Aquí no hubo imágenes sexuales sintéticas ni menores. Los daños no deben confundirse. Sin embargo, reaparece una secuencia conocida. Una plataforma permite la acumulación inmediata de mensajes, la persona atacada documenta lo ocurrido y la solución institucional termina siendo abandonar temporalmente el espacio.

El desplazamiento del ataque hacia Selnes tampoco es irrelevante. Ella no había participado en el partido, pero quedó incorporada al castigo dirigido contra su pareja. La violencia digital amplía así el perímetro de la persona considerada responsable y convierte los vínculos afectivos en nuevas superficies de agresión.

Sara Ahmed propone estudiar las emociones no como contenidos encerrados dentro de cada individuo, sino atendiendo a lo que hacen y a cómo circulan entre cuerpos, discursos y objetos. La repetición hace que ciertos afectos se adhieran a determinadas figuras y produzcan efectos sociales. En el espectáculo deportivo, la frustración puede circular como indignación compartida, adherirse a un futbolista y extenderse después hacia la mujer vinculada a él.

La plataforma no es un recipiente pasivo. Sus métricas, tendencias y mecanismos de visibilidad convierten la intensidad emocional en interacción cuantificable. El insulto, la indignación y la humillación pueden circular porque producen respuestas, y esas respuestas se convierten en datos, atención y permanencia dentro del servicio.

Esperar a que el daño sea visible

La antropóloga Hlengiwe Ndlovu analiza la experiencia de instituciones estatales frágiles en la Sudáfrica posterior al apartheid mediante cuatro dimensiones. Espera, silencio, rechazo y cuidado. Aunque su etnografía no estudia plataformas digitales y no conviene forzar la equivalencia entre ambos contextos, sus categorías pueden emplearse como un préstamo conceptual para observar instituciones que aparecen de forma fragmentaria. Están presentes para administrar procedimientos, pero ausentes cuando se necesita protección.

Estas cuatro dimensiones no constituyen fases sucesivas. Son capas superpuestas que adquieren sentidos distintos según la posición que ocupan las personas afectadas, las instituciones y las plataformas dentro del conflicto.

La espera se encuentra en la distancia entre la velocidad de la agresión y la lentitud de la respuesta. Una imagen puede copiarse y distribuirse en segundos. Conseguir su retirada exige capturas, formularios, denuncias y nuevas explicaciones. El daño circula a la velocidad de la infraestructura, mientras que la protección avanza al ritmo del expediente.

El silencio aparece en las respuestas automáticas, en las decisiones opacas de moderación y en las dudas de las instituciones educativas. También puede formar parte de la experiencia de las personas afectadas. No denunciar, no mostrar las imágenes o no participar en determinados procedimientos no significa necesariamente pasividad. Puede ser una forma de preservar la intimidad, evitar la revictimización o rechazar un sistema que exige volver a exhibir el daño para reconocer que existe.

Pero ese silencio también puede estar producido por el miedo, el agotamiento o la convicción de que nadie responderá. No toda retirada es resistencia. A veces es expulsión.

El rechazo permite observar los límites de lo que una institución considera conocible. Las plataformas pueden negarse a reconocer un contenido como daño si no encaja en una categoría predeterminada. Las personas afectadas, a su vez, pueden negarse a entregar cada detalle de su vida íntima a un procedimiento policial, escolar o mediático. Ese rechazo no elimina el daño, pero protege una zona de autonomía frente a sistemas que con frecuencia confunden investigar con extraer.

Por eso las especialistas consultadas sobre el caso del Pellegrini insisten en preguntar primero qué necesitan las alumnas. No debería imponerse la denuncia penal como única respuesta, pero tampoco confundirse la reparación con la ausencia de consecuencias. Una intervención restaurativa necesita seguridad, participación voluntaria, reconocimiento del daño y responsabilidad de quienes lo ejercieron. No puede obligar a las personas afectadas a dialogar, perdonar o reconciliarse.

Irene Comins Mingol sostiene que la ética del cuidado aporta a la transformación de los conflictos una prioridad distinta. Atender las necesidades antes que limitar la respuesta a la aplicación del castigo. No se trata de sustituir la justicia por benevolencia, sino de preguntar qué permite detener el daño, recuperar seguridad, continuar una trayectoria educativa y reconstruir una comunidad.

Quién mantiene la vida después

El análisis del cuidado introduce además el problema de quién realiza el trabajo necesario para sostener la vida después de la agresión. Guardar pruebas, solicitar retiradas, acompañar a una adolescente, hablar con la escuela, buscar asistencia psicológica y seguir cada expediente son tareas. Tienen costes temporales, emocionales y materiales.

Amaia Pérez Orozco muestra cómo, cuando las instituciones y los mercados privatizan los riesgos, los hogares terminan funcionando como el último colchón del sistema. Su propuesta de situar la sostenibilidad de la vida en el centro permite observar aquello que las economías convencionales dejan fuera.

En la violencia digital ocurre algo semejante. La plataforma facilita la circulación, pero las familias, las amistades, el profesorado y los colectivos especializados absorben el trabajo de reparación. Acompañan, documentan, insisten, cuidan y sostienen mientras la empresa administra formularios y la institución decide qué procedimiento corresponde.

La plataforma facilita la circulación; las familias, las amistades y el profesorado absorben el trabajo de reparación.

La Guía y el proyecto de Ley Ema, la Ley Olimpia argentina y la Ley Modelo Interamericana para prevenir, sancionar y erradicar la violencia digital contra las mujeres representan intentos de anticipar parte de ese trabajo. Sus enfoques no son idénticos y su eficacia depende de su aplicación, de los recursos disponibles y de la capacidad de exigir responsabilidades a empresas que operan más allá de una sola jurisdicción.

Ningún texto legal elimina por sí solo la violencia ni resuelve automáticamente los tiempos escolares, administrativos y judiciales. Estos instrumentos desplazan el centro de la respuesta. La atención alcanza así a las instituciones, los protocolos y las obligaciones que deben existir antes de que una persona tenga que convertir su intimidad violentada en un escándalo público, además del castigo posterior.

Qué contención existe en España

La primera necesidad no siempre es denunciar. Puede ser recuperar una mínima sensación de seguridad, detener la circulación, pedir que otra persona acompañe el proceso y decidir con tiempo qué vías se desean utilizar. La contención no debe reducirse a una recomendación genérica. Requiere respuestas técnicas, emocionales, jurídicas, educativas y sociales que puedan combinarse sin obligar a la persona afectada a seguir un itinerario único.

El Canal Prioritario de la Agencia Española de Protección de Datos permite solicitar la retirada urgente de fotografías, vídeos o audios sexuales o violentos difundidos ilícitamente cuando su circulación pone en grave riesgo los derechos o la salud física o mental de las personas afectadas. Puede acudir la propia persona o alguien que tenga conocimiento de la publicación.

El 017 de INCIBE ofrece ayuda gratuita, confidencial y personalizada. Un equipo multidisciplinar proporciona orientación técnica, jurídica y psicosocial todos los días del año entre las ocho de la mañana y las once de la noche. El servicio atiende a personas adultas, menores, familias, profesionales y empresas.

Cuando la agresión forma parte de la violencia contra las mujeres, el 016 ofrece información general y atención psicosocial inmediata durante las veinticuatro horas. El asesoramiento jurídico funciona diariamente entre las ocho de la mañana y las diez de la noche. El servicio es gratuito, confidencial y puede derivar emergencias al 112 o consultas de menores al teléfono ANAR.

Las Oficinas de Asistencia a las Víctimas del Delito prestan una atención pública y gratuita en los ámbitos jurídico, psicológico y social. Su modelo prevé planes individualizados y busca minimizar la victimización inicial y evitar la secundaria. No es necesario esperar a que exista una sentencia para solicitar información y acompañamiento.

Una intervención razonable puede comenzar conservando las pruebas imprescindibles sin seguir descargando ni reenviando el material. Después puede solicitarse su retirada, revisar la seguridad de las cuentas, pedir protección dentro de la escuela o del trabajo y valorar la vía jurídica sin imponer una denuncia inmediata. La atención psicológica continuada puede ser necesaria incluso cuando el contenido ya ha sido retirado. La desaparición del archivo no elimina la incertidumbre sobre sus copias ni repara por sí sola la ruptura de confianza.

Quién paga la reparación

Los servicios públicos asumen una parte de los costes mediante la protección de datos, la ciberseguridad, la sanidad, la educación, la asistencia a las víctimas y el sistema judicial. Las plataformas financian sus sistemas de moderación y retirada, y pueden afrontar sanciones o medidas correctoras. Quien ejerció la violencia puede asumir responsabilidades civiles o penales cuando es identificado y existe una resolución.

Sin embargo, una parte considerable del coste permanece fuera de las cuentas oficiales. La persona afectada y su entorno dedican horas a buscar copias, guardar capturas, completar formularios, hablar con el centro educativo, faltar al trabajo, cambiar de teléfono o cerrar perfiles. A veces pagan terapia privada, asesoramiento jurídico, peritajes o servicios de reputación digital porque la respuesta pública no llega con la velocidad necesaria.

Una multa a la plataforma no repara automáticamente a cada persona. Una retirada tampoco devuelve el tiempo invertido ni garantiza que el archivo haya desaparecido de otros servidores. La responsabilidad jurídica de quien crea o difunde el contenido puede tardar años en establecerse. Mientras tanto, el cuidado funciona como una infraestructura de emergencia sostenida por familias, amistades y profesionales que rara vez reciben recursos proporcionales al trabajo realizado.

La economía real del daño puede resumirse de otro modo. La plataforma obtiene interacción. Las instituciones públicas pagan una parte de la respuesta. Las redes próximas proporcionan el cuidado. La persona agredida aporta el tiempo, la exposición y, con frecuencia, el dinero necesario para intentar recuperar una imagen que nunca dejó de pertenecerle.

Europa investiga después del daño

La Unión Europea abrió en enero de 2026 una investigación formal sobre X para determinar si la plataforma había evaluado y mitigado adecuadamente los riesgos sistémicos asociados a Grok. El procedimiento se apoya en el Reglamento de Servicios Digitales y examina la difusión de imágenes sexuales manipuladas, incluidos contenidos no consentidos y materiales que podrían afectar a menores.

El análisis europeo abarca la legalidad de cada imagen, la valoración del riesgo antes de integrar la herramienta, la suficiencia de las medidas desplegadas y la posible amplificación del daño por los sistemas de recomendación. Es un cambio importante de escala. La responsabilidad deja de descansar únicamente sobre quien escribió una instrucción y alcanza a la infraestructura que hizo posible su producción y circulación masiva.

Los Estados miembros y representantes del Parlamento Europeo han respaldado además propuestas para prohibir aplicaciones de IA que generen imágenes sexuales explícitas sin autorización. La reforma seguía en negociación a mediados de 2026, por lo que no debe presentarse todavía como una prohibición definitiva ya aplicada en todo el territorio europeo.

En España, la respuesta combina herramientas ya existentes con reformas en tramitación. La Agencia Española de Protección de Datos puede intervenir para procurar una retirada urgente. El Consejo de Ministros aprobó el 7 de julio de 2026 un proyecto de ley orgánica que actualiza la protección civil del honor, la intimidad y la propia imagen frente a recreaciones no autorizadas mediante inteligencia artificial. El proyecto eleva además a dieciséis años la edad para consentir determinados usos de la imagen y refuerza la valoración del daño moral.

España también tramita una ley para proteger a las personas menores de edad en los entornos digitales. Entre sus objetivos figura reforzar la respuesta frente a contenidos sexuales sintéticos, el acoso y otras formas de violencia tecnológica. Son avances relevantes, pero siguen mostrando la misma diferencia temporal que atraviesa toda la nota. La innovación se despliega primero. La investigación, la retirada y la reforma jurídica llegan después de que las personas afectadas hayan tenido que demostrar el daño.

Europa intenta alcanzar una infraestructura que ya convirtió a la sociedad en su campo de pruebas. La dificultad no consiste solamente en legislar más rápido. Consiste en impedir que la velocidad empresarial siga funcionando como una exención provisional de responsabilidad.

La violencia digital no es una desviación que las plataformas corrigen cuando finalmente consiguen detectarla. Es el resultado previsible de decisiones anteriores sobre qué se prioriza, quién queda expuesto y quién debe cargar con el trabajo de protegerse.

No es un error que el sistema descubre demasiado tarde. Es aquello que el sistema permite mientras todavía no le resulta costoso impedirlo.

Fuentes y lecturas

Nota de verificación

La información factual de esta versión se revisó hasta el 16 de julio de 2026. Las cifras atribuidas al Center for Countering Digital Hate son estimaciones basadas en una muestra y no un recuento exhaustivo. Los datos de OnlyFans proceden de las cuentas de Fenix International correspondientes al ejercicio cerrado el 30 de noviembre de 2024 y de la información sobre dividendos posteriores incluida en ellas. Los resultados de Meta proceden de su comunicación financiera anual de 2025.

Los casos analizados no se presentan como daños equivalentes. La violencia sexual digital ejercida contra adolescentes, la reutilización no consentida de fotografías, la explotación comercial de contenido íntimo y el hostigamiento contra figuras públicas comparten una secuencia institucional de exposición y respuesta tardía, pero tienen características, asimetrías y obligaciones de protección diferentes.

Las referencias a pueblos aborígenes australianos, comunidades hopi y marcos maoríes no sostienen que exista una creencia universal según la cual la fotografía contenga literalmente el alma. Se emplean para mostrar que la separación occidental entre persona, imagen y dato no es universal, y que el acceso a una representación puede estar sometido a autoridad colectiva, parentesco, memoria y protocolos culturales.

La referencia a Beatriz Santamarina se limita a la existencia, el título y el encuadre público de su sesión académica sobre la DANA. No se le atribuyen afirmaciones específicas sobre la restauración fotográfica sin disponer de una publicación o transcripción completa. Las cifras de Salvem les fotos distinguen momentos y equipos diferentes del programa valenciano. La versión más reciente citada atribuye a la Universitat de València cerca de dos millones y medio de imágenes recuperadas de más de 1.500 familias.

Las categorías de espera, silencio, rechazo y cuidado se utilizan como un préstamo conceptual de la etnografía de Hlengiwe Ndlovu, sin equiparar las plataformas digitales con el contexto estatal sudafricano estudiado por la autora. Las reformas españolas y europeas citadas se encontraban en distintas fases de investigación o tramitación en la fecha de revisión y no deben interpretarse como legislación plenamente aplicada en todos sus aspectos.