Violence numérique et école

Une simple photo de profil a suffi

Temps de lecture: 12 min

Adolescence, faux nus fabriqués par intelligence artificielle et école, trois ans après Almendralejo

·AIthropology Lab
Ajoutez AIthropology Lab à vos sources préférées sur Google
Vue aérienne d’Almendralejo (Badajoz), le 17 mars 2021.
Vue aérienne d’Almendralejo (Badajoz), le 17 mars 2021. Cette photographie de la ville est sans lien avec les personnes impliquées dans cette affaire. · kallerna / Wikimedia Commons · CC BY-SA 4.0

Chaque premier jeudi de novembre, l’UNESCO célèbre la Journée internationale contre la violence et le harcèlement en milieu scolaire, y compris le cyberharcèlement. Cette année, elle tombe le 5 novembre, trois ans après qu’un groupe de mères d’Almendralejo a dénoncé la circulation de montages réalisés par intelligence artificielle représentant faussement leurs filles nues. Cette affaire invite à s’interroger sur la manière dont les relations sociales interviennent dans les préjudices causés par une image fabriquée, et sur les responsabilités liées à sa création et à sa diffusion.

En septembre 2023, un groupe de mères d’Almendralejo, dans la province de Badajoz, a dénoncé la circulation de photomontages représentant leurs filles nues. Les images montraient des scènes de nudité qui n’avaient jamais existé. Selon les faits établis par le tribunal pour mineurs de Badajoz, les jeunes mis en cause avaient récupéré les visages des filles sur leurs profils de réseaux sociaux et les avaient superposés, à l’aide d’applications d’intelligence artificielle, à des images d’autres corps féminins nus. Les photographies manipulées avaient été partagées dans deux groupes WhatsApp. Le 9 juillet 2024, le jugement rendu à la suite d’un accord de reconnaissance des faits a été rendu public. Le tribunal a imposé un an de liberté surveillée à quinze personnes mineures, reconnues responsables de vingt infractions de pornographie infantile et de vingt autres infractions portant atteinte à l’intégrité morale. La mesure comprenait une formation à la vie affective et sexuelle, à l’utilisation responsable des technologies ainsi qu’une sensibilisation à l’égalité et aux questions de genre. L’association Malvaluna, qui avait conseillé les familles, a expliqué qu’elles avaient accepté l’accord afin d’éviter aux filles de devoir subir un procès. Elle a appelé à promouvoir l’égalité et une éducation sexuelle adaptée dans les établissements scolaires, plutôt que de laisser l’apprentissage se faire à travers la pornographie, « qui engendre davantage de sexisme et de violence ».

Trois ans plus tard, cette affaire reste l’un des exemples les plus connus en Espagne d’un phénomène qui n’a plus rien d’exceptionnel. Ce jeudi 5 novembre, l’UNESCO célèbre la Journée internationale contre la violence et le harcèlement en milieu scolaire, y compris le cyberharcèlement, sur le thème « La sécurité et le bien-être de tous les élèves : des engagements aux actes ». L’édition 2026 inaugure le deuxième cycle quinquennal de cette journée et précède de deux semaines la conférence ministérielle mondiale sur la violence à l’égard des enfants, qui se tiendra à Manille les 18 et 19 novembre.

L’image et le préjudice

Dans ces affaires, tout ne commence pas par une photographie intime : une simple photo de profil a suffi. Même si l’image est fausse, la personne qu’on y reconnaît est bien réelle, tout comme ce qui lui arrive lorsque d’autres la regardent.

Le 4 février 2026, l’UNICEF a averti que « même si les images sont fausses, les préjudices qu’elles causent sont bien réels ». Dans cette même déclaration, l’organisation publiait une estimation. À partir d’enquêtes représentatives menées auprès d’environ mille enfants et adolescents de 12 à 17 ans utilisant Internet dans chacun de onze pays, le projet Disrupting Harm, porté par l’UNICEF, ECPAT et INTERPOL, estimait qu’au moins 1,2 million de jeunes de ces pays avaient subi, au cours de l’année écoulée, la manipulation de leurs images pour créer des contenus sexuellement explicites. Dans certains pays, la proportion atteignait une personne mineure sur 25, soit, selon l’UNICEF, l’équivalent d’un enfant par classe. Dans certains pays également, jusqu’aux deux tiers des jeunes interrogés disaient craindre que quelqu’un utilise l’intelligence artificielle pour fabriquer des images sexuelles les représentant.

L’Espagne ne figurait pas dans cette étude. Une recherche récente menée dans des établissements secondaires d’Almería permet d’aborder ce phénomène dans un contexte scolaire précis.

Ce qu’ont déclaré 2 220 jeunes d’Almería

Verónica C. Cala et Encarnación Soriano-Ayala, de l’Université d’Almería, ont interrogé 2 220 élèves de 12 à 17 ans dans seize établissements secondaires publics de la province. Elles ont publié leurs résultats cette année dans Child Abuse & Neglect. Parmi les jeunes issus de familles d’origine espagnole, 7,4 % ont déclaré avoir subi des violences sexuelles fondées sur l’image, contre 9,7 % parmi les jeunes issus de familles d’origine marocaine. Cette catégorie comprend la diffusion sans consentement d’images sexuelles de la personne concernée, qu’elles soient authentiques ou manipulées. Dans le cas précis des images manipulées ou deepfakes, les chiffres étaient respectivement de 1,4 % et de 3,5 %. Près d’un tiers de l’échantillon avait également reçu des images sexuelles non sollicitées, ce qui constitue une expérience différente. Dans le groupe d’origine familiale espagnole, cette expérience était plus fréquente chez les filles que chez les garçons (35,8 % contre 25,6 %). En cas d’abus fondés sur l’image, les personnes les plus souvent désignées comme responsables étaient des camarades et des personnes inconnues. Dans cette étude, la réception d’images non sollicitées était associée à une plus grande détresse psychologique et à davantage d’indicateurs de risque suicidaire.

Les chercheuses soulignent qu’il s’agit d’une enquête réalisée à un moment donné, qui permet de constater des associations sans établir de liens de causalité. Puisque l’origine familiale a été mesurée uniquement à partir du pays de naissance du père, les différences entre les groupes ne permettent pas de tirer des conclusions sur les cultures. En revanche, l’étude montre que les violences sexuelles fondées sur l’image font partie de l’expérience numérique ordinaire de nombreux jeunes et qu’elles se répartissent de manière inégale selon le genre et l’origine familiale, particulièrement pour certaines de leurs formes.

Le regard des autres garçons

En 1988, la sociologue britannique Liz Kelly a proposé de penser la violence sexuelle comme un continuum. Les expériences vécues par les femmes, du harcèlement quotidien à la coercition et à l’agression, sont liées entre elles, sans être équivalentes ni conduire nécessairement les unes aux autres. Ce concept permet de situer les faux nus dans ce même continuum, comme une nouvelle forme d’exposition sexuelle non consentie, apparentée à des pratiques bien plus anciennes de surveillance et de jugement des corps des filles.

L’anthropologue Rita Segato a insisté sur une autre dimension. Dans son analyse, élaborée à propos du viol et du mandat de masculinité, la violence sexuelle vise la victime tout en constituant un message adressé par la personne qui agresse à d’autres hommes, devant lesquels elle affirme son appartenance au groupe. À Almendralejo, le jugement indique que les images ont été partagées dans deux groupes WhatsApp. Nous ignorons ce que cherchaient les personnes qui les ont fabriquées et diffusées, et les informations publiées sur le jugement ne permettent pas de le savoir. Mais le mode de circulation des images permet de transposer la question de Segato à cette affaire : quel rôle joue le regard des autres garçons lorsque l’image d’une fille qu’ils connaissent commence à circuler pour qu’ils la regardent ? Cette affaire ne permet pas d’y répondre, mais elle montre pourquoi il importe d’étudier les relations entre les personnes qui fabriquent, reçoivent et transfèrent ces images.

La vie privée dépend aussi des autres

Face à ces situations, le conseil le plus souvent donné aux filles consiste à publier moins de photographies. Les chercheuses Alice Marwick et danah boyd ont étudié la façon dont les jeunes négocient leur vie privée sur les réseaux sociaux et ont désigné ce phénomène par l’expression networked privacy, ou « vie privée en réseau ». Ce que l’on sait et ce que l’on montre d’une personne dépend aussi de ce que d’autres publient, transfèrent et interprètent : personne ne maîtrise entièrement sa propre image. À Almendralejo, les photographies utilisées au départ étaient de simples photos de profil. Demander aux filles de quitter les réseaux sociaux pour se protéger revient à faire peser la responsabilité sur les personnes qui subissent le préjudice, sans examiner ce que d’autres ont fait de leurs photographies.

Ce que l’école peut faire, et ce qu’elle ne peut pas faire

En Espagne, la loi organique 8/2021 relative à la protection intégrale des enfants et des adolescents contre la violence oblige les autorités éducatives à réglementer des protocoles d’intervention contre le harcèlement scolaire, le cyberharcèlement, le harcèlement sexuel et d’autres formes de violence, applicables dans tous les établissements (article 34). Elle impose également aux établissements accueillant des personnes mineures de disposer d’une personne chargée de la coordination du bien-être et de la protection (article 35). L’existence de cette fonction ne garantit pas une réponse adaptée. Dans Complaint! (2021), Sara Ahmed a étudié l’écart entre les procédures de plainte et l’expérience des personnes qui y ont recours : un parcours souvent éprouvant, au cours duquel la plainte finit par peser sur la personne qui l’a déposée. Ses travaux portent sur les universités, et leur transposition au secondaire reste, à ce stade, une hypothèse. Ils invitent néanmoins à se demander comment réagit un établissement lorsqu’une élève dénonce les faits, mais doit continuer à côtoyer, en classe ou dans les couloirs, les personnes qui ont fait circuler son image.

Il existe aussi un décalage entre les circuits de diffusion du préjudice et les outils disponibles pour y mettre fin. Le Canal prioritaire de l’Agence espagnole de protection des données permet de demander le retrait en urgence de contenus sexuels ou violents publiés sur Internet sans consentement. Mais l’Agence elle-même précise que ce dispositif ne peut pas être utilisé lorsque la diffusion a lieu sur des services de messagerie instantanée tels que WhatsApp ou Telegram — ce qui était le cas à Almendralejo. Et lorsqu’une image est parvenue sur des téléphones, des copies et des captures d’écran peuvent subsister même après sa disparition du site où elle avait été publiée.

Le 26 octobre, l’UNESCO a publié une note technique, Connected and safe, proposant des orientations aux systèmes éducatifs face aux violences facilitées par les technologies. Elle rappelle qu’environ un élève sur dix dans le monde a subi du cyberharcèlement ; que, dans 44 pays d’Europe, d’Asie centrale et d’Amérique du Nord, cette proportion est passée de 12 % à 15 % entre 2018 et 2022 ; et que les filles, les élèves en situation de handicap et les élèves LGBTI subissent des formes de préjudice différentes et souvent plus graves. L’UNESCO souligne également que la responsabilité est partagée : les entreprises technologiques, les plateformes et les autorités de régulation déterminent une grande partie des conditions dans lesquelles ces violences surviennent, et l’école ne peut résoudre seule ce qui se produit au moyen d’outils qu’elle ne contrôle pas. De son côté, en février, l’UNICEF saluait les équipes de développement qui intègrent la sécurité dès la conception, tout en avertissant que trop de modèles d’intelligence artificielle sont développés sans garanties suffisantes.

Une loi qui n’a pas abouti

En mars 2025, le gouvernement espagnol a présenté au Congrès un projet de loi organique sur la protection des personnes mineures dans les environnements numériques, examiné selon une procédure d’urgence. Parmi d’autres mesures, il proposait d’ajouter au Code pénal un article 173 bis prévoyant une peine d’un à deux ans de prison pour toute personne qui, sans autorisation et dans le but de porter atteinte à l’intégrité morale d’autrui, diffuserait des images ou des enregistrements vocaux générés ou manipulés par intelligence artificielle de manière à paraître réels, simulant des situations sexuelles ou gravement humiliantes. Lorsque la victime était mineure, la peine prévue allait de dix-huit mois à deux ans. L’exposé des motifs désignait ces contenus par le terme espagnol ultrafalsificaciones, ou « ultra-falsifications ». Le projet est resté plus de dix mois au stade du rapport de la commission de la Justice, avant de devenir caduc le 6 octobre 2026, avec la dissolution des Cortes en vue des élections du 29 novembre. Le projet de loi sur la gouvernance de l’intelligence artificielle a connu le même sort, comme le rapportait cette publication le 8 octobre. L’affaire d’Almendralejo a été jugée sur la base des infractions pénales déjà existantes et, tant qu’une réglementation spécifique ne sera pas adoptée, les affaires portées devant les tribunaux devront être examinées au regard de ces dispositions.

À l’approche du 25 novembre

Une grande partie du débat public sur la protection numérique des jeunes se concentre sur les restrictions d’accès aux téléphones portables et aux plateformes, ou sur la surveillance de leurs usages. On prête moins attention à ce que font les jeunes lorsqu’une telle image arrive sur leur téléphone. La personne qui la fabrique, celle qui la transfère, celle qui la reçoit et l’efface, et celle qui prévient la fille concernée ne portent pas la même responsabilité. Chaque décision peut être prise sous la pression du groupe, par peur d’être mis à l’écart ou en fonction des hiérarchies d’amitié et de popularité. L’anthropologie peut aider à comprendre les relations au sein de ces groupes, car elles influencent la circulation d’une image, les formes que prend l’humiliation et les possibilités d’y mettre fin.

Une autre question se pose : qui prend en charge la réparation, et comment ? À Almendralejo, ce sont les mères qui ont engagé les démarches de plainte. L’une d’elles, Miriam Al Adib, s’est rendue à Bruxelles à l’invitation d’un député européen membre de l’Intergroupe « Droits de l’enfant » du Parlement européen. Son intervention invite à s’interroger sur la répartition du travail d’accompagnement et de réparation entre les familles, les établissements scolaires et les institutions tenues d’y contribuer ; sur la part de cette charge qui repose sur les femmes ; et sur la place des filles elles-mêmes dans la définition de la réparation dont elles ont besoin. Effacer une image d’un téléphone ne garantit pas qu’elle cessera de circuler. Ce qui se passe ensuite dans la classe, au sein du groupe d’amis et à la maison influe aussi sur la durée du préjudice et exige des réponses de l’école, des familles, des jeunes et des institutions. Les 16 jours d’activisme contre les violences fondées sur le genre commencent le 25 novembre et se terminent le 10 décembre, Journée des droits de l’homme.

Sources

Temas