Peut-être vous attendiez-vous, en ces beaux jours de printemps, à un sujet guilleret sur la sexualité des Américains, comme par exemple l’initiative lancée en 1995 par la boutique érotique Good Vibrations de San Francisco, pour faire de mai, le « Mois de la masturbation ». Il y a même un jour qui lui est dédié : le 7 de ce mois.

Mais une actualité plus sérieuse nous a incité à pousser la porte du Bureau ovale, rien que ça, pour nous saisir de l’un des innombrables dossiers empilés sur la table du président. Un projet de loi titré « Take It Down Act » que la première dame, Melania Trump, a fortement poussé. Elle n’attend plus que la signature de son époux. De quoi s’agit-il ? Une loi visant à lutter contre la diffusion de montages réalistes créés par l’intelligence artificielle qui placent des personnes réelles dans une scène sexuelle sans leur consentement (deepfakes).

Vous n’avez aucune idée de ce que peut être un « deepfake » ? Vous n’êtes pas le ou la seule : en France, une personne sur deux l’ignore aussi. Aux États-Unis, c’est 42%. Le sujet peut paraître marginal. Il ne l’est pas. Si vous avez des enfants, il faudra probablement que vous en parliez avec eux.

Qui sont les victimes ?

Selon cette étude, 1 jeune sur 17 (6%) a déjà fait l’objet d’un deepfake pornographique le visant personnellement et utilisé comme moyen de cyberharcèlement dans les écoles. La plupart du temps, ni les victimes, ni les parents, ni les établissements ne savent comment réagir. Le New York Times rend compte de quelques rares écoles ayant pris le sujet au sérieux avec l’exclusion définitive ou temporaire des auteurs. Mais les cas sont rares.

À l’automne dernier, par exemple, les parents de victimes – deux sœurs de 14 et 15 ans – ont dû faire appel à un enquêteur privé pour mener une investigation dans un lycée près de Seattle. Interrogée sur l’absence de signalement de l’incident à la police, la directrice adjointe a répondu « qu’elle ne savait pas quoi signaler ». Pourtant, la loi est claire : les écoles ont pour obligation de dénoncer les abus sexuels, y compris le matériel utilisé. Finalement, l’établissement a rendu compte de l’incident aux services de protection de l’enfance. Si le projet de loi « Take it Down Act » est signé par le président, il est fort probable que l’interdiction de création et de diffusion de deepkakes soit intégrée dans le règlement de toutes les écoles américaines.

Comment réagir ?

Les réponses des victimes au harcèlement consistent, dans la plupart des cas, à bloquer le harceleur sur les réseaux et à le signaler. Ce qui ne fait pas disparaître les images pour autant. C’est ce que la loi voudrait changer en exigeant des plateformes qu’elles suppriment les deepfakes sous 48 heures. Mais une fraction non négligeable (16%) des victimes n’a sollicité aucune aide, indiquant n’avoir pas su comment agir. Ce chiffre fait écho aux difficultés bien connues en matière d’abus sexuel : la honte, la peur de ne pas être cru, la culpabilité ou la crainte du jugement social agissent comme des freins.

Qui sont les auteurs ?

N’imaginez pas que les auteurs de deepfakes soient d’anonymes hackers agissant dans l’ombre d’un sous-sol situé à l’autre bout du monde. Il s’agit bien de nos enfants, des garçons dans la majorité des cas qui, bien que reconnaissant la gravité de leurs gestes, sont tentés par la simplicité des manipulations d’images. Le procédé est souvent le même : le garçon demande à la fille un accès à son compte privé sur Instagram. À partir de là, il récupère des photos de sa victime et, via une application disponible sur n’importe quel store, génère depuis son téléphone et, en un seul clic, des photos-montages d’un réalisme confondant. Ce faisant, et comme il s’agit de mineurs, l’IA contribue à créer tous les jours des images pédocriminelles. Ensuite, les deux tiers des auteurs partagent leurs deepfakes, soit avec un camarade d’école (un tiers), aux contacts de son compte, même inconnus (25%) et/ou à sa victime (25%).

Que dit la loi ?

Jusqu’à présent, les réponses légales n’ont eu aucun effet. Pourtant, si une vingtaine d’États ont adopté des lois sanctionnant la diffusion de deepfakes non consensuels, leur application est inégale. Au niveau fédéral, le ministère de l’Éducation a émis des directives générales sur l’IA, mais sans mesures spécifiques pour gérer les incidents liés aux deepfakes. Cette disparité crée un vide juridique qui rend difficiles la protection des victimes et la poursuite des auteurs. Le « Take It Down Act » viendrait combler ce vide en réclamant notamment de deux à trois années de prison pour les auteurs.

Le président signera-t-il cette nouvelle loi ? Des associations de défense des libertés s’y opposent. Comment les plateformes pourront-elles faire la différence entre un deepfake consenti et un autre qui ne l’est pas dans les 48h après son signalement ? Quoi qu’il en soit et si l’on suit le site Politico qui qualifie d’« épidémique » le phénomène dans les collèges et lycées, les parents et les écoles devront rapidement en faire un sujet de discussion avec les enfants.