Vie privée / Surveillance

Enfants et numérique : le Défenseur des droits veut responsabiliser les adultes, mais ménage les plateformes

Pour la journée internationale des droits de l’enfant, le Défenseur des droits publie 25 recommandations et promet un « changement de paradigme ». Le rapport est pourtant bien plus prudent dès qu’il s’agit de la responsabilité des plateformes dans la diffusion de contenus pédocriminels générés par IA.

Enfants et numérique : le Défenseur des droits veut responsabiliser les adultes, mais ménage les plateformes
Enfants et numérique : le Défenseur des droits veut responsabiliser les adultes, mais ménage les plateformes — Child uses smartphone to play games at home closeup, Shixart1985 (Wikimedia Commons) (licence by)

Un rapport nourri par la parole de 2 700 jeunes

À l’occasion de la journée internationale des droits de l’enfant, le nouveau Défenseur des droits, François-Noël Buffet, a publié son rapport annuel consacré aux droits de l’enfant, placé cette année sous le signe du numérique. Comme le rapporte Next, le document s’appuie sur l’écoute de plus de 2 700 enfants et jeunes âgés de 3 à 25 ans.

L’ambition affichée est forte. Dans son éditorial, François-Noël Buffet estime qu’il ne s’agit plus seulement de mettre en garde les enfants contre les risques du numérique, ni de faire peser sur eux la charge de leur propre protection, mais d’exiger des adultes, des institutions et des acteurs économiques qu’ils construisent « un numérique digne et respectueux de l’enfance ».

Vingt-cinq recommandations

Le rapport formule 25 recommandations. L’une des plus concrètes consiste à imposer aux plateformes des politiques de confidentialité réellement compréhensibles par les jeunes, sur la base d’un référentiel national contraignant, afin de rendre le RGPD effectif pour les enfants. L’idée est juste : un consentement n’a aucun sens quand le texte auquel on consent est illisible.

D’autres propositions visent à encourager le développement de plateformes et d’outils numériques éthiques, ou à renforcer massivement les moyens de prévention et de soin en santé mentale pour les enfants et les jeunes.

Du côté de la responsabilisation des plateformes, le rapport propose de créer un fonds public de recherche indépendant sur les usages et les effets du numérique, qu’elles financeraient. Il recommande aussi de leur imposer la vérification de l’âge, de soumettre leurs algorithmes à l’intérêt supérieur de l’enfant et de renforcer la modération comme les sanctions.

Le point aveugle des contenus générés par IA

C’est sur un sujet précis que Next juge le rapport nettement moins radical que son éditorial : la responsabilité juridique des plateformes dans la diffusion de contenus pédocriminels générés par intelligence artificielle, alors que les affaires de deepfakes et les défaillances de modération ont marqué l’année.

Le constat dressé par le rapport est pourtant lucide. Le droit français réprime la détention et la diffusion de représentations sexuelles de mineurs, qu’elles soient réelles ou simulées, mais l’application de ces dispositions aux productions algorithmiques reste inégale. Le statut juridique de la victime d’un deepfake ou d’une image « dénudée » artificiellement demeure largement incertain. La reconnaissance du préjudice, la réparation de l’atteinte à l’image et à la dignité, le droit à un effacement effectif des contenus : autant de chantiers que le rapport dit ouverts et qui appellent, selon lui, une intervention résolue du législateur.

Les recommandations, elles, restent en retrait. Elles prévoient un mécanisme pérenne de veille et d’évaluation des risques émergents, associant autorités publiques, régulateurs et société civile, et demandent de garantir l’application effective des interdictions prévues par le règlement européen sur l’intelligence artificielle. Rien qui engage directement la responsabilité des services ayant produit ou laissé circuler ces images.

Un phénomène qui explose

L’ampleur du problème ne fait pourtant aucun doute. Lors de la deuxième conférence ministérielle mondiale sur l’élimination des violences faites aux enfants, organisée les 18 et 19 novembre à Manille, la haute-commissaire à l’Enfance, Sarah El Haïry, a rappelé que près de 500 000 signalements de contenus pédocriminels générés par IA avaient été recensés en 2025 par le NCMEC, l’organisation américaine de référence, soit une hausse de plus de 10 000 % en deux ans.

Elle a assuré que la France s’engageait à promouvoir des systèmes d’IA plus sûrs et respectueux des droits des enfants. Mais, relève Next, sa déclaration ne vise pas non plus explicitement la responsabilité des plateformes concernées.

Protéger les enfants sans surveiller tout le monde

Le changement de perspective défendu par le Défenseur des droits est le bon : ce n’est pas à un enfant de dix ans de se protéger seul d’un modèle économique fondé sur la captation de l’attention. Encore faut-il que les obligations tombent du bon côté.

À cet égard, la vérification de l’âge appelle la vigilance. Selon la manière dont elle est conçue, elle peut protéger les mineurs ou devenir un contrôle d’identité généralisé pour tous les internautes, adultes compris. Des politiques de confidentialité lisibles, des algorithmes encadrés et une modération dotée de moyens réels sont des pistes qui font porter l’effort sur les plateformes plutôt que sur leurs utilisateurs. C’est sur elles, et sur la question laissée en suspens des contenus générés par IA, que le législateur est désormais attendu.

D'après un article de Next.

À lire aussi