Engagées ensemble dans la prévention des violences faites aux mineurs, les associations Colosse aux pieds d’argile et Contre les Violences sur Mineurs ont uni de nouveau leurs expertises pour organiser un colloque consacré aux enjeux du numérique et de l’IA dans les pratiques professionnelles. Le 29 janvier dernier s’est tenu ce colloque réunissant plus de 140 professionnels, 9 intervenants, des lycéennes et des invités au siège de la mutuelle MGEN à Paris.
Cette journée d’exploration a permis de mieux comprendre les mutations en cours… et d’en faire des leviers d’action au service des missions de celles et ceux qui accompagnent les jeunes. Des éclairages d’experts, des apports chiffrés, des témoignages de terrain ont ponctué la journée pour :
- Décoder les usages numériques et les dynamiques liées à l’IA
- Anticiper et prévenir les dérives du numérique et de l’IA
- Agir et activer les opportunités offertes par l’IA
Il en est ressorti trois points principaux.
Tous les intervenants ont reconnu le paradoxe du numérique et de l’intelligence artificielle : ces technologies sont perçues à la fois comme un risque et un levier stratégique. En effet, elles transforment la vie des enfants et des adultes, créant une tension entre de nouveaux risques pour les jeunes et des opportunités inédites pour leur protection et leur éducation.
- La distinction entre IA décisionnelle (analyse), IA prédictive (anticipation) et IA générative (création) est clé pour comprendre le changement de paradigme.
- L’IA est un outil à double tranchant, qui amplifie les cyberviolences tout en offrant des moyens de prévention et de repérage précoce.
- L’espace virtuel est le prolongement de l’espace réel ; c’est ainsi que le cyberharcèlement est un continuum de violence avec des conséquences tangibles.
- La véritable expertise d’un outil se développe d’autant plus que la conscience de ses limites est aiguë.
- Les adolescents prennent peu à peu conscience des risques en ligne (harcèlement scolaire, revenge porn, chantage à la webcam, prédateurs, violences sexistes et sexuelles, exposition à des contenus violents et pornographiques, partage d’images, deepfakes, etc.) et deviennent plus vigilants. Mais ils sous-estiment les risques liés à leurs données personnelles (usurpation d’identité, images floutées, conservation des données de navigation, confidentialité, etc.) et à leur santé mentale (isolement, suicide, dépression, baisse de l’attention, addiction, gestion des limites, mal-être…). Ils perçoivent quelque peu certains risques cognitifs (perte de la pensée critique, ennui, mémorisation…) et éthiques (droits d’auteur, conséquences environnementales…) et rarement le besoin de déconnexion.
- L’usage de l’IA par les jeunes est répandu mais souvent superficiel.
- L’adoption de l’IA par les professionnels de l’enfance est plutôt perçue comme lente et prudente, en raison des risques et de l’absence de cadres éthiques clairs.
« L’IA et le numérique transforment nos pratiques professionnelles. Ils peuvent être des outils puissants de prévention, de protection et d’accompagnement — ou devenir des espaces de risques majeurs pour les enfants. »
Les intervenants ont également insisté sur la nécessité d’une refonte pédagogique et de gouvernance. En effet, l’intégration de l’IA et du numérique impose une réinvention des méthodes éducatives et la mise en place d’un cadre de gouvernance clair pour sécuriser son usage par les jeunes.
- La stratégie pédagogique doit intégrer l’IA comme un objet d’étude pour développer la pensée critique des élèves, par exemple en faisant corriger des productions de l’IA par les élèves. L’IA peut être un puissant outil de réduction des inégalités scolaires en agissant comme un tuteur patient et toujours disponible.
- Le fossé des “digital natives” s’estompe, car adultes et adolescents apprennent simultanément à maîtriser l’IA. Il est impératif de former non seulement les jeunes à un usage critique et sûr du numérique (“littératie de l’IA”), mais aussi les adultes – parents et professionnels – dont le rôle d’exemplarité est crucial.
- La priorité est d’établir des garde-fous éthiques clairs, pas d’interdire, tout en réaffirmant la primauté du jugement humain.
- Une régulation plus claire et stricte, comme des limites d’âge pour les réseaux sociaux ou le respect de la protection des données personnelles, est jugée essentielle pour protéger la santé mentale et physique des enfants. La volonté et la responsabilité des plateformes numériques (GAFAM) en matière de cadre sont également questionnées par les intervenants, et ce malgré les cadres réglementaires (RGPD, DSA). Le scepticisme demeure quant aux garanties des fournisseurs d’IA, donc l’utilisation d’outils sécurisés ou de modèles locaux est préconisée.
- Le principal obstacle à un numérique plus sûr est économique, les plateformes favorisant les contenus qui maximisent l’attention.
« L’impact du numérique vient tout à fait concerner l’action de protection des mineurs. Aujourd’hui, je ne peux plus ignorer que cet outil existe et faire comme si il n’existait pas. »
Enfin, un consensus fort émerge parmi les intervenants qui ont souligné à nombreuses reprises la place du lien humain dans leurs pratiques professionnelles.
- L’IA et le numérique peuvent libérer les professionnels de l’enfance de certaines tâches administratives (par exemple, avec des outils sécurisés comme Copilot), faciliter l’accès à de la documentation pour mieux répondre à certaines questions posées par les jeunes, analyser des données (études d’impact).
- Le numérique et l’IA ne remplaceront jamais la relation humaine entre les professionnels et les jeunes : l’écoute, l’expertise, la disponibilité et l’engagement des professionnels de la protection de l’enfance, du soin et de l’éducation. L’IA doit rester un outil complémentaire au service de cette relation.
- Avant d’échanger entre jeunes ou avec des adultes dans le réel, certains jeunes abordent ou creusent d’abord en ligne des sujets pour lesquels ils souhaitent des réponses précises (par exemple, la santé sexuelle). Ces aller-retours entre humain et machine ne posent pas de souci particulier, quand le besoin du jeune est clair.
Ce colloque, qui a bénéficié de trois hauts patronages*, a croisé les regards de représentants institutionnels (MGEN, Haute-Commissaire à l’enfance), de chercheurs, de professionnels de l’éducation, de professionnels de la protection de l’enfance, des experts techniques et des représentants d’associations.
Grâce aux riches échanges entre ces intervenants d’horizon varié et avec le public, cette journée a permis aux professionnels de l’enfance de passer de la crainte à la compréhension, de transformer l’incertitude en la conviction de faire du numérique et de l’IA des alliés, et aussi de les penser comme une complémentarité de leurs pratiques.
*Ces trois hauts patronages proviennent du ministère chargé de l’intelligence artificielle et du numérique, du ministère de la santé, des familles, de l’autonomie et des personnes handicapées, et de la Haute-commissaire à l’Enfance.
