Une commission d'experts remet mardi à Emmanuel Macron 18 propositions pour répondre aux risques soulevés par l'essor de l'intelligence artificielle générative, parmi lesquelles l'encadrement de l'anthropomorphisme et de la flagornerie, une meilleure protection des mineurs et l'évaluation des modèles avant leur mise sur le marché.
Popularisée par des agents conversationnels comme ChatGPT d'OpenAI, Gemini de Google ou Claude d'Anthropic, l'IA générative est désormais utilisée par plus de la moitié des Français, plaçant la France au cinquième rang mondial des usages, selon ce rapport. Près de 70% des 15-24 ans y ont recours régulièrement.
Cette commission de neuf experts, baptisée "IA générative et vulnérabilités", avait été chargée par le gouvernement d'examiner les risques et les vulnérabilités engendrés par les usages grand public de ces outils, notamment pour la santé mentale des plus jeunes.
Les conclusions de ce rapport, que l'AFP a pu consulter, interviennent après 55 auditions de professionnels de santé, de la recherche, d'entreprises du secteur numérique ou encore d'associations de protection de l'enfance.
Les experts soulèvent dans ce rapport plusieurs risques liés à l'utilisation des IA génératives notamment "d'ordre cognitif" avec la "délégation de fonctions cérébrales essentielles", comme la réflexion, la prise de décision ou l'esprit critique.
"Le premier enjeu est l'affaiblissement cognitif. C'est attractif, on y délègue des compétences. Puisqu'on y délègue des compétences, on ne les acquiert pas. C'est une problématique pour les jeunes, mais c'est une problématique pour tous", explique le professeur de psychiatrie Raphaël Gaillard, coprésident de cette commission.
Les auteurs soulignent un "risque de dépendance" émotionnelle lié notamment à "l'anthropomorphisation" des IA qui ont tendance à se présenter comme des interlocuteurs humains et à la "flagornerie", consistant à valider ou flatter l'utilisateur parfois au détriment de la vérité.
Parmi les principales recommandations, la commission appelle ainsi à mieux encadrer ces mécanismes pour préserver "l'autonomie décisionnelle", la santé mentale des utilisateurs et la loyauté des interactions.
Ils préconisent aussi de développer une politique nationale ambitieuse d'éducation à l'IA pour permettre à chacun d'en maitriser les usages et les risques, et renforcer l'esprit critique.
Parmi les autres mesures proposées figurent des évaluations indépendantes avant et après la mise sur le marché des systèmes d'IA générative, l'accès des autorités et chercheurs agréés aux données d'entraînement, d'usage et de monétisation des modèles.
Les experts, qui estiment également que l'IA générative a accéléré les violences numériques, notamment les deepfakes, recommandent de "renforcer la répression de la création de contenus à caractère sexuel non consentis et pédocriminels" générés par intelligence artificielle.
zl/jlo/hj