France : des experts recommandent de mieux encadrer l'IA générative

Une commission d'experts française a recommandé de renforcer l'encadrement de l'intelligence artificielle (IA) générative afin de prévenir ses risques potentiels pour les capacités cognitives, la santé mentale des individus et le fonctionnement de la société, a annoncé mardi la présidence française.

Intitulé "Protéger sans empêcher : les vulnérabilités à l'ère de l'IA générative", le rapport souligne que l'IA générative connaît une adoption rapide et massive, avec 33 millions d'utilisateurs uniques en France en début d'année. Pourtant, un quart des Français expriment des craintes quant à ses risques potentiels. Selon le rapport, un usage excessif de l'IA pourrait affaiblir les capacités cognitives des utilisateurs, favoriser leur attachement émotionnel à ces outils et amplifier les violences numériques.

Face à ces risques, la commission d'experts formule 18 recommandations, dont celle d'encadrer strictement, dès la conception des systèmes d'IA générative, les mécanismes de flagornerie ou d'anthropomorphisme excessifs, afin d'empêcher les entreprises d'exploiter les vulnérabilités psychologiques des utilisateurs à des fins commerciales.

Elle préconise également de conditionner la mise sur le marché des systèmes d'IA générative grand public à une évaluation pluridisciplinaire ex ante des risques. La commission recommande par ailleurs de former massivement à l'IA dès le plus jeune âge, afin de préparer une nouvelle génération capable à la fois de tirer le meilleur parti de cette technologie et de conserver son esprit critique.

Le rapport met également en garde contre les risques d'amplification de la désinformation et des manipulations de l'information par l'IA générative, susceptibles de menacer la démocratie et la cohésion sociale. La commission recommande à cet égard la mise en place d'un protocole interministériel de détection des risques et de réponse, pouvant être activé très rapidement.