- Plus
La Chine renforce la gouvernance des contenus générés par l'intelligence artificielle
 |
| Une exposition présentant des œuvres d'art générées par intelligence artificielle à Jinan, capitale de la province du Shandong (est de la Chine). (Xu Zhou / Pic.people.com.cn) |
Ce jour-là, Xiao Li, qui veut voyager dans un avenir proche, ouvre instinctivement une application à intelligence artificielle de renom pour obtenir des conseils. Comme d'habitude quand il utilise cette application, la réponse a été générée rapidement, mais cette fois, le texte s'est terminé par une phrase supplémentaire : « Cette réponse a été générée par l'intelligence artificielle. Le contenu est fourni pour référence uniquement. Veuillez vérifier les informations attentivement ».
Ces dernières années, de nouvelles technologies telles que l'intelligence artificielle générative et la synthèse profonde se sont développées rapidement, favorisant non seulement le développement économique, enrichissant les contenus en ligne et facilitant la vie publique, mais provoquant également dans le même temps des problèmes tels que la diffusion de fausses informations et de graves perturbations de l'écologie du réseau. Récemment, la Chine a publié des « mesures pour l'identification de contenus synthétiques générés par l'intelligence artificielle » (ci-après dénommées « Mesures pour la génération de contenu synthétique »), qui entreront en vigueur le 1er septembre 2025.
Selon un porte-parole de l'Administration nationale du cyberespace de Chine, ces « mesures d'identification » se concentrent sur les points clés de « l'identification des contenus synthétiques générés » par l'intelligence artificielle, rappelant aux utilisateurs la nécessité d'identifier les fausses informations grâce à des signes caractéristiques, clarifiant les responsabilités en matière d'identification et les obligations des prestataires de service concernés, régulant le comportement d'identification de la production et de la diffusion de contenus à toutes les étapes, améliorant ainsi la sécurité à un coût raisonnable et favorisant le développement sain et ordonné de l'intelligence artificielle.
Les « Règlements sur la gestion de la synthèse profonde des services d'information sur Internet » et d'autres réglementations ont précisé les obligations d'identification pour les fournisseurs de services de synthèse profonde. Un point majeur de ces « mesures logistiques » consiste à inclure les plateformes de communication dans le cadre de la supervision pour réaliser une gouvernance de bout en bout de contenus, de la génération à la communication.
« C'est une série télévisée avec une intrigue compacte et une personnalité distincte de chaque personnage. Elle nous permet de réfléchir profondément à la réalité sociale à travers des histoires indépendantes... ». Un jour, Xiao Tian a lu une critique de film sur une plate-forme de partage de connaissances. La critique du film avait toutefois été marquée en tête comme « suspectée d'être créée à l'aide de l'intelligence artificielle », et reçu une priorisation algorithmique substantiellement réduite dans les flux de recommandation.
Selon un porte-parole de la plate-forme, les règles de gouvernance communautaire de la plate-forme exigeaient déjà que les utilisateurs ajoutent activement une déclaration de création « comprenant des contenus créés avec l'aide de l'intelligence artificielle » s'ils publiaient des contenus utilisant la technologie de l'intelligence artificielle pour les aider dans leur création. Si ces mentions ne sont pas ajoutées par l'auteur lui-même et que la plate-forme détecte une utilisation de l'intelligence artificielle pour créer un contenu, il sera marqué, mis de côté ou même supprimé.
Les comportements de gouvernance comme celui de cette plate-forme bénéficieront d'un soutien juridique plus clair à l'avenir. Les mesures d'identification disposent que les fournisseurs de services qui offrent des services de diffusion de contenu d'informations sur le réseau doivent prendre les mesures suivantes pour normaliser la génération d'identifiants implicites de contenu synthétique: « Vérifiez si les métadonnées du fichier contiennent des identifiants implicites », « Si un identifiant explicite ou d'autres traces de génération de contenu synthétique est détecté, l'identifier comme probable contenu synthétique et prendre les mesures appropriées pour ajouter des mentions d'avertissement bien visibles autour du contenu publié afin de rappeler au public que le contenu est suspecté d'être un contenu synthétique »…
Selon Jin Bo, directeur adjoint du 3e Institut de recherche du ministère de la Sécurité publique, en outre, des dispositions claires ont été prises ; les principales dispositions définissent désormais explicitement les obligations pour les plateformes de distribution d'applications et les fournisseurs de services auxiliaires, établissant une gouvernance complète des écosystèmes couvrant la création de contenu, la modification et les processus de diffusion.
La distinction entre les « mentions explicites » et les « mentions implicites » qui doivent être ajoutés dans les contenus synthétiques générés est une autre caractéristique majeure des « mesures d'identification ». Parmi elles, les « mesures d'identification » précisent que l'identification implicite doit être ajoutée aux métadonnées du fichier qui génèrent des contenus synthétiques. L'identification implicite doit inclure des informations sur l'élément de production telles que les informations d'attribut du contenu synthétique généré, le nom ou le codage du fournisseur de services, ou encore le numéro de contenu.
À cet égard, Zhang Zhen, ingénieur principal au Centre de technologie d'urgence du réseau informatique national a expliqué que « en tant que document de support, la "méthode d'identification de contenu composite généré par intelligence artificielle de la technologie de sécurité du réseau" spécifie les éléments des champs d'identification implicite des métadonnées, intègre les champs nécessaires, enregistre les informations clés et les liens clés du contenu composite généré et garantit que le contenu peut toujours être retracé pendant le processus de circulation, tout en minimisant l'impact sur le traitement des métadonnées et leur diffusion ».
Les dispositions des clauses pertinentes sont également d'une importance positive pour favoriser l'utilisation pratique de l'intelligence artificielle et du développement innovant.
(Par Jin Xin, pour le Quotidien du Peuple)
 |
| Des images générées par intelligence artificielle affichées dans une station de métro de Nanjing, capitale de la province du Jiangsu (est de la Chine). (Wang Luxian / Pic.people.com.cn) |
