Huit Etats américains poursuivent OpenAI en justice pour des risques présumés liés à la sécurité de ChatGPT

Les procureurs généraux de huit Etats américains ont engagé mercredi des actions en justice distinctes contre OpenAI, accusant l'entreprise spécialisée dans l'intelligence artificielle de mettre en danger les enfants à travers son chatbot ChatGPT et d'induire les consommateurs en erreur quant à la sécurité du produit.

Ces actions ont été intentées de manière indépendante devant les tribunaux d'Etat par l'Iowa, le Kansas, le Nebraska, la Virginie-Occidentale, l'Arkansas, l'Arizona, l'Idaho et le Montana, dans le cadre d'une initiative juridique coordonnée et bipartite.

Selon les communiqués publiés par les procureurs généraux, OpenAI aurait conçu ChatGPT pour qu'il se montre excessivement conciliant et simule la compassion humaine, encourageant ainsi les utilisateurs à développer une confiance envers le modèle et à passer davantage de temps à interagir avec lui.

Les plaintes allèguent que ChatGPT peut renforcer des pensées irrationnelles, fournir des conseils médicaux dangereux et, dans certains cas, inciter les utilisateurs à se faire du mal ou à faire du mal à autrui.

Les Etats accusent OpenAI d'avoir induit les consommateurs en erreur quant à la sécurité de ChatGPT tout en omettant de divulguer de manière adéquate les risques connus, ce qui constituerait une violation présumée des lois étatiques sur la protection des consommateurs.

Les poursuites visent à obtenir des ordonnances judiciaires obligeant OpenAI à modifier le fonctionnement de ChatGPT et à renforcer la protection des utilisateurs, ainsi que des sanctions civiles et des dommages-intérêts.

Certaines des demandes judiciaires visent également à restreindre le développement de modèles d'IA capables d'autoamélioration, à moins que leur alignement sur les valeurs humaines ne puisse être démontré.

Le porte-parole d'OpenAI, Drew Pusateri, a déclaré que l'entreprise avait mis en place des mesures de sécurité adaptées à l'âge des utilisateurs, notamment des contrôles parentaux, des rappels de pause et des protections des modèles adaptées à l'âge.

L'entreprise continuera à travailler avec des experts pour renforcer les mesures de protection et coopérera avec les Etats pour élaborer des politiques en matière d'IA applicables à l'ensemble du secteur, a poursuivi M. Pusateri.

Cette action en justice coordonnée fait suite à une plainte déposée en juin par le procureur général de Floride concernant des risques présumés pour la sécurité liés à ChatGPT.