La FTC enquête sur OpenAI pour fuite de données et inexactitude de ChatGPT

La Federal Trade Commission a ouvert une vaste enquête sur OpenAI, cherchant à déterminer si le fabricant du populaire robot ChatGPT a enfreint les lois sur la protection des consommateurs en mettant en danger la réputation et les données personnelles.

L'agence a envoyé cette semaine à la société de San Francisco une demande de 20 pages pour obtenir des informations sur la manière dont elle gère les risques liés à ses modèles d'IA, selon un document examiné par le Washington Post. Cette salve représente la menace réglementaire la plus puissante à ce jour pour les activités d'OpenAI aux États-Unis, alors que la société se lance dans une offensive de charme mondiale pour façonner l'avenir de la politique en matière d'intelligence artificielle.

Les analystes ont qualifié ChatGPT d'OpenAI d'application grand public connaissant la croissance la plus rapide de l'histoire, et ses premiers succès ont déclenché une course aux armements parmi les entreprises de la Silicon Valley pour déployer des chatbots concurrents. Le directeur général de l'entreprise, Sam Altman, est devenu une figure influente dans le débat sur la réglementation de l'IA, témoignant au Capitole, dînant avec les législateurs et rencontrant le président Biden et le vice-président Harris.

Les Big Tech avançaient avec prudence en matière d’IA. Puis est venu ChatGPT.

Mais aujourd’hui, l’entreprise est confrontée à un nouveau test à Washington, où la FTC a émis de multiples avertissements selon lesquels les lois existantes sur la protection des consommateurs s’appliquent à l’IA, alors même que l’administration et le Congrès peinent à définir de nouvelles réglementations. Le chef de la majorité au Sénat, Charles E. Schumer (DN.Y.), a prédit qu’une nouvelle législation sur l’IA serait d’ici quelques mois.

Les exigences de la FTC envers OpenAI sont la première indication de la manière dont elle entend appliquer ces avertissements. Si la FTC constate qu'une entreprise enfreint les lois sur la protection des consommateurs, elle peut imposer des amendes ou soumettre une entreprise à un jugement de consentement, qui peut dicter la manière dont l'entreprise traite les données. La FTC est devenue le principal flic du gouvernement fédéral dans la Silicon Valley, imposant de lourdes amendes à Meta, Amazon et Twitter pour des violations présumées des lois sur la protection des consommateurs.

La FTC a demandé à OpenAI de fournir des descriptions détaillées de toutes les plaintes qu'elle avait reçues concernant ses produits faisant des déclarations « fausses, trompeuses, désobligeantes ou préjudiciables » à l'égard des personnes. La FTC enquête pour savoir si l'entreprise s'est livrée à des pratiques déloyales ou trompeuses ayant entraîné une « atteinte à la réputation » des consommateurs, selon le document.

La FTC a également demandé à l'entreprise de fournir des enregistrements relatifs à un incident de sécurité que l'entreprise a révélé en mars lorsqu'un bug dans ses systèmes a permis à certains utilisateurs de voir des informations relatives au paiement, ainsi que certaines données de l'historique de discussion d'autres utilisateurs. La FTC cherche à savoir si les pratiques de sécurité des données de l'entreprise violent les lois sur la protection des consommateurs. OpenAI a déclaré dans un article de blog que le nombre d'utilisateurs dont les données ont été révélées à quelqu'un d'autre était « extrêmement faible ».

La FTC a refusé de commenter. Le PDG d'OpenAI, Sam Altman, a déclaré jeudi soir dans un tweet que la société travaillerait « bien sûr » avec l'agence.

"[I]t est très décevant de voir la demande de la FTC commencer par une fuite et ne contribue pas à instaurer la confiance", a-t-il tweeté. "[C]ela dit, il est très important pour nous que [notre] technologie soit sûre et favorable au consommateur, et nous sommes convaincus que nous respectons la loi."

Altman a également déclaré que la société protège la vie privée des utilisateurs et conçoit ses systèmes « pour en savoir plus sur le monde, et non sur les particuliers ».

La nouvelle de l'enquête a éclaté peu de temps avant que la présidente de la FTC, Lina Khan, ne fasse face à une audience combative jeudi devant le comité judiciaire de la Chambre, où les législateurs républicains ont analysé son bilan en matière d'application et l'ont accusée de mauvaise gestion de l'agence. Les projets ambitieux de Khan visant à contrôler la Silicon Valley ont subi des pertes importantes devant les tribunaux. Mardi, un juge fédéral a rejeté la tentative de la FTC de bloquer l'accord de 69 milliards de dollars conclu par Microsoft pour racheter la société de jeux vidéo Activision.

Au cours de l'audience, le représentant Dan Bishop (RN.C.) a demandé à Khan quelle autorité légale autorisait la FTC à formuler de telles exigences à l'égard d'une entreprise comme OpenAI, dans le cadre d'une enquête plus large visant à déterminer si la FTC de Khan outrepassait ses pouvoirs. Il a noté que la diffamation et la diffamation sont généralement poursuivies en vertu des lois des États, une référence aux questions posées par la FTC à OpenAI sur le dénigrement des personnes.