Microsoft et OpenAI poursuivis pour 3 milliards de dollars pour violation de la vie privée avec ChatGPT

Microsoft et OpenAI ont été poursuivis par seize personnes qui affirment que les entreprises ont utilisé des données personnelles sans autorisation pour former leurs modèles d’intelligence artificielle (IA).

Le procès de 157 pages (via The Register ) a été déposé par les individus par l’intermédiaire du cabinet d’avocats Clarkson devant le tribunal fédéral de San Francisco, en Californie, le 28 juin. Le procès allègue que Microsoft et OpenAI ont utilisé des données pour former ChatGPT sans consentement, préavis adéquat ou paiement pour lesdites données.

Malgré les protocoles établis pour l’achat et l’utilisation des informations personnelles, les défendeurs ont adopté une approche différente : le vol. Ils ont systématiquement récupéré 300 milliards de mots sur Internet, « des livres, des articles, des sites Web et des publications – y compris des informations personnelles obtenues sans consentement ». OpenAI l’a fait en secret et sans s’enregistrer en tant que courtier de données comme il était tenu de le faire en vertu de la loi applicable.

Le procès parle en outre de la vie privée des individus car il note que les données utilisées par OpenAI contenaient des informations sur les croyances, les habitudes de lecture, les loisirs, les données de transaction et de localisation, les journaux de discussion, etc.

Alors que les innombrables informations personnelles que les Accusés recueillent sur les Utilisateurs peuvent être utilisées pour fournir des réponses personnalisées et ciblées, elles peuvent également être utilisées à des fins extrêmement néfastes, telles que le suivi, la surveillance et la criminalité. Par exemple, si ChatGPT a accès à l’historique de navigation, aux requêtes de recherche et à la géolocalisation d’un utilisateur, et combine ces informations avec ce que le défendeur OpenAI a secrètement extrait d’Internet, les défendeurs pourraient créer un profil détaillé des modèles de comportement des utilisateurs, y compris, mais sans s’y limiter où ils vont, ce qu’ils font, avec qui ils interagissent et quels sont leurs intérêts et leurs habitudes. Ce niveau de surveillance et de contrôle soulève des questions éthiques et juridiques vitales concernant la confidentialité, le consentement et l’utilisation des données personnelles. Il est crucial que les utilisateurs soient conscients de la manière dont leurs données sont collectées et utilisées,

Non seulement cela, mais le procès visait également l’approche d’OpenAI en matière de dissimulation des informations personnelles identifiables (PII). Plus tôt cette année, The Register a publié un rapport faisant la lumière sur le plan d’OpenAI pour empêcher la fuite de PII lors de l’utilisation de ChatGPT. Selon le rapport, OpenAI venait de mettre en place un filtre de contenu qui empêcherait l’IA de cracher des informations privées comme les numéros de téléphone et les informations de carte de crédit.

En ce qui concerne les informations personnellement identifiables, les défendeurs ne réussissent pas suffisamment à les filtrer des modèles de formation, ce qui expose des millions de personnes au risque de voir ces informations divulguées rapidement ou autrement à des étrangers dans le monde entier.

Enfin, le procès allègue également que Microsoft et OpenAI ont violé l’Electronic Privacy Communications Act en obtenant et en utilisant illégalement des informations confidentielles. En outre, les plaignants ont également allégué que Microsoft avait violé la loi sur la fraude et les abus informatiques en interceptant les communications entre les services tiers/intégrations ChatGPT.

Le procès en général est plein de citations de chercheurs, d’universitaires, de journalistes et d’autres qui ont sonné l’alarme dans le passé concernant l’utilisation des réseaux de neurones et de l’IA. Cependant, le dossier est léger sur la façon dont l’utilisation de l’information et les cas de préjudice qu’elle a causés valent 3 milliards de dollars de dommages et intérêts.

Ce n’est pas la première fois que Microsoft est critiqué pour avoir abusé de données ou les avoir utilisées sans le consentement approprié. Le mois dernier, Twitter a envoyé un avis à Microsoft alléguant que la société avait utilisé les données de Twitter sans consentement . OpenAI, d’autre part, avait sa propre part de problèmes. En mars, la société a signalé une violation qui a divulgué des informations de paiement partielles des utilisateurs de ChatGPT. Plus tôt ce mois-ci, les données de compte de plus de 100 000 utilisateurs de ChatGPT ont été divulguées et vendues sur le dark web .