Les systèmes d’IA de Microsoft, Google, OpenAI et autres seront testés au DEFCON 31 en août

L’essor de l’IA générative fait craindre à de nombreuses personnes de ne pas se comporter de manière éthique et responsable. En effet, l’un des chercheurs les plus éminents de Google en matière d’IA, Geoffrey Hinton, a récemment quitté l’entreprise afin de pouvoir être libre d’avertir le monde des dangers potentiels de l’IA.

Aujourd’hui, le vice-président américain Kamala Harris rencontrera les PDG de quatre des principales sociétés de développement de l’IA : Satya Nadella de Microsoft, Sundar Pichai de Google, Sam Altman d’OpenAI et Dario Amodei d’Anthropic. La Maison Blanche indique que les participants discuteront de l’utilisation croissante de l’IA et de « l’importance de favoriser une innovation responsable, digne de confiance et éthique avec des garanties qui atténuent les risques et les dommages potentiels pour les individus et notre société ».

L’administration Biden a également annoncé que ces quatre sociétés, ainsi que Hugging Face, NVIDIA et Stability AI, ont toutes accepté de faire tester leurs systèmes d’IA lors de la conférence annuelle sur le piratage DEFCON. DEFCON 31 devrait se tenir à Las Vegas du 10 au 13 août. Le communiqué de presse de la Maison Blanche a déclaré:

Cet exercice indépendant fournira des informations essentielles aux chercheurs et au public sur les impacts de ces modèles, et permettra aux entreprises et aux développeurs d’IA de prendre des mesures pour résoudre les problèmes rencontrés dans ces modèles. Le test des modèles d’IA indépendamment du gouvernement ou des entreprises qui les ont développés est un élément important de leur évaluation efficace.

En outre, le Bureau américain de la gestion et du budget créera un projet de document pour une politique sur la manière dont le gouvernement américain devrait utiliser l’IA, et le proposera au public pour commentaires. De plus, la National Science Foundation ajoutera 140 millions de dollars pour le financement de sept nouveaux instituts nationaux de recherche sur l’IA, ce qui portera le nombre de ces groupes à 25.