Los sistemas de IA de Microsoft, Google, OpenAI y otros se probarán en DEFCON 31 en agosto

El auge de la IA generativa está causando que muchas personas se preocupen por no comportarse de manera ética y responsable. De hecho, uno de los investigadores de IA de más alto rango de Google, Geoffrey Hinton, dejó recientemente la empresa para poder advertir al mundo sobre los peligros potenciales de la IA.

Hoy, la vicepresidenta de EE. UU., Kamala Harris, se reunirá con los directores ejecutivos de cuatro de las empresas líderes en el desarrollo de IA: Satya Nadella de Microsoft, Sundar Pichai de Google, Sam Altman de OpenAI y Dario Amodei de Anthropic. La Casa Blanca dice que los participantes discutirán el uso creciente de la IA y «la importancia de impulsar una innovación responsable, confiable y ética con salvaguardas que mitiguen los riesgos y los daños potenciales para las personas y nuestra sociedad».

La Administración Biden también anunció que esas cuatro empresas, junto con Hugging Face, NVIDIA y Stability AI, acordaron que sus sistemas de IA se probaran en la conferencia anual de hacking DEFCON. DEFCON 31 está programado para realizarse en Las Vegas del 10 al 13 de agosto. El comunicado de prensa de la Casa Blanca decía:

Este ejercicio independiente proporcionará información crítica a los investigadores y al público sobre los impactos de estos modelos, y permitirá que las empresas y desarrolladores de IA tomen medidas para solucionar los problemas encontrados en esos modelos. La prueba de modelos de IA independientes del gobierno o de las empresas que los han desarrollado es un componente importante en su evaluación efectiva.

Además, la Oficina de Administración y Presupuesto de EE. UU. creará un borrador de documento para una política sobre cómo el gobierno de EE. UU. debe usar la IA y lo ofrecerá para comentario público. Además, la Fundación Nacional de Ciencias agregará $ 140 millones para la financiación de siete nuevos Institutos Nacionales de Investigación de IA, lo que elevará el número de esos grupos a 25.