Sistemas de IA da Microsoft, Google, OpenAI e outros serão testados no DEFCON 31 em agosto

A ascensão da IA ​​generativa está fazendo com que muitas pessoas se preocupem com o fato de não se comportarem de maneira ética e responsável. De fato, um dos pesquisadores de IA de mais alto escalão do Google, Geoffrey Hinton, recentemente deixou a empresa para poder alertar o mundo sobre os perigos potenciais da IA.

Hoje, a vice-presidente dos EUA, Kamala Harris, se reunirá com os CEOs de quatro das principais empresas no desenvolvimento de IA: Satya Nadella, da Microsoft, Sundar Pichai, do Google, Sam Altman, da OpenAI, e Dario Amodei, da Anthropic. A Casa Branca diz que os participantes discutirão o uso crescente de IA e “a importância de conduzir inovações responsáveis, confiáveis ​​e éticas com salvaguardas que mitiguem riscos e possíveis danos aos indivíduos e à nossa sociedade”.

A administração Biden também anunciou que essas quatro empresas, juntamente com Hugging Face, NVIDIA e Stability AI, concordaram em testar seus sistemas de IA na conferência anual de hackers DEFCON. O DEFCON 31 está programado para ser realizado em Las Vegas de 10 a 13 de agosto. O comunicado de imprensa da Casa Branca afirmou:

Este exercício independente fornecerá informações críticas aos pesquisadores e ao público sobre os impactos desses modelos e permitirá que empresas e desenvolvedores de IA tomem medidas para corrigir os problemas encontrados nesses modelos. O teste de modelos de IA independente do governo ou das empresas que os desenvolveram é um componente importante em sua avaliação efetiva.

Além disso, o Escritório de Administração e Orçamento dos EUA criará um documento preliminar para uma política sobre como o governo dos EUA deve usar a IA e o oferecerá para comentários públicos. Além disso, a National Science Foundation adicionará US$ 140 milhões para o financiamento de sete novos Institutos Nacionais de Pesquisa em IA, o que elevará o número desses grupos para 25.