8월 DEFCON 31에서 테스트될 Microsoft, Google, OpenAI 등의 AI 시스템

제너레이티브 AI의 부상으로 인해 많은 사람들은 그들이 윤리적이고 책임감 있는 방식으로 행동하지 않을 것이라고 우려하고 있습니다. 실제로 Google의 최고 AI 연구원 중 한 명인 Geoffrey Hinton은 최근 AI의 잠재적 위험에 대해 자유롭게 세상에 경고할 수 있도록 회사를 떠났습니다 .

오늘 Kamala Harris 미국 부통령은 AI 개발 분야의 선두 기업인 Microsoft의 Satya Nadella, Google의 Sundar Pichai, OpenAI의 Sam Altman 및 Anthropic의 Dario Amodei의 CEO를 만날 예정입니다. 백악관은 참가자들이 AI 사용 증가와 “개인과 우리 사회에 대한 위험과 잠재적 피해를 완화하는 보호 장치를 통해 책임 있고 신뢰할 수 있으며 윤리적 혁신을 추진하는 것의 중요성”에 대해 논의할 것이라고 말했습니다.

Biden 행정부는 또한 Hugging Face, NVIDIA 및 Stability AI와 함께 이 4개 회사가 연례 DEFCON 해킹 컨퍼런스에서 AI 시스템을 테스트하는 데 모두 동의했다고 발표했습니다. DEFCON 31은 8월 10일부터 13일까지 라스베이거스에서 개최될 예정입니다. 백악관 보도 자료는 다음과 같이 말했습니다.

이 독립적인 연습은 이러한 모델의 영향에 대해 연구자와 대중에게 중요한 정보를 제공하고 AI 회사와 개발자가 해당 모델에서 발견된 문제를 수정하기 위한 조치를 취할 수 있도록 합니다. 정부 또는 AI 모델을 개발한 회사와 독립적인 AI 모델 테스트는 효과적인 평가에서 중요한 구성 요소입니다.

또한 미국 예산관리국(Office of Management and Budget)은 미국 정부가 AI를 어떻게 사용해야 하는지에 대한 정책 초안 문서를 작성하고 공개 의견 수렴을 위해 제공할 예정입니다. 또한 국립과학재단(National Science Foundation)은 7개의 새로운 국립 AI 연구소 자금 지원을 위해 1억 4천만 달러를 추가하여 해당 그룹의 수를 25개로 늘립니다.