微軟、谷歌、OpenAI 和其他公司的 AI 系統將於 8 月在 DEFCON 31 上進行測試

生成式人工智能的興起讓許多人擔心他們不會以道德和負責任的方式行事。事實上，谷歌最高級別的人工智能研究人員之一杰弗里辛頓最近離開了公司，這樣他就可以自由地警告世界人工智能的潛在危險。

今天，美國副總統卡馬拉哈里斯將與人工智能開發領域四家領先公司的首席執行官會面：微軟的 Satya Nadella、谷歌的 Sundar Pichai、OpenAI 的 Sam Altman 和 Anthropic 的 Dario Amodei。白宮表示，與會者將討論人工智能的日益廣泛使用，以及“通過保障措施來推動負責任、值得信賴和符合道德的創新的重要性，以減輕對個人和社會的風險和潛在危害。”

拜登政府還宣布，這四家公司以及 Hugging Face、NVIDIA 和 Stability AI 都同意在年度 DEFCON 黑客大會上測試他們的人工智能係統。DEFCON 31 定於 8 月 10 日至 13 日在拉斯維加斯舉行。白宮新聞稿稱：

這種獨立的演習將為研究人員和公眾提供有關這些模型影響的關鍵信息，並將使人工智能公司和開發人員能夠採取措施解決這些模型中發現的問題。獨立於政府或開發它們的公司測試人工智能模型是其有效評估的重要組成部分。

此外，美國管理和預算辦公室將製定一份關於美國政府應如何使用人工智能的政策文件草案，並將公開徵求意見。此外，美國國家科學基金會將增加 1.4 億美元用於資助七個新的國家人工智能研究所，這將使這些團體的數量達到 25 個。