OpenAI, 1~5단계의 새로운 AI 역량 척도 출시

2024/07/13

BloomBerg 에 따르면 OpenAI는 대규모 언어 모델의 인공 일반 지능(AGI)으로의 진행 상황을 측정하기 위한 내부 척도를 개발했습니다 . 이 5단계 분류 시스템은 전체 회의에서 직원들과 공유되었으며, 향후 투자자와 외부 당사자에게 공개될 예정입니다. 이 척도는 AI 역량의 발전을 추적하는 프레임워크 역할을 하며 인간 수준의 인공 지능을 달성하기 위한 로드맵을 제공합니다.

5단계

레벨 1: 현재 대화형 AI 시스템(예: ChatGPT)
- 인간과 대화형으로 상호작용할 수 있는 AI를 의미합니다.
- OpenAI는 현재 모델이 이 수준에 있다고 믿습니다.
2단계: 박사 수준의 기본 문제를 해결할 수 있는 AI
- “리저너”라고 불린다
- 외부 도구에 접근하지 않고도 박사급 교육을 받은 인간과 동등한 문제를 해결할 수 있습니다.
- OpenAI는 이 수준에 접근하고 있습니다
레벨 3: 사용자를 대신해 작업을 수행할 수 있는 AI 에이전트
- “에이전트”로 명명됨
- 사용자를 대신하여 며칠 동안 활동 가능
- AI 자율성에서 큰 도약을 나타냅니다
4단계: 새로운 혁신을 창출할 수 있는 AI
- “혁신가”로 불림
- 창의적인 문제 해결 능력과 새로운 아이디어를 창출하는 능력을 보여줍니다.
5단계: 사람들의 조직과 동등한 업무를 수행할 수 있는 AI
- “조직”이라고 함
- 인간의 조직 능력을 잠재적으로 능가하는 최고 수준의 AI 역량을 나타냅니다.

OpenAI의 AGI 정의

고도로 자율적인 시스템
경제적으로 가치 있는 작업에서 인간을 능가합니다.
OpenAI의 사명은 AGI가 인류 전체에게 이익이 되도록 하는 것입니다.
회사는 AGI 개발과 관련된 잠재적인 이점과 위험을 모두 인정합니다.

키 포인트

OpenAI는 현재 레벨 2로 진행 중입니다.
회사는 AGI를 먼저 달성하는 경우 다른 일치 프로젝트를 지원하겠다고 약속했습니다.
AGI 달성에 대한 전문가의 예측은 매우 다양합니다.
샘 알트먼은 2023년 10월에 “약 5년 정도”라고 추정했습니다.
분류 시스템은 진행 중인 작업으로 간주되며 피드백을 기반으로 조정될 수 있습니다.

최근 개발

로스앨러모스 국립연구소와의 파트너십 발표
목표: GPT-4와 같은 고급 AI 모델이 과학 연구에 어떻게 기여할 수 있는지 조사합니다.
목표: 미국 정부의 AI 역량 및 안전성을 평가하기 위한 프레임워크 개발
OpenAI는 인간과 유사한 추론 능력을 보여주는 GPT-4와 관련된 연구 프로젝트를 시연했습니다.

도전과 우려

AGI 실현에는 상당한 컴퓨팅 파워 투자가 필요하며 잠재적으로 수십억 달러의 비용이 듭니다.
OpenAI는 2024년 5월 안전팀을 해체했습니다.
안전보다 ‘화려한 제품’ 우선시 우려 제기
AGI 달성 기준을 결정하는 방법에 대한 AI 커뮤니티 내 토론

산업 관점

Google DeepMind와 같은 다른 회사들은 AI 기능을 평가하기 위한 유사한 프레임워크를 제안했습니다.
AI 산업은 자율주행차 자동화 수준을 평가하기 위한 자동차 산업 시스템과 유사점을 찾고 있습니다.
Amazon Web Services의 Matt Wood와 같은 전문가들은 AI가 아직 기하급수적 성장 단계에 도달하지 않았다고 제안합니다.

이 확장된 프레젠테이션에서는 OpenAI의 AI 전력 측정 시스템에 대한 보다 포괄적인 개요와 인공 일반 지능 개발에 미치는 영향을 제공합니다.

출처: TheVerge