OpenAI, 1~5단계의 새로운 AI 역량 척도 출시

BloomBerg 에 따르면 OpenAI는 대규모 언어 모델의 인공 일반 지능(AGI)으로의 진행 상황을 측정하기 위한 내부 척도를 개발했습니다 . 이 5단계 분류 시스템은 전체 회의에서 직원들과 공유되었으며, 향후 투자자와 외부 당사자에게 공개될 예정입니다. 이 척도는 AI 역량의 발전을 추적하는 프레임워크 역할을 하며 인간 수준의 인공 지능을 달성하기 위한 로드맵을 제공합니다.

5단계

1. 레벨 1: 현재 대화형 AI 시스템(예: ChatGPT)

   • 인간과 대화형으로 상호작용할 수 있는 AI를 의미합니다.
   • OpenAI는 현재 모델이 이 수준에 있다고 믿습니다.

2. 2단계: 박사 수준의 기본 문제를 해결할 수 있는 AI

   • “리저너”라고 불린다
   • 외부 도구에 접근하지 않고도 박사급 교육을 받은 인간과 동등한 문제를 해결할 수 있습니다.
   • OpenAI는 이 수준에 접근하고 있습니다

3. 레벨 3: 사용자를 대신해 작업을 수행할 수 있는 AI 에이전트

   • “에이전트”로 명명됨
   • 사용자를 대신하여 며칠 동안 활동 가능
   • AI 자율성에서 큰 도약을 나타냅니다

4. 4단계: 새로운 혁신을 창출할 수 있는 AI

   • “혁신가”로 불림
   • 창의적인 문제 해결 능력과 새로운 아이디어를 창출하는 능력을 보여줍니다.

5. 5단계: 사람들의 조직과 동등한 업무를 수행할 수 있는 AI

   • “조직”이라고 함
   • 인간의 조직 능력을 잠재적으로 능가하는 최고 수준의 AI 역량을 나타냅니다.

OpenAI의 AGI 정의

• 고도로 자율적인 시스템
• 경제적으로 가치 있는 작업에서 인간을 능가합니다.
• OpenAI의 사명은 AGI가 인류 전체에게 이익이 되도록 하는 것입니다.
• 회사는 AGI 개발과 관련된 잠재적인 이점과 위험을 모두 인정합니다.

키 포인트

• OpenAI는 현재 레벨 2로 진행 중입니다.
• 회사는 AGI를 먼저 달성하는 경우 다른 일치 프로젝트를 지원하겠다고 약속했습니다.
• AGI 달성에 대한 전문가의 예측은 매우 다양합니다.
• 샘 알트먼은 2023년 10월에 “약 5년 정도”라고 추정했습니다.
• 분류 시스템은 진행 중인 작업으로 간주되며 피드백을 기반으로 조정될 수 있습니다.

최근 개발

• 로스앨러모스 국립연구소와의 파트너십 발표
• 목표: GPT-4와 같은 고급 AI 모델이 과학 연구에 어떻게 기여할 수 있는지 조사합니다.
• 목표: 미국 정부의 AI 역량 및 안전성을 평가하기 위한 프레임워크 개발
• OpenAI는 인간과 유사한 추론 능력을 보여주는 GPT-4와 관련된 연구 프로젝트를 시연했습니다.

도전과 우려

• AGI 실현에는 상당한 컴퓨팅 파워 투자가 필요하며 잠재적으로 수십억 달러의 비용이 듭니다.
• OpenAI는 2024년 5월 안전팀을 해체했습니다.
• 안전보다 ‘화려한 제품’ 우선시 우려 제기
• AGI 달성 기준을 결정하는 방법에 대한 AI 커뮤니티 내 토론

산업 관점

• Google DeepMind와 같은 다른 회사들은 AI 기능을 평가하기 위한 유사한 프레임워크를 제안했습니다.
• AI 산업은 자율주행차 자동화 수준을 평가하기 위한 자동차 산업 시스템과 유사점을 찾고 있습니다.
• Amazon Web Services의 Matt Wood와 같은 전문가들은 AI가 아직 기하급수적 성장 단계에 도달하지 않았다고 제안합니다.

이 확장된 프레젠테이션에서는 OpenAI의 AI 전력 측정 시스템에 대한 보다 포괄적인 개요와 인공 일반 지능 개발에 미치는 영향을 제공합니다.

출처: TheVerge