오픈AI의 다음 행보: Jev를 능가하는 내부 분류 능력 통합
OpenAI is well positioned to fast-follow Jev
Hacker News최근 주목받는 LLM 기반 분류 모델 Jev가 등장하며 AI 업계의 관심을 집중시켰으나, 전문가들은 오픈AI가 이를 단순 모방하는 것을 넘어 자체적으로 진화시킬 것이라 분석합니다.
- 오픈AI는 외부 도구 호출 방식 대신 새로운 내부 문법 태그를 도입하여, 모델이 추론 과정에서 직접 확률적 판단(분류)을 내리는 방식으로 기능을 통합할 것으로 예상됩니다.
- 이는 AI가 외부 시스템에 의존하지 않고도 질문의 진위 여부나 선택지를 즉각적으로 판단하게 하여, 빠르고 효율적인 차세대 에이전트 개발을 가능케 하는 핵심 변화입니다.
- Jev의 강점이 특화된 학습 데이터와 훈련 과정에 있을 수 있으나, 해당 기술이 실제 다양한 사용 사례에서 충분히 일반적이고 정확한 성능을 보장하는지가 가장 중요한 관건입니다.
최근 TypeSafe의 Jev와 같은 기반 분류 모델이 주목받으며 AI 업계에 큰 관심을 받고 있습니다. Jev는 질문 유형(예: `true`/`false`, 선택지)에 따라 단순히 다음 을 예측하는 것이 아니라, 모든 가능한 토큰에 대한 확률 분포를 계산하여 답변의 진위 여부나 상대적 가능성을 도출합니다. 이러한 방식은 LLM이 단순한 텍스트 생성을 넘어 정교한 분류 작업을 수행할 수 있음을 보여주었습니다.
오픈AI는 이미 도구 호출(Tool Calling) 기능을 통해 LLM을 암묵적인 분류기처럼 사용해 왔습니다. 모델이 어떤 도구를 사용할지, 그리고 그 도구의 인자 값은 무엇일지를 예측하는 과정 자체가 일종의 분류 작업입니다. 전문가들은 오픈AI가 단순히 Jev를 모방하기보다, 새로운 내부 문법 태그(예: `<prediction>`)를 도입하여 모델 스스로 추론 과정 내에서 확률적 판단을 수행하도록 기능을 통합할 것이라고 분석합니다.
이러한 방식은 기존의 도구 호출과 달리 외부 시스템에 의존하지 않고 모델 자체적으로 분류 결과를 생성한다는 특징이 있습니다. 일반적인 디코딩 과정이 다음 토큰을 예측하는 데 초점을 맞춘다면, 이 새로운 방법은 특정 위치에서 '질문의 참/거짓'이라는 명확한 목표를 가지고 로짓 값을 읽어내어 확률값으로 변환합니다. 이는 모델에게 외부 도구 사용 없이도 자체적으로 판단 능력을 부여하는 핵심 변화입니다.
Jev의 강점은 특화된 학습 데이터와 훈련 과정에 있을 수 있지만, 기술적 관점에서 볼 때 가장 중요한 요소는 '정확성'입니다. 아무리 뛰어난 아키텍처를 갖추더라도 실제 다양한 도메인과 사용 사례에서 충분히 일반적이고 정확한 성능을 보장하는지가 모델의 실질적인 가치를 결정할 것이라는 분석이 제기됩니다.
용어 풀이
- LLM
- 방대한 글을 학습해 문장을 이해하고 만들어 내는 AI 모델. ChatGPT, Claude, Gemini가 여기에 속해요.
- 토큰
- AI 모델이 글을 처리하는 단위. 단어보다 작은 조각이며 사용량과 요금을 셀 때 기준이 돼요.