클라우드플레어의 오픈소스 의사결정 모델 'Clef' 공개
Clef: our open-source decision models
클라우드플레어가 에이전트의 의사결정을 돕는 오픈소스 결정 모델 'Clef'와 'Clef-flash'를 공개했습니다. 이 모델은 복잡한 상황에서 구조화된 확률적 출력을 빠르고 일관되게 제공하는 것이 핵심입니다.
이 모델은 사람이 개입하지 않아도 에이전트가 문맥을 파악하고 스스로 의사결정을 내리며 복잡한 작업을 자동 실행하는 워크플로우 구축을 가능하게 해요.
- 일반 LLM 대비 월등히 낮은 지연 시간과 높은 정확도를 자랑하며, 텍스트뿐 아니라 이미지를 포함한 다양한 입력에 대해 판단 근거를 제시할 수 있습니다.
- 이 기술은 사람이 개입하지 않아도 에이전트가 문맥을 파악하고 스스로 의사결정을 내리며 복잡한 작업을 자동 실행하는 강력한 워크플로우 구축을 가능하게 합니다.
- 모델은 오픈소스로 공개되어 접근성이 높으며, 저지연 환경에 최적화된 Clef-flash 버전과 기업 맞춤형 파인튜닝 서비스도 제공됩니다.
의사결정 모델은 가 특정 확률에 기반하여 어떻게 행동할지 분류하는 역할을 합니다. 예를 들어, 고객 지원 메시지를 입력하면 해당 요청이 긴급한지 여부와 어떤 팀이 처리해야 하는지 등 유형화된 답변과 확률을 출력합니다. 이 기능 덕분에 사람이 개입하지 않아도 에이전트가 문맥을 파악하고 스스로 결정을 내리거나 작업을 실행할 수 있게 됩니다.
클라우드플레어는 의사결정 모델인 Clef와 Clef-flash를 공개하며, 이는 일반 과 달리 구조화된 출력을 빠르고 일관되게 생성하는 것이 특징입니다. 이 모델은 이미지 같은 시각적 콘텐츠도 입력받아 분류할 수 있는 비전 인코더를 갖추고 있으며, 64k의 을 제공합니다. 실제 테스트 사례에서 Clef는 일반 LLM 대비 낮은 지연 시간과 높은 결과를 보여주었습니다.
Clef 모델은 Workers AI에 호스팅되어 클라우드플레어의 에지 를 활용함으로써 네트워크 지연 시간을 줄이고 빠른 의사결정을 가능하게 합니다. 또한, Clef-Flash 버전은 특히 지연 시간에 민감한 결정에 적합하며, 사용자는 필요에 따라 서비스를 통해 특정 워크로드에 맞게 모델을 조정할 수 있습니다.
용어 풀이
- 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
- LLM
- 방대한 글을 학습해 문장을 이해하고 만들어 내는 AI 모델. ChatGPT, Claude, Gemini가 여기에 속해요.
- 컨텍스트 창
- 모델이 한 번에 읽고 참고할 수 있는 입력의 최대 길이. 보통 토큰 수로 나타내요.
- GPU
- 많은 계산을 한꺼번에 처리하는 칩. AI 학습과 실행에 가장 많이 써요.
- 파인튜닝
- 이미 학습된 모델을 특정 목적의 데이터로 조금 더 학습시키는 일.
일반 LLM과 비교했을 때 Clef 모델의 가장 큰 특징은 무엇인가요?
Clef는 일반 LLM과 달리 구조화된 출력을 빠르고 일관되게 생성하는 것이 특징이에요. 또한 이미지 같은 시각적 콘텐츠도 입력받아 분류할 수 있는 비전 인코더를 갖추고 있고 64k의 컨텍스트 창을 제공해요.
Clef 모델이 빠른 의사결정을 할 수 있는 기술적 배경은 무엇인가요?
Clef 모델은 Workers AI에 호스팅되어 클라우드플레어의 에지 GPU를 활용해요. 이를 통해 네트워크 지연 시간을 줄이고 빠른 의사결정을 가능하게 해요. 또한, 지연 시간에 민감한 결정에는 Clef-Flash 버전이 적합하며 사용자는 필요에 따라 파인튜닝 서비스를 이용할 수 있어요.
이 의사결정 모델은 어떤 상황에서 활용될 수 있나요?
예를 들어, 고객 지원 메시지를 입력하면 해당 요청이 긴급한지 여부와 어떤 팀이 처리해야 하는지 등 유형화된 답변과 확률을 출력할 수 있어요. 이 기능 덕분에 사람이 개입하지 않아도 에이전트가 스스로 결정을 내리거나 작업을 실행할 수 있게 돼요.