개발도구 도구
텍스트 기반의 구조화된 의사결정 모델 Nimble 소개
bespokelabsai/nimble
GitHubBespoke Nimble은 주어진 텍스트와 질문 구조(스키마)를 기반으로, 선택지나 참/거짓 여부를 결정하는 '유형화된 판단'을 수행하는 전문 의사결정 모델입니다.
세 줄 요약
- 답변 토큰에만 LoRA로 파인튜닝한 독자적인 방식을 적용하여 높은 정확도를 확보했으며, 복잡한 추론 과정 없이 매우 빠르게 구조화된 출력을 제공합니다.
- 요청 경로 지정, 조건 검사, 정책 적용 등 비즈니스 로직이 필요한 자동화 영역에서 신뢰성 높은 의사결정 엔진으로 활용될 수 있습니다.
- 현재는 텍스트 입력만 가능하며 자유 형식의 설명 생성은 불가능하고, 제시된 확률값은 정답을 보장하지 않으므로 반드시 자체 검증 과정이 필요합니다.
Nimble은 주어진 텍스트와 스키마(질문 목록)를 바탕으로 선택지나 참/거짓 여부를 결정하는 '유형화된 판단'을 수행하는 전문 의사결정 모델입니다. 이 모델은 추론 과정을 거치지 않고 한 단계에서 결정을 내리므로 매우 빠르며, 요청 경로 지정, 조건 검사, 정책 적용 등 비즈니스 로직이 필요한 자동화 영역에 활용될 수 있습니다.
Bespoke-Nimble-9B는 Qwen3.5-9B를 기반으로 하며, 답변 에만 방식으로 되었습니다. 이 모델은 324개의 검증 예시에서 기준 레이블의 90.1%와 일치하는 성능을 보였으며, 이는 기본 모델(66.4%) 대비 향상된 수치입니다.
현재 Nimble은 텍스트 입력만 처리할 수 있으며, 이미지 같은 다른 종류의 입력을 판단하는 것은 불가능합니다. 또한, 모델이 자체적으로 설명을 생성하거나 중첩된 JSON을 반환할 수 없으며, 제시되는 확률값은 정답을 보장하지 않으므로 사용자는 반드시 자체 검증 과정을 거쳐야 합니다. 는 최대 2,048 토큰으로 제한됩니다.
용어 풀이
- 토큰
- AI 모델이 글을 처리하는 단위. 단어보다 작은 조각이며 사용량과 요금을 셀 때 기준이 돼요.
- LoRA
- 모델 전체 대신 작은 추가 부분만 학습시켜 적은 비용으로 미세 조정하는 기법.
- 파인튜닝
- 이미 학습된 모델을 특정 목적의 데이터로 조금 더 학습시키는 일.
- 프롬프트
- AI에게 주는 지시나 질문 글.