Qwen3.5 기반, 다중 모드 추론 모델 'openjev'
AlexWortega/openjev
Hugging FaceQwen3.5를 기반으로 개발된 'openjev'는 전제와 가설을 비교하여 모순, 함의, 중립 세 가지로 판단하는 크로스 인코더 모델입니다.
- 특히 v5 버전은 폐쇄된 선택지 집합에 대한 확률적 결정(typed decisions)을 지원하며, 최신 v2 모델은 이미지와 텍스트를 모두 처리하는 멀티모달 능력을 갖췄습니다.
- 이 모델은 단순 분류를 넘어, 답변의 신뢰도 평가나 실시간 게임 상태 분석 등 복잡하고 구조화된 추론 기반 AI 시스템 구축에 핵심적인 역할을 합니다.
- 다만, 특정 작업(예: 보안 검토)을 위해 훈련되지 않았고 프롬프트 주입 공격에 취약하므로, 안전한 시스템 구축 시에는 반드시 추가적인 방어 장치가 필요합니다.
openjev는 Qwen3.5를 기반으로 개발된 크로스 인코더 모델입니다. 이 모델은 주어진 전제(premise)와 가설(hypothesis)을 입력받아, 세 가지 범주인 함의(entailment), 모순(contradiction), 중립(neutral) 중 하나를 판단합니다. 이러한 기본적인 추론 원리는 답변 순위 재조정, 기준 대비 평가, 콘텐츠 보호 등 다양한 구조화된 추론 작업에 활용될 수 있습니다.
최신 버전인 openjev-4B v5는 '유형화된 결정(typed decisions)'을 지원하는 것이 특징입니다. 이는 폐쇄된 선택지 집합과 그 규칙을 입력받아 각 옵션에 대한 확률 분포를 계산하며, 이 과정은 옵션의 순서와 무관하게 작동합니다. 또한, 4B v2 체크포인트는 텍스트뿐만 아니라 이미지를 읽도록 학습되었으며, Doom이나 Minecraft 같은 환경에서 시각적 정보를 활용한 추론이 가능함을 보여줍니다.
모델을 사용하기 위해서는 `transformers` 라이브러리를 통해 원하는 체크포인트를 로드해야 하며, `predict`, `rerank`, `predict_hypotheses` 등의 함수를 사용하여 추론을 수행할 수 있습니다. 다만, openjev는 모든 작업에 대해 훈련된 것이 아니며(예: 보안 검토), 주입 공격에 취약하므로 안전한 시스템 구축 시에는 반드시 추가적인 방어 장치가 필요합니다.
용어 풀이
- 프롬프트
- AI에게 주는 지시나 질문 글.