다국어 비생성형 의사결정 모델 Laya 소개
convaiinnovations/laya
Hugging FaceLaya는 텍스트 생성이 없는 비생성형 모델로, 입력된 상태와 질문을 기반으로 다국어 환경에서 구조화된 의사결정(분류/점수)을 빠르고 정확하게 수행합니다.
- 내장된 '라우터' 기능이 입력 언어와 스크립트를 자동으로 감지하여, 최적의 전문 모델을 선택하고 단일 패스로 결과를 도출하는 것이 핵심입니다.
- 콜센터 문의 분류 등 구조화된 판단이 필요한 비즈니스 워크플로우에서 환각 위험 없이 높은 신뢰성과 운영 효율성을 확보할 수 있습니다.
- 기본 성능도 우수하지만, 특정 도메인에 최적화된 정확도를 얻으려면 자체 데이터를 활용하여 모델을 미세 조정(Fine-tuning)하는 과정이 필수적입니다.
Laya는 텍스트를 생성하지 않는(non-autoregressive) 다국어 시스템 1 의사결정 모델입니다. 이 모델은 입력된 상태(state, 예: 텍스트, JSON)와 구조화된 질문들을 기반으로 작동하며, 단일 순방향 패스(single forward pass)를 통해 수학적으로 보정된 확률을 가진 유형별 답변을 반환합니다. Laya는 콜센터 문의 분류 등처럼 위험 없이 정확한 구조적 판단이 필요한 비즈니스 워크플로우에 적합하도록 설계되었습니다.
Laya 사용 시에는 내장된 '라우터' 기능을 사용하는 것이 권장됩니다. 이 라우터는 입력된 상태의 스크립트와 언어를 자동으로 감지하며, 최적화된 전문 모델을 선택하여 단일 패스로 결과를 도출합니다. 예를 들어, 영어 체크포인트가 비라틴어 스크립트에 실패하는 경우(Khmer 점수 0.000), 라우터는 이를 감지하고 다국어 체크포인트로 자동 전환하여 높은 신뢰성을 유지합니다.
모델의 성능을 극대화하기 위해, 특정 도메인에 맞는 데이터셋으로 (Fine-tuning)하는 것이 중요합니다. 기본 영어 체크포인트가 0.362의 정확도를 보였던 반면, 자체적으로 미세 조정된 체크포인트는 해당 결정 워크플로우에서 0.766의 높은 정확도를 기록했습니다. 또한, `laya-multilingual` 모델은 최대 8,192 까지 처리할 수 있어 장문 문서 분석에도 활용 가능합니다.
용어 풀이
- 환각
- AI가 사실이 아닌 내용을 그럴듯하게 지어내는 현상.
- 미세 조정
- 이미 학습된 모델을 특정 목적의 데이터로 조금 더 학습시키는 일.
- 토큰
- AI 모델이 글을 처리하는 단위. 단어보다 작은 조각이며 사용량과 요금을 셀 때 기준이 돼요.