금융 시계열 예측을 위한 이중 경로 언어 모델 'DualCast'
DualCast: A Dual-Path Language Model for Bimodal Financial Time-Series Forecasting
금융 시계열 예측을 위해 가격 변동성 분석과 실시간 뉴스 정보를 결합한 'DualCast'라는 이중 경로 언어 모델 프레임워크를 제안합니다.
이 모델은 단순히 가격 수치만 예측하는 것이 아니라, 실시간 뉴스 같은 비정형 텍스트 정보를 결합하여 금융 시장 분석의 신뢰도를 높일 가능성을 제시해요.
- DualCast는 빠른 수치 예측(Fast Path)과 선택적 뉴스 기반의 수정 예측(Slow Path/Reviser)을 결합하여 높은 정확도를 달성했습니다.
- 이 모델은 기존의 수치 예측 한계를 넘어 텍스트 기반 비정형 정보(뉴스 등)를 통합함으로써 금융 시장 분석의 신뢰도를 높일 가능성을 제시합니다.
- 최종 성능은 테스트된 자산군, 데이터 해상도, 그리고 뉴스 정보가 제공되는지 여부에 따라 달라질 수 있습니다.
DualCast는 금융 시계열 예측을 위해 개발된 이중 경로(dual-path) 언어 모델 프레임워크입니다. 이는 고정된 언어 모델에 이산적인 금융 어휘를 확장하여 사용하며, 각 로그 수익률 패치는 학습된 요약 과 세 개의 잔차 모양 토큰으로 표현됩니다. 이를 통해 지역적 변동성을 보존하면서도 자산 간 패턴 공유가 가능하게 합니다. 또한 재구성 정확도를 유지하는 적응형 주파수 평준화 잔차 벡터 기법을 개발했습니다.
모델은 빠른 경로(fast path)와 느린 경로(slow path)로 구성됩니다. 빠른 경로는 고정된 Qwen3-8B 백본 위에서 새로운 금융 토큰 과 출력 헤드만 훈련합니다. 선택적으로 활성화되는 느린 경로는 빠른 예측 결과와 예측 시점에 사용 가능한 뉴스를 조건으로 받아 수정된 예측을 생성할 수 있습니다. 이 수정자(reviser)는 지도 학습 으로 초기화되며, 반환 공간 그룹 상대 정책 최적화 목표를 통해 성능이 개선됩니다.
평가에 따르면, DualCast는 주식 및 에너지 가격 등 다양한 자산군과 다섯 분 단위, 일별, 주간 해상도에서 테스트되었습니다. 특히 느린 경로는 비교된 방법 중 12개 데이터셋-호라이즌 설정(가장 긴 호라이즌 포함) 중 8개에서 가장 낮은 평균 절대 백분율 오차를 달성했습니다. 뉴스 정보의 제거(ablations)는 대부분의 테스트 환경에서 추가적인 성능 향상을 보여주었으며, DualCast는 빠른 수치 예측과 선택적 텍스트 기반 수정 메커니즘을 결합합니다.
용어 풀이
- 토큰
- AI 모델이 글을 처리하는 단위. 단어보다 작은 조각이며 사용량과 요금을 셀 때 기준이 돼요.
- 양자화
- 모델 숫자의 정밀도를 낮춰 크기와 메모리 사용을 줄이는 기법. 품질이 조금 떨어질 수 있어요.
- 임베딩
- 글이나 이미지의 의미를 숫자 목록으로 바꾼 것. 의미가 비슷한 것을 찾을 때 써요.
- 미세 조정
- 이미 학습된 모델을 특정 목적의 데이터로 조금 더 학습시키는 일.
- 제로샷
- 예시를 하나도 주지 않고 바로 과제를 시키는 방식.
DualCast는 어떤 방식으로 금융 시계열을 예측하나요?
모델은 빠른 경로(fast path)를 통해 기본적인 수치 예측을 수행하고, 선택적으로 활성화되는 느린 경로(slow path)가 이 초기 예측 결과와 사용 가능한 뉴스 정보를 조건으로 받아 수정된 최종 예측값을 생성해요. 이를 통해 높은 정확도를 달성할 수 있어요.
이 모델의 성능을 높이는 핵심 요소는 무엇인가요?
DualCast는 빠른 수치 예측과 선택적인 텍스트 기반 수정 메커니즘을 결합하는 것이 특징이에요. 특히 뉴스 정보가 제거된 환경에서도 추가적인 성능 향상을 보여주어, 비정형 정보를 통합하는 것이 중요함을 입증했어요.
DualCast는 어떤 종류의 자산과 시간 단위에서 테스트되었나요?
주식 및 에너지 가격 등 다양한 자산군을 대상으로 평가가 진행되었어요. 테스트 해상도는 다섯 분 단위, 일별, 주간 등 여러 가지 설정에서 이루어졌습니다.