모델 연구
Why Better Models Can Create Riskier Systems: Evidence from LLM Agents in Financial Markets
ARarXiv
금융 시장 시뮬레이션 결과, 개별 AI 모델의 능력이 좋아질수록 시스템 전체에 새로운 구조적 위험이 발생할 수 있음을 발견했습니다.
세 줄 요약
- 고성능 LLM들은 동일한 아키텍처와 데이터를 공유하며 유사한 행동 패턴(상관관계)을 보이고, 이는 시장의 리스크를 효과적으로 분산시키지 못합니다.
- 이 연구는 '능력 역설(Capability Paradox)'을 제시합니다. 즉, 개별 모델의 지능적 발전이 반드시 시스템 전체의 효율성이나 안정성을 담보하지 않음을 시사합니다.
- 특히 에이전트들이 오정보(misinformation)를 공유하는 환경에서는 상관관계가 큰 리스크 요인이 되므로, 데이터의 신뢰성 확보가 중요합니다.
금융 시장 시뮬레이션 결과, 개별 AI 모델의 능력이 좋아질수록 시스템 전체에 새로운 구조적 위험이 발생할 수 있음을 발견했습니다.