강화학습 기반 멀티모달 허위 정보 검증 에이전트 'MM-VeriAgent'
MM-VeriAgent: Learning to Use Extensive Tools to Verify Multimodal Misinformation with Reinforcement Learning
arXivMM-VeriAgent는 복합적인 출처가 혼합된 멀티모달 허위 정보(미스인포메이션)를 검증하는 새로운 AI 에이전트입니다.
- 텍스트, 시각 등 전문 도구 모음(MM-VeriTools)을 구축하고 강화학습으로 사용법을 학습시켰으며, 효율성을 위해 '도구 실행 캐시'를 도입했습니다.
- 기존 방식의 한계를 넘어 여러 출처가 혼합된 복잡한 가짜 콘텐츠까지 높은 정확도로 검증하여 허위 정보 탐지 분야의 신뢰도를 높입니다.
- 다양하고 전문적인 도구들의 조합을 사용하므로, 광범위하고 복합적인 유형의 위변조 콘텐츠를 포괄적으로 테스트하는 것이 중요합니다.
MM-VeriAgent는 복합적인 출처가 혼합된 허위 정보(misinformation)를 검증하기 위해 개발된 입니다. 기존의 도구 증강 방식은 미리 정의된 워크플로우에 의존하거나 추론 시점에 계획을 세워 적응성이 제한적이었습니다. 이를 해결하고자, 연구진은 텍스트, 비주얼, 교차 모달 위변조 분석을 위한 전문적인 도구 모음인 MM-VeriTools를 구축하고, 이 도구를 활용하여 검증하는 에이전트를 학습시켰습니다.
이 시스템은 (RL)을 통해 LVLM 에이전트가 여러 전문 도구를 사용하는 방법을 학습합니다. 특히, 모든 도구가 온라인으로 실행될 경우 RL 효율성이 크게 떨어지는 문제를 해결하기 위해 '도구 실행 캐시(Tool-Execution Cache)'를 도입했습니다. 이는 후보 도구 호출 결과를 미리 실행하고 훈련 중 재사용함으로써 다단계 롤아웃을 유지하면서도 온라인 도구 실행을 줄여줍니다.
실험 결과, MMFakeBench에서 테스트했을 때 MM-VeriAgent는 명시적인 도구 검색 없이도 기본 모델 대비 상당한 정확도 향상을 보였습니다. 또한, 제거 분석(Ablation analysis)을 통해 학습된 도구 사용 정책의 유효성을 입증했으며, Tool-Execution Cache가 훈련 중 온라인 도구 실행 횟수를 줄이는 효과를 보여주었습니다.
용어 풀이
- 멀티모달
- 글뿐 아니라 이미지·음성·영상처럼 여러 형태의 입력을 함께 다루는 것.
- AI 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
- 강화학습
- 행동의 결과에 보상을 주면서 더 나은 행동을 익히게 하는 학습 방법.