리서치 연구
확산 모델의 다중 모달리티 적대적 공격 및 방어 연구 조사
A Survey on Adversarial Attacks and Defenses for Diffusion Models Across Multiple Modalities
arXiv확산 모델(Diffusion Model)의 오용 위험에 대응하기 위해, 이미지, 비디오, 3D 등 다중 시각 모달리티 전반의 적대적 공격 및 방어 기술을 총망라한 최초의 종합 분석 자료입니다.
세 줄 요약
- 기존 연구를 단순히 나열하는 것을 넘어, 모달리티-공격/방어 유형-생성 작업 순으로 체계적인 분류법(taxonomy)을 제시하고 평가 지표까지 통합 분석했습니다.
- 폭발적으로 성장하는 생성형 AI 시대에, 모델의 취약점을 체계적으로 이해하고 방어 전략을 수립하는 데 필수적인 학술적 로드맵을 제공합니다.
- 광범위한 학술 검토를 통해 현재 기술의 현황을 정리하고, 앞으로 해결해야 할 미해결 과제와 연구 방향까지 제시하는 심층적인 문헌입니다.
(Diffusion models)은 시각 영역에서 지배적인 생성형 모델로 자리 잡았으나, 광범위한 공개 사용으로 인해 대규모 오용 위험이 커지고 있습니다. 본 문헌은 이러한 문제에 대응하기 위해 이미지, 비디오, 3D 등 세 가지 시각 모달리티 전반의 적대적 공격 및 방어 기술을 총망라하여 최초로 통합적인 검토를 제공합니다.
연구는 포괄적이고 작업 중심적인 분류 체계(taxonomy)를 제시합니다. 문헌을 먼저 모달리티별로 나누고, 각 모달리티 내에서 방법을 공격과 방어로 분리하며, 최종적으로 목표하는 생성 작업에 따라 그룹화하여 시간 순서대로 정리했습니다.
또한, 평가 환경에 대한 심층적인 분석도 제공하는데, 이를 통해 사용된 데이터셋, 지표(metrics), 를 통합적으로 정리합니다. 마지막으로 저자들은 현재 남아있는 미해결 과제와 구체적인 미래 연구 방향을 제시하며 논문을 마무리하고 있습니다.
용어 풀이
- 확산 모델
- 잡음에서 시작해 조금씩 다듬으며 이미지나 영상을 만들어 내는 생성 모델.
- 벤치마크
- 모델 성능을 같은 조건에서 비교하려고 만든 시험 문제 모음.