미술관 데이터를 활용한 VLM 편향성 감사 연구
Disentangling Algorithmic Bias from Archival Artifacts: A Controlled Audit of Vision-Language Model Valuation in Metropolitan Museum Archives
arXiv연구진은 메트로폴리탄 미술관의 역사적 예술 작품 데이터를 활용하여 비전-언어 모델(VLM)이 내포한 사회적 편향성을 감사하는 실험을 진행했습니다.
- 분석 결과, 작가 성별이나 매체 같은 단일 요인만으로는 모델 편향성이 유의미하지 않았으며, 광범위한 점수 측정은 근본적으로 거친 수준임이 밝혀졌습니다.
- 따라서 문화유산 분야에서 AI 공정성을 평가하려면 단순 테스트를 넘어 복합 변수 통제와 자료의 출처(provenance) 검증이 필수적임을 시사합니다.
- 다만, 거시적 평가는 미세한 시각적 편향을 놓칠 수 있고, 원본 데이터 제외가 연구 결과에 영향을 줄 수 있다는 한계도 지적됩니다.
본 연구는 비전-언어 모델()의 사회적 편향성을 감사하기 위해 메트로폴리탄 미술관 오픈 액세스 컬렉션의 역사적 예술 작품 메타데이터를 활용했습니다. 총 1,500개의 객체와 그중 743개의 속성 지정 작품을 대상으로 했으며, 연구진은 세 가지 의미론적 쌍(masterpiece, quality, influence)에 걸쳐 CLIP 로짓 차분 점수를 평가하는 정량적 감사 프레임워크를 구축했습니다.
초기 분석 결과, OpenAI CLIP이나 OpenCLIP 모델을 사용했을 때 작가 성별과 같은 단일 요인만으로는 통계적으로 유의미한 주된 성별 효과가 나타나지 않았습니다. 또한 다변량 OLS 회귀분석에서 작품 매체, 제작 시대, 종횡비 등을 통제했음에도 불구하고 작가의 성별은 통계적으로 유의미한 조건부 영향을 보이지 않았습니다.
연구진은 광범위한 제로샷 평가 지표가 노이즈 플로어 근처에서 작동하는 거친 측정 도구임을 보여주었습니다. 따라서 문화유산 컬렉션에서 AI 공정성을 평가하기 위해서는 다변량 교란 변수 통제, 동등성 테스트, 그리고 자료의 출처(provenance) 감사와 같은 복합적인 검증 과정이 필수적임을 강조했습니다.
용어 풀이
- VLM
- 이미지와 글을 함께 이해하는 모델.
- 프롬프트
- AI에게 주는 지시나 질문 글.
- 제로샷
- 예시를 하나도 주지 않고 바로 과제를 시키는 방식.
- 임베딩
- 글이나 이미지의 의미를 숫자 목록으로 바꾼 것. 의미가 비슷한 것을 찾을 때 써요.