개발도구 뉴스
Instagram’s AI detection is a mess (again)
TVThe Verge AI
인스타그램의 'AI 콘텐츠' 라벨링 시스템이 오작동하며 사용자들에게 혼란을 주고 있습니다. 생성형 AI가 아닌 단순 배경 제거 등 사소한 편집만 거친 원본 사진에 라벨이 붙는 오류가 빈번하게 보고되고 있습니다.
세 줄 요약
- 핵심 문제는 시스템이 일반적인 이미지 보정 과정과 실제 생성형 AI 사용 여부를 정확히 구분하지 못한다는 점입니다. 이로 인해 콘텐츠의 진위 판별 기준 자체가 모호해지면서 신뢰도가 크게 떨어졌습니다.
- 플랫폼 차원에서 라벨링 기준 및 작동 원리에 대한 투명한 가이드라인 제시가 시급합니다. 현재는 사용자가 어떤 기준으로 AI 여부를 판단해야 할지 알기 어려운 상황입니다.
- 메타 측은 시스템의 구체적인 검사 기준을 공개하지 않고 있습니다. 테스트 결과, 자체 생성형 AI를 거친 이미지만이 비교적 확실하게 라벨링되는 것으로 확인되어 의문이 남습니다.
인스타그램의 'AI 콘텐츠' 라벨링 시스템이 오작동하며 사용자들에게 혼란을 주고 있습니다. 생성형 AI가 아닌 단순 배경 제거 등 사소한 편집만 거친 원본 사진에 라벨이 붙는 오류가 빈번하게 보고되고 있습니다.