리서치 연구
Position: Current Model Cards Are Insufficient for Downstream Governance of Open-Weight Foundation Models
ARarXiv
arXiv에 올라온 입장 논문은 오픈웨이트 기반 모델의 하위 거버넌스에 기존 모델 카드가 부족하다고 주장한다.
세 줄 요약
- 논문은 허깅페이스의 모델 카드 500개를 분석해 모델 카드, AUP, 라이선스를 통합하는 다층 거버넌스가 필요하다고 본다.
- 기존 모델 카드는 모델 계보, 정렬 출처, 관찰된 행동 같은 안전 정보를 충분히 전하지 못해 개발자와 사용자에게 공백을 남긴다.
- 표준 오픈소스 라이선스는 오픈웨이트 기반 모델에 잘 맞지 않고 AUP 강제력 약화 위험이 있어, 적용 조건을 함께 살펴볼 필요가 있다.
arXiv에 올라온 입장 논문은 오픈웨이트 기반 모델의 하위 거버넌스에 기존 모델 카드가 부족하다고 주장한다.