활용 사례 연구
A Safety-Gated Multimodal AI Backend for Mental-Health Support: Hierarchical State Representation, Conservative Risk Fusion, and Controlled Generation in Anian
ARarXiv
Anian은 산과기 정신 건강 지원 및 마음챙김 개입 경로를 위한 안전 게이트가 적용된 멀티모달 AI 백엔드이다.
세 줄 요약
- 사용자 텍스트나 음성 기반 ASR 전사본을 L1 감정 상태, L2 심리사회적 구성체, L3 안전 위험, L4 개입 경로 네 계층에 매핑한다.
- 안전 위험이 중간 또는 높게 감지되면 일반 AI 생성 응답과 TTS 전달을 막고 고정된 안전 콘텐츠로 대체한다.
- 내부 프로토타입 평가에서 L1 감정 분류의 Micro-F1 점수는 0.9604였으며, 임상적 유효성이나 진단 정확도는 확립하지 않았다.
Anian은 산과기 정신 건강 지원 및 마음챙김 개입 경로를 위한 안전 게이트가 적용된 멀티모달 AI 백엔드이다.