LLM 기반 개념 통합을 통한 모바일 센싱 데이터 예측 모델
Explainable Prediction from Mobile Sensing Data through LLM-guided Concept Integration
arXiv모바일 센싱 데이터는 건강 패턴 분석에 유용하지만, 소규모 코호트 연구에서는 예측 정확도와 해석 가능성 확보가 어려운 한계가 있었습니다.
- 본 연구는 대규모 언어모델(LLM)을 활용하여 개념 이상 징후를 자동으로 포착하고, 이를 트랜스포머 구조에 통합한 CIT 모델을 개발했습니다.
- 이 모델은 높은 예측 성능을 달성했을 뿐만 아니라, 수면 패턴 변화 등 임상적으로 해석 가능한 구체적인 행동 및 생리적 통찰력을 제공합니다.
- 결과적으로 LLM 기반의 개념 통합 접근 방식은 데이터가 제한적인 소규모 코호트 환경에서도 정확하고 신뢰도 높은 건강 예측을 가능하게 합니다.
모바일 센싱 데이터는 일상생활에서의 행동 및 생리 패턴 장기 모니터링에 활용되지만, 소규모 코호트 건강 감지 연구에서는 과제별 결과 감독이 제한적인 반면 이질적인 센싱 데이터를 다루기 때문에 정확한 예측과 해석 가능성 확보가 어렵다는 한계가 있습니다. 본 연구는 이러한 문제를 해결하기 위해 대규모 언어모델()을 활용하여 개념 이상 징후를 포착하고, 이를 구조에 통합한 Concept-Integrated Transformer (CIT) 모델을 개발했습니다.
CIT 모델은 수동적인 개념 주석 없이 사전 학습된 LLM을 사용하여 기준선 인식 개념 이상 목표(baseline-aware concept abnormality targets)와 신뢰도 를 생성합니다. 이 모델은 두 가지 종단 데이터셋에서 높은 예측 성능을 달성했는데, AFFECT에서는 F1 점수 0.756을 기록했으며 PHQ-9 데이터셋에서도 최고점과 동률인 0.765를 기록했습니다.
또한 CIT가 학습한 개념 점수는 해석 가능한 행동 및 생리적 패턴을 제공합니다. 예를 들어, AFFECT 데이터셋에서는 수면 양과 질이 높은 부정적 정서 그룹과 낮은 그룹 간에 가장 명확한 차이를 보여주었습니다. 이러한 결과는 LLM 기반의 개념 통합 접근 방식이 데이터가 제한적인 소규모 코호트 환경에서도 정확하고 해석 가능한 건강 예측을 가능하게 함을 입증합니다.
용어 풀이
- LLM
- 방대한 글을 학습해 문장을 이해하고 만들어 내는 AI 모델. ChatGPT, Claude, Gemini가 여기에 속해요.
- 트랜스포머
- 오늘날 대부분의 언어 모델이 쓰는 신경망 구조. 문장 속 단어들의 관계를 한꺼번에 계산해요.
- 가중치
- 학습으로 정해진 모델 내부의 숫자 값. 내려받는 모델 파일의 본체예요.