개인정보 보호를 위한 분산 시스템 모델링 기법
Personalized Federated Hierarchical Gaussian Processes for Privacy-Preserving Modeling of Heterogeneous Distributed Systems
arXiv데이터가 분산되고 구조가 다른 환경에서도 개인정보를 보호하며 통계 모델링을 수행하는 새로운 방법을 제시합니다.
- 개인화된 연합 계층 가우시안 프로세스(pFedHGP)는 데이터를 전역 공유 부분과 로컬 잔여 부분으로 나누어, 원본 데이터는 기기에 보관하고 낮은 차원의 통계치만 서버와 동기화합니다.
- 공장 설비 고장 진단이나 지역별 대기질 예측 등 실제 환경에서 높은 정확도를 보여주며, 불확실성까지 고려한 의사결정을 지원할 수 있습니다.
- 데이터 주권이 중요하고 모델의 예측 불확실성을 함께 관리해야 하는 복잡계 시스템에 최적화된 확률 기반 솔루션입니다.
본 연구는 데이터가 이질적인 클라이언트들에 걸쳐 분산되어 있을 때 확률적 회귀 및 분류를 수행하기 위해 개인화된 연합 계층 가우시안 프로세스(pFedHGP)를 제시합니다. pFedHGP는 각 클라이언트의 잠재 함수를 (i) 공유되는 전역 구성 요소, (ii) 전역 커널 구조를 공유하는 클라이언트별 편차, 그리고 (iii) 유연한 로컬 잔여 부분으로 분해하여 모델링을 수행합니다.
이 방법론은 희소 유도 변수 근사 및 연합 변분 추론을 활용하여 원본 데이터를 각 기기에 보관하고, 서버와는 공유되는 전역 구성 요소의 저차원 통계치만을 동기화하는 것이 특징입니다. 이를 통해 완전한 예측 분포를 지원함으로써 불확실성을 고려한 의사결정이 가능하며, 계층 구조는 상관관계가 있는 센서에 대한 다중 출력 가우시안 프로세스로 연결될 수 있습니다.
pFedHGP의 응용 연구에서는 실제 환경에서 높은 정확도를 입증했습니다. 예를 들어, 프레스 톤당 모니터링 시 레이블이 지정된 사이클의 13.77%만을 사용하여 완벽한 고장 분류를 달성했으며, 중앙 집중화 없이 지역별 대기질 모델링에서도 지리적 구역을 복구하는 데 성공했습니다.