학습 기반 인식 오류를 보정하여 자율주행 안전성 확보
Correcting Learning-based Perception for Safety
arXiv자율주행에서 필수적인 ML 기반 인식이 작동 범위를 명확히 알기 어려워 안전 문제가 발생할 수 있습니다.
- 이에 본 논문은 인지 모듈의 불확실성을 오프라인으로 분석하고, 실시간 위험 휴리스틱을 이용해 안전한 상태를 선택하는 2단계 보정 전략을 제시합니다.
- 시뮬레이션 결과, 기존 대비 안전 위반 시나리오의 73%에서 안전성을 확보했으며, 평균 주행 시간 증가율도 2.8%로 매우 효율적입니다.
- 단, 인지 계약의 '사전 이미지' 구축이 불완전한 경우(27%), 시스템은 여전히 안전을 보장받거나 오류를 수정하지 못하는 한계가 존재합니다.
자율 시스템에서 학습 기반 인지(ML perception)는 중요한 역할을 하지만, 전통적인 센서와 달리 ML 인식이 작동하는 경계가 명확하게 정의되지 않아 오작동할 위험이 있습니다. 이러한 부정확한 인식은 안전하지 않거나 지나치게 보수적인 하위 제어 동작을 유발할 수 있어 자율주행 시스템의 안전성 확보가 핵심 과제입니다.
본 논문에서는 ML 기반 상태 추정치를 보정하기 위한 2단계 전략을 제안합니다. 첫 번째 단계로, 인지 계약(perception contracts)의 사전 이미지(preimages)를 활용하여 오프라인으로 ML 모듈이 발생시키는 불확실성을 특성화합니다. 두 번째 단계로는, 실시간 구동 시 위험 휴리스틱(risk heuristic)을 사용하여 불확실한 추정치들 중에서 제어 결정을 내릴 특정 상태를 선택하는 방식으로 안전성을 높입니다.
광범위한 시뮬레이션 평가 결과, 기존의 인식 기반 제어 시스템이 안전 위반을 일으킨 45개 ACC 시나리오 중 73%에서 본 실시간 인지 보정 전략이 안전성을 유지하는 것으로 나타났습니다. 또한, 평균적으로 주행 완료 시간 증가율은 2.8%에 불과하여 효율적입니다. 다만, 인지 계약의 사전 이미지 구축이 완전히 일치하지 않는 경우(27%), 시스템이 여전히 안전을 보장하거나 오류를 수정할 수 없다는 한계가 존재합니다.