장애물 인지 기능을 탑재한 안전 로봇 제어 에이전트 개발

코딩 에이전트는 언어 모델을 활용하여 로봇 컨트롤러를 프로그램으로 작성하는 유망한 패러다임으로 부상했습니다. 이 방식은 로봇에 특화된 지식이 필요 없어 안전하다고 여겨지지만, 기존 연구에서는 안전성 제약 조건에 대한 평가는 부족했습니다. 연구진은 에이전트가 임무 목표만 추구하고 장애물과의 충돌 위험을 간과하는 문제를 발견했습니다. 에이전트는 프롬프트나 인식 과정에서 장애물을 금지하지만, 실제 계획 단계에서 이 안전 제약 조건을 우선순위로 두지 않아 결국 충돌하게 됩니다.

이러한 격차를 해소하기 위해 'SafeHarness'가 개발되었으며, 이는 모델에 두 가지의 장애물 인지 장치(harnesses)를 제공하여 안전성 제약을 최우선으로 고려하도록 합니다. 첫 번째는 '장애물 인지 경로 계획'으로, 물체를 바운딩 박스로 인식하고 후보 경로를 웨이포인트 시퀀스로 도출합니다. 에이전트는 이 경로를 사전에 계획하고 검증하며, 필요할 때 재계획한 후에만 실행합니다. 두 번째는 '장애물 인지 접촉 실행'으로, 충돌 자체를 피하도록 접촉 위치를 선택하는 방식입니다.

SafeHarness를 적용한 결과, 해당 에이전트는 71.9%의 작업 성공률과 87.5%의 충돌 회피율을 달성했습니다. 이는 기존 최고 성능(SOTA) 대비 각각 6.5%, 27.0% 향상된 수치이며, 하네스 장치를 사용하지 않은 동일 에이전트와 비교했을 때 각각 $2.3\times$ 및 $1.5\times$ 높은 성능을 보였습니다.