AI 지원 비행 계획을 위한 의사결정 보증 계층 제안
Toward a Decision-Assurance Layer for AI-Assisted Flight Planning in Air Traffic Management
arXiv항공 교통 관제(ATM) 등 안전 필수 분야에서 생성형 AI 활용이 늘면서, 비결정적인 출력물로 인한 운영상의 위험을 검증할 필요성이 대두되었습니다.
- 이에 'AI 신뢰 및 보증 계층(ATAL)'이 제안되었으며, 이는 AI 출력을 의미적 안정성, 운영 일관성 등으로 종합 평가하여 운용 준비 수준(DRL)을 제시합니다.
- 이 프레임워크는 AI가 생성한 비행 계획이 실제 실행되기 전에 안전하지 않거나 모순된 오류를 사전에 식별하여 인적 개입을 돕습니다.
- ATAL은 특정 AI 모델에 구애받지 않는(model-agnostic) 구조로 설계되어, 항공 분야 외 규제 기반의 다른 중요 의사결정 지원 시스템에도 적용 가능합니다.
항공 교통 관제(ATM) 분야에서 비행 계획 생성, 궤적 해석, 제약 조건 확인 등 다양한 작업에 생성형 AI가 활용되고 있습니다. 이러한 도구들은 업무 부하를 줄이고 계획을 가속화할 수 있지만, 그 출력물이 비결정적(non-deterministic)이어서 인적 개입 환경에서는 안전 및 운영상의 위험을 초래하는 문제가 제기되었습니다.
이에 본 논문은 AI 신뢰 및 보증 계층(ATAL)이라는 모델에 구애받지 않는 의사결정 보증 아키텍처를 제안합니다. ATAL은 AI가 생성한 비행 계획 출력이 운영에 충분히 신뢰할 수 있는지 평가하며, 의미적 안정성( 변화 하), 구조화된 출력의 운영 일관성, 그리고 도메인 규칙 대비 규범적 제약 조건 검증을 결합하여 인간 운용자에게 의사결정 준비 수준(DRL)을 매핑합니다.
ATM 기반의 실험 연구를 통해, ATAL이 비행 계획 검증이나 실행에 영향을 미치기 전에 안전하지 않거나, 일관성이 없거나, 오해의 소지가 있는 출력을 식별할 수 있음을 보여주었습니다. 이 프레임워크는 항공 분야에서 입증되었지만, 규제 제약 하에 인간 감독이 필요한 다른 안전 필수 의사결정 지원 영역으로도 전이가 가능합니다.
용어 풀이
- 프롬프트
- AI에게 주는 지시나 질문 글.