구글 AX: 대규모 자율 에이전트 워크로드 오케스트레이터
google/ax
GitHub구글이 대규모 자율 에이전트 워크로드를 클러스터에서 실행하기 위한 고처리량 선언적 오케스트레이터 'AX'를 공개했습니다.
- AX는 상태 누적, 엄격한 격리, 외부 API 호출 등 복잡성을 Task, Workspace, Gateway 같은 원시 요소를 통해 관리합니다.
- 이 기능을 통해 기존 마이크로서비스나 배치 작업으로는 어려웠던 자율 AI 시스템을 클러스터 레벨에서 대규모로 구축할 수 있습니다.
- 현재 핵심 개념과 프로토콜은 정제 중이며 주요 변경 사항이 예상되므로, Kubernetes 환경 설정 및 학습이 필요합니다.
AX는 클러스터 환경에서 수십억 개의 자율 워크로드를 실행하기 위한 고처리량의 선언적 오케스트레이터입니다. 기존의 마이크로서비스나 완료형 배치 작업과는 달리, 에이전트는 상태를 누적하고 엄격한 격리가 필요하며 모델 및 도구 서버와 통신하는 등 복잡성을 가집니다. AX는 이러한 특성을 고려하여 설계되었으며, Kubernetes 사용 경험이 있는 사용자에게 유사하게 느껴질 수 있도록 구현되었습니다.
AX는 에이전트 워크로드를 관리하기 위해 네 가지 핵심 원시 요소(primitives)를 제공합니다. `Task`는 CPU/메모리 제한을 두고 신뢰할 수 없는 에이전트 코드를 격리된 에서 실행하게 하며, `Workspace`는 Git 리포지토리나 서버 등을 미리 연결하여 에이전트가 준비된 상태로 시작하도록 합니다. 또한, `Gateway`를 통해 외부 트래픽을 명시적인 호스트 화이트리스트로 제한할 수 있으며, `Model`은 플랫폼 자체에서 사용할 과 자격 증명을 설정하는 역할을 수행합니다.
AX를 사용하려면 CLI 설치와 함께 Kubernetes 클러스터에 컨트롤 플레인을 배포해야 합니다. 사용자들은 YAML 매니페스트(`ax.io/v1alpha1`)를 작성하여 `Task`, `Workspace` 등을 정의한 후, `ax apply -f task.yaml` 명령어로 전체 워크로드를 한 번에 적용할 수 있습니다. 이후 `ax watch`나 `ax ssh` 같은 명령어를 통해 에이전트의 상태 변화를 실시간으로 모니터링하거나 샌드박스 내부에서 직접 작업을 수행할 수 있습니다.
용어 풀이
- 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
- API
- 프로그램끼리 기능을 주고받는 약속된 창구. AI 모델은 보통 API로 불러 써요.
- 샌드박스
- 프로그램을 바깥과 분리된 안전한 공간에서 실행하게 하는 환경.
- MCP
- AI가 외부 도구·데이터와 연결되는 방식을 정한 공개 표준. Anthropic이 처음 공개했어요.
- LLM
- 방대한 글을 학습해 문장을 이해하고 만들어 내는 AI 모델. ChatGPT, Claude, Gemini가 여기에 속해요.