리서치 연구
프롬프트 최적화로 고정된 LLM 간의 통신 구현 연구
Communication between Frozen Large Language Models via Prompt Optimization in a Referential Game
arXiv서로 다른 제공업체의 두 개의 고정된(frozen) 대규모 언어 모델이 프롬프트 최적화를 통해 정보를 교환하는 실험을 수행했습니다.
세 줄 요약
- 최적화된 프롬프트는 메모리 제약이나 제거 상황에서도 일반화 가능한 '공유 코드'를 성공적으로 담아내 객체 식별을 가능하게 했습니다.
- 모델 가중치 업데이트 없이도 복잡한 규칙 학습과 정보 교환이 가능하다는 점은 신뢰성 높은 다중 에이전트 시스템 설계에 중요한 시사점을 제공합니다.
- 초기 통신 확립은 어려웠으며, 성공적인 프로토콜을 위해서는 충돌 페널티나 순차적 최적화 같은 추가 장치가 필수적으로 요구되었습니다.
본 연구는 서로 다른 제공업체의 두 개의 고정된(frozen) 을 대상으로, 최적화를 통해 이들 간의 통신 가능성을 실험했습니다. 이 모델들은 업데이트 없이 엔드포인트를 통해 접근하며, 한 모델이 객체를 설명하고 다른 모델이 후보군에서 해당 객체를 선택하는 참조 게임(referential game)을 수행합니다.
초기에는 시스템이 신뢰할 수 있는 통신을 확립하기 어려웠습니다. 송신자는 단사 함수 규칙을 유지하는 데 어려움을 겪었고, 수신자는 확인된 예시가 부족했습니다. 성공적인 통신 프로토콜을 구축하기 위해서는 송신자 충돌 페널티 적용, 성공적 상호작용의 보존, 그리고 순차적 최적화와 같은 추가 장치가 필수적으로 요구되었습니다.
성공적인 실행 환경에서는 최적화된 프롬프트가 공유 코드를 담아내어 측정된 '코드북 없음(no-codebook)' 기준을 넘어선 객체에 대해서도 일반화하는 것이 가능했습니다. 이 프로토콜은 최적화된 프롬프트 자체에 기록되어 직접 읽고 감사할 수 있는 형태로 구현됩니다.
용어 풀이
- 대규모 언어 모델
- 방대한 글을 학습해 문장을 이해하고 만들어 내는 AI 모델. ChatGPT, Claude, Gemini가 여기에 속해요.
- 프롬프트
- AI에게 주는 지시나 질문 글.
- 가중치
- 학습으로 정해진 모델 내부의 숫자 값. 내려받는 모델 파일의 본체예요.
- API
- 프로그램끼리 기능을 주고받는 약속된 창구. AI 모델은 보통 API로 불러 써요.