Fireworks의 신규 LLM 'Ember-1', AI Gateway로 출시
Ember-1 from Fireworks now available on AI Gateway
Vercel BlogFireworks의 추론 모델 Ember-1이 AI Gateway를 통해 공식적으로 제공되어 접근성이 높아졌습니다.
- Ember-1은 기존 대비 약 40% 적은 토큰으로 높은 품질을 유지하며, 1M 토큰 컨텍스트와 이미지 입력을 지원합니다.
- 개발자는 AI Gateway의 통합 인터페이스를 활용하여 모델 호출과 비용/사용량 추적을 효율적으로 관리할 수 있습니다.
- 현재 연구 프리뷰로 제공되므로, 사용 전 Vercel CLI를 이용해 AI Gateway 설정을 완료해야 합니다.
Fireworks에서 개발한 Ember-1이 AI Gateway를 통해 공식적으로 제공됩니다. 이 모델은 코딩 및 워크플로우에 최적화된 연구 프리뷰(research preview) 모델입니다. Fireworks는 Ember-1이 기존 Kimi K3 대비 유사한 품질을 유지하면서도 약 40% 적은 으로 생성된다고 보고했습니다. 이는 반복적인 모델 호출이 필요한 코딩 에이전트의 경우 출력 비용과 후속 단계로 전달되는 컨텍스트 양을 줄이는 데 도움을 줍니다.
Ember-1은 1M 토큰에 달하는 대용량 을 지원하며, 텍스트와 이미지 입력을 처리하고 도구 호출(tool calling) 기능을 갖추고 있습니다. 또한, Fireworks 엔드포인트는 Zero Data Retention 및 No Training을 지원하여 보안성을 높였습니다. 개발자는 AI Gateway를 통해 모델 호출에 대한 통합 를 사용하며, 여기에는 사용량 추적, 비용 관리 기능, 그리고 라우팅 규칙 설정 등의 기능이 내장되어 있습니다.
Ember-1을 사용하려면 먼저 Vercel CLI를 이용해 AI Gateway 설정을 완료해야 합니다. `npm i -g vercel@latestvercel ai-gateway setup` 명령어를 실행하면 설치된 에이전트를 감지하고, API 키를 프로비저닝하거나 재사용하며 게이트웨이에 연결하는 과정을 거칩니다. 이후 에이전트의 모델 설정에서 `fireworks/ember-1`을 선택하여 사용할 수 있습니다.
용어 풀이
- 추론 모델
- 답하기 전에 단계별로 생각하는 과정을 거치도록 만든 모델.
- 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
- 토큰
- AI 모델이 글을 처리하는 단위. 단어보다 작은 조각이며 사용량과 요금을 셀 때 기준이 돼요.
- 컨텍스트 창
- 모델이 한 번에 읽고 참고할 수 있는 입력의 최대 길이. 보통 토큰 수로 나타내요.
- Prompt
- AI에게 주는 지시나 질문 글.
- API
- 프로그램끼리 기능을 주고받는 약속된 창구. AI 모델은 보통 API로 불러 써요.