마이크로소프트 AI 모델, AI 게이트웨이에서 사용 가능
Microsoft AI models are now available on AI Gateway
Vercel BlogVercel과 Microsoft AI가 협력하여 마이크로소프트의 최신 인공지능 모델들을 'AI Gateway' 플랫폼을 통해 제공합니다.
이 플랫폼은 최신 AI 모델을 사용하면서도 데이터 보안과 투명한 비용 관리를 동시에 할 수 있게 도와줘요.
- 음성 생성은 장문 내레이션용(MAI-Voice-2.1)과 저지연 대화형 에이전트용(MAI-Voice-2.1-Flash)으로 분리되었으며, 실시간 전사 기능도 지원합니다.
- 데이터 보안 및 제로 데이터 보유(ZDR) 정책을 통해 사용자가 자신의 데이터를 완벽하게 통제하고 활용 과정의 투명성을 확보할 수 있습니다.
- 플랫폼은 모델 추론에 대해 별도의 마크업 없이 명시된 요율로 청구하며, 통합 API를 통해 사용량과 비용 관리가 용이합니다.
Vercel과 Microsoft AI(MAI)가 협력하여 MAI의 최신 인공지능 모델들을 'AI Gateway' 플랫폼을 통해 제공합니다. 이 플랫폼은 데이터 보안 및 제로 데이터 보유(ZDR) 정책에 중점을 두어, 사용자가 자신의 데이터를 통제하고 활용 과정의 투명성을 확보할 수 있도록 합니다.
MAI는 오디오 관련 최신 모델을 AI Gateway에서 지원하며, 장문 내레이션용으로 일관된 화자를 유지하는 `MAI-Voice-2.1`과 저지연 대화형 에 적합한 `MAI-Voice-2.1-Flash`가 있습니다. 또한, 오디오 스트림 도착 시 부분 전사 결과를 반환하여 실시간 자막 구현을 돕는 `MAI-Transcribe-2 Streaming`도 제공됩니다.
AI Gateway를 이용할 경우 모델 추론에 대해 플랫폼 수수료나 마크업 없이 명시된 요율로 청구됩니다. 개발자는 AI 의 `generateSpeech` 함수 등을 사용하여 음성 응답을 생성하거나, 스트리밍 기능을 통해 실시간 전사(live transcription)를 구현할 수 있습니다.
용어 풀이
- 에이전트
- 목표를 받으면 스스로 계획을 세우고 도구를 써서 여러 단계의 작업을 해내는 AI.
- SDK
- 특정 서비스나 기기를 쉽게 쓰도록 묶어 둔 개발 도구 모음.
사용자의 데이터는 어떻게 보호되나요?
이 플랫폼은 제로 데이터 보유(ZDR) 정책에 중점을 두어, 사용자가 자신의 데이터를 완벽하게 통제하고 활용 과정의 투명성을 확보할 수 있도록 해요.
어떤 상황에 맞는 음성 모델을 사용할 수 있나요?
장문 내레이션에는 일관된 화자를 유지하는 `MAI-Voice-2.1`을, 실시간 대화형 에이전트에는 저지연에 적합한 `MAI-Voice-2.1-Flash`를 사용할 수 있어요.
비용은 어떤 방식으로 청구되나요?
모델 추론에 대해 플랫폼 수수료나 마크업 없이 명시된 요율로 청구되며, 통합 API를 통해 사용량과 비용 관리가 용이해요.
