인프라 뉴스
OpenAI says its Jalapeño chip can power faster AI responses than the competition
TVThe Verge AI
오픈AI는 자체 개발한 AI 칩 Jalapeño가 기존 시스템 대비 더 높은 처리량과 낮은 지연 시간을 제공한다고 발표했다.
세 줄 요약
- Jalapeño는 InferenceX 테스트에서 엔비디아의 GB200 또는 GB300 대비 GPT-OSS 120B 등 세 모델에서 각각 1.5~1.9배 높은 AI 작업량을 기록했다.
- 이 칩은 사용자가 요구하는 수요 증가에 맞춰 더 빠르고 반응성 좋은 에이전트 접근을 가능하게 한다.
- 오픈AI는 올해 말 '소규모 물량'으로 배치할 예정이며, 엔비디아 같은 기존 파트너와의 협력도 지속한다.
오픈AI는 자체 개발한 AI 칩 Jalapeño가 기존 시스템 대비 더 높은 처리량과 낮은 지연 시간을 제공한다고 발표했다.