개발도구 뉴스
Jalapeño’s first results show industry-leading speed and efficiency in AI inference
ONOpenAI News
오픈AI가 자체 개발한 추론 칩 Jalapeño의 초기 결과를 발표하며 업계 최고 수준의 속도와 효율성을 보여주었다.
세 줄 요약
- Jalapeño는 GPT‑OSS 120B, DeepSeek R1, Kimi K2.5 1T 등 세 모델에서 비교 시스템 대비 최대 3.6배 낮은 종단 간 지연 시간과 높은 AI 작업량을 달성했다.
- 기존 하드웨어 시스템이 처리량과 지연 시간 사이의 상충 관계를 가졌던 것과 달리, Jalapeño는 하나의 아키텍처로 이를 해결한다.
- Jalapeño는 올해 말까지 오픈AI 컴퓨팅 인프라에 배포할 계획이며, 2세대와 3세대가 개발 단계에 있다.
오픈AI가 자체 개발한 추론 칩 Jalapeño의 초기 결과를 발표하며 업계 최고 수준의 속도와 효율성을 보여주었다.