모델 뉴스
[2026-3호] ETRI, 초대형 AI 학습의 ‘메모리 장벽’ 허문다
E보ETRI 보도자료
ETRI가 표준 이더넷으로 여러 서버와 가속기 메모리를 하나의 풀처럼 공유하는 옴니익스텐드를 개발했다.
세 줄 요약
- 실험에서 메모리 부족 환경의 LLM 추론 성능이 크게 떨어졌고, 이더넷 기반 메모리 확장 시 2배 이상 회복됐다.
- 서버 교체 없이 메모리를 늘려 데이터센터 구축·운영 비용을 줄이는 효과가 기대된다.
- PCIe 기반 구조는 연결 거리와 시스템 확장에 한계가 있었고, 옴니익스텐드는 이더넷 스위치로 떨어진 장비를 하나의 메모리 풀로 묶는 구조다.
ETRI가 표준 이더넷으로 여러 서버와 가속기 메모리를 하나의 풀처럼 공유하는 옴니익스텐드를 개발했다.