인프라 뉴스
What happens when a GPU reads memory
HNHacker News
블로그 글은 RTX 4090에서 GPU가 전역 메모리를 읽는 SASS 명령의 하드웨어 경로를 타이밍 실험으로 추적합니다.
세 줄 요약
- LDG.E의 32레인 4바이트 요청은 4개 32바이트 섹터로 묶이고, 경로에는 TLB, 크로스바, 36개 L2 슬라이스, DRAM이 포함됩니다.
- L1 히트 15.4ns, TLB 미스 4.4ns, L2 히트 127ns, 왕복 255ns는 GPU 메모리 접근 지연을 계산하는 데 쓰는 실측 값입니다.
- 측정은 RTX 4090 sm_89, 코어 클럭 2.6 GHz 고정 조건이며, 엔비디아가 세부 경로를 충분히 문서화하지 않아 타이밍 실험으로 측정한 값입니다.
블로그 글은 RTX 4090에서 GPU가 전역 메모리를 읽는 SASS 명령의 하드웨어 경로를 타이밍 실험으로 추적합니다.