성능 최적화를 위한 C++ 코드 작성 가이드
Writing Efficient C++ Code
Hacker News고성능이 요구되는 시스템에서 C++를 사용할 때는, 단순히 객체 지향 설계(OOP)에 의존하기보다 데이터가 메모리에 어떻게 배치될지 고려하는 접근 방식이 핵심입니다.
- 데이터 지향 설계(DOD)는 데이터를 배열처럼 메모리에 연속적으로 저장하고 처리하여 CPU 캐시 효율을 극대화하며, 이를 통해 성능 향상과 병렬 처리를 용이하게 합니다.
- 코드 최적화는 복잡한 추상화나 디자인 패턴에 의존하기보다, 하드웨어의 물리적 제약(메모리 접근 속도)을 직접 고려하는 단순하고 직관적인 구현에서 나옵니다.
- 성능 병목 현상을 이해하려면 프로세서 연산 속도와 RAM 접근 속도의 격차('메모리 벽')를 인지하고, 데이터 전송률과 지연 시간의 차이를 아는 것이 필수적입니다.
고성능이 요구되는 애플리케이션에서 C++는 객체 지향 프로그래밍(OOP)의 장점과 하드웨어에 대한 낮은 수준의 접근성을 결합한 독특한 특성을 갖습니다. OOP가 구조화된 시스템 구축을 돕지만, 성능 최적화를 위해서는 데이터가 메모리에 어떻게 배치될지 고려하는 '데이터 지향 설계(DOD)'와 같은 다른 사고방식이 필요합니다. DOD는 디자인 단계부터 저장될 데이터를 중심으로 생각하고 적절한 자료구조를 설계한 후 알고리즘을 적용하는 방식입니다.
성능 최적화의 핵심은 프로세서 연산 속도와 메인 메모리(RAM) 접근 속도의 격차, 즉 '메모리 벽'을 이해하는 것입니다. 캐시는 이 문제를 해결하기 위해 최근 사용된 데이터를 저장하여 RAM보다 빠르게 접근할 수 있도록 설계되었습니다. 데이터가 RAM에서 처음 접근될 때 전체 캐시 라인 단위로 읽혀 캐시에 보관되는데, 이를 '캐시 히트'라고 하며, 이는 성능에 큰 영향을 미칩니다.
따라서 코드를 작성할 때는 메모리상에서 자주 함께 사용되는 값들이 물리적으로 인접하게 배치되도록 데이터를 배열 형태로 구성하는 것이 중요합니다. 예를 들어, 포인터를 통해 여러 작은 객체들을 분산하여 연결한 구조는 캐시 누락(cache misses)을 유발하여 비효율적일 수 있습니다. 대신, 모든 요소를 한 번에 모아 정렬된 일반 배열을 사용하면 이론적인 복잡도 측면에서 문제가 없으면서도 실제 성능 면에서 더 빠를 수 있습니다.