RTX 4080

요즘 Deep learning 관련 업무를 하면서 개인적으로는 사용하기 힘든 고가의 AI training 특화 GPU (i.e., A100) 및 AI accelerator (i.e., IPU)를 사용하고 있다. GPU에는 별 관심 없었는데 여러 고성능 GPU를 사용하다보니 최신 consumer 그래픽 카드에 관심이 가기 시작했다. 그리고 마침내 GPU가 1대 있으면 집에서도... 잘 사용하겠지... 라며 구입하게 되었다.

AI training을 위해 A100 같은 GPU를 사용하다보니 NVIDIA 최신 아키텍쳐에 눈이 갔다. 또 메모리 사이즈를 중요하게 생각하게 되었다. 속도가 느리면 기다리면 되는데, 메모리가 작으면 모델을 (쉽게) 돌릴 수가 없으니 조금이라도 메모리가 큰 GPU를 찾게 되었다. 그래서 구입한 것이 RTX 4080.

그래픽 카드에 카드 지지대까지 포함되어 있다. 근데 아쉽게도 지금 사용하고 있는 케이스가 작아 포함되어 있는 지지대를 설치하지 못했다.

기존 사용하던 1070 대비 방열판이 거의 2배 가까이 크고 무겁다. 크고 무거운 만큼 발열 관리를 잘 할지는 사용하면서 지켜봐야겠다.

물론 성능은 세대를 거치면서 향상되었다. 전 세대 3090Ti 보다 성능이 높아졌고, 전력 사용량도 많이 개선되었다고 한다.

Update: 설치 후 벤치마크와 스트레스 테스트를 실행하며 전력 사용량과 온도를 살펴보았다. CPU 100%, GPU 100%인 환경에서 GPU는 300W 약간 넘게, 온도는 70도 이하로 유지되었다. 참고로 CPU는 100W 약간 넘게, 온도는 공랭으로 80도 이하로 유지되었다.

설치 후 간단히 동작 확인만 하였다. GPU가 매우 크기에 케이스의 설치 공간을 잘 측정해야 한다. 현재 사용하고 있는 케이스가 작아, PSU의 기본 파워 케이블 사용 시 옆 케이스 패널을 닫을 수 없었다. 케이블이 매우 딱딱하여 꺽을 수 없었고, 또한 제조사에서도 권장하는 방법이 아니었다.

임시로 동봉된 3 PCIe -> 12vhpwr 변환 아답터를 사용하여 파워 케이블을 연결하였는다. 변환 아답터는 3갈래의 PCIe 케이블로 구성되어 있어 꺽을 수 있었다. 하지만 추가적인 연결 단자로 인해 안전 문제가 있을 수 있으니 PSU에 맞는 파워 케이블을 구입해야겠다. 구입하여 장착하였다. 다행히 잘 설치되어 동작하고 있다.