inference

수 주간의 상주 VRAM 데이터를 이용한 온프레미스 GPU 사이징

사양 시트는 카드의 메모리를 알려주지만, 컨테이너가 유휴 상태에서 실제로 차지하는 메모리 양을 알려주지는 않습니다. 여기서는 몇 주간의 상주 VRAM 측정값을 통해 단일 온프레미스 GPU의 크기를 어떻게 측정했는지 보여줍니다.