A100 40GB와 80GB의 Tensor는 같다
견적서에 A100이 두 줄입니다. 40GB, 80GB. Tensor 칸은 둘 다 312 TFLOP/s입니다. 용량만 두 배인 줄 알고 고릅니다. NVIDIA 데이터시트를 세로로 읽으면 갈라지는 칸은 메모립니다. 40GB는 HBM2 1,555 GB/s. 80GB SXM은 HBM2e 2,039 GB/s. 80GB PCIe는 1,935 GB/s. 코어 수는 같습니다. 벨트가 다릅니다. 벽시계는 max(메모리 시간, 연산 시간)입니다. 바이트당 연산이 무릎보다 작으면 맷돌을 깎아도 가루는 … 더 읽기
