AI-Study
AI Model 학습을 위해 소유하고 싶은 서버(HW) 스펙
황소의일격
2021. 8. 3. 22:09
1. LEADERS SYSTEM : Servilliant SV8000 GSx8-V180 [상세스펙]
| 구 분 | 스 펙 |
| CPU | Intel® Xeon 6248 Processor (x2) |
| RAM | 32GB Memory DDR4 RDIMM 2666MHz (x16) |
| GPU | Tesla V100 32GB SXM2 (Support NVLink 2.0) (x8) [상세스펙] |
| Storage | 480GB SSD SATA 2.5”/ 4x 1.92TB SSD SATA 2.5” (x2) |
| Power | 2200W Redundant PSU (2+2) |
| CUDA Cores | 40,960 |
| Tensor Cores | 5,120 |
| 4U Type |  |
- 정말로 보유하고 싶은 스펙임
- 공급가격은 1억~1억 2000 예상
2. GIGABYTE GPU SYSTEM : G291-Z20 [상세스펙]
| 구 분 | 스 펙 |
| CPU | AMD EPYC™ 7282 2.80GHz, 64MB, 120W |
| RAM | 32GB DDR4 Registered ECC PC4 2933 (x4) |
| GPU | NVIDIA Quadro RTX8000 48GB (x8) [상세스펙] |
| Storage | Samsung Enterprise SSD PM883 960GB |
| Power | 1+1 2200W 80 PLUS Platinum redundant |
| 2U Type |  |
- "Servilliant SV8000 GSx8-V180" 모델을 보유할 수 없다면, 이 모델이라도 보유 하고 싶음
- 공급가격은 대략 5000~6000 예상함
3. SYSTEM assembled (I)
| 구 분 | 스 펙 |
| CPU | Intel Xeon Gold 6248R (24Core/3.0GHz) |
| RAM | 32GB DDR4- 19200 REG ECC RAM (x8) |
| GPU | NVIDIA Quadro RTX 8000 D6 48GB (x1) [상세스펙] |
| Storage | 870 EVO 1TB SSD |
| Power | 4800W(3+1) 80+ Platinum Redundant Power |
| 4U Type |  |
- "Servilliant SV8000 GSx8-V180" 모델을 보유할 수 없다면, 이 모델이라도 보유 하고 싶음
- 공급가격은 대략 3500정도 예상함, 그래픽 카드 하나 추가 할때 마다 그래픽 카드 가격 + 출장 설치비(950~1000만정도 추가)
4. SYSTEM assembled (II)
| 구 분 | 스 펙 |
| CPU | Intel Xeon Gold 6248R (24Core/3.0GHz) |
| RAM | 32GB DDR4- 19200 REG ECC RAM (x8) |
| GPU | NVIDIA Quadro RTX A6000 D6 48GB (x1) [상세스펙] |
| Storage | 870 EVO 1TB SSD |
| Power | 4800W(3+1) 80+ Platinum Redundant Power |
| 4U Type |  |
- "Servilliant SV8000 GSx8-V180" 모델을 보유할 수 없다면, 이 모델이라도 보유 하고 싶음
- 공급가격은 대략 3000정도 예상함, 그래픽 카드 하나 추가 할때 마다 그래픽 카드 가격 + 출장 설치비(750~800만정도 추가)
5. SYSTEM assembled By My Research Team
| 구 분 | 스 펙 |
| CPU | Intel Core i9-10940X (14 Core, 19.25M Cache, 3.3 GHz, 165W) Intel Socket LGA 2006 |
| RAM | 32GB Memory DDR4 (x6) |
| GPU | Quadro RTX6000 24GB GDDR6 PCle(Active) (x4) [상세스펙] |
| SSD | 960GB SATA3 2.5" |
| HDD | (8TB SATA3 3.5") x 2 - RAID0 |
- 이 정도의 스펙이면 Batch Size를 적당히 줄려서 Trainnig/Test 하면 됨
- AI Model에 대해서 전체 데이터셋을 Trainnig/Test 하지 말고, 통계적으로 임의 크기의 표본을 잡아서 K-fold Cross Validation (K번 반복 Trainnig/Test 후, Average를 측정) 으로 AI Model에 대한 성능 측정을 하기 좋음
- 공급가격은 3000~3500 예상함
[GPU 가격]
V100 - 32GB : 1400만원 정도
RTX 8000 - 48GB : 1000만원 정도
RTX 6000 - 24GB : 550만원 정도
RTX 3090 - 24GB : 330만원 정도
RTX A6000 - 48GB : 650만원 정도
반응형