NVIDIA GPU B200

https://www.nvidia.com/ko-kr/data-center/dgx-b200

변화하는 혁신으로 지원하는 혁신적인 성능

​

NVIDIA DGX™ B200은 AI 여정의 모든 단계에서 규모와 관계없이 기업을 위한 개발에서 배포로 전환하는 파이프라인용 통합 AI 플랫폼입니다. 5세대 NVIDIA® NVLink™로 상호 연결된 8개의 NVIDIA Blackwell GPU를 탑재한 NVIDIA DGX B200은 이전 세대 시스템보다 3배 높은 훈련 성능과 15배 높은 추론 성능을 제공합니다. DGX B200은 NVIDIA Blackwell 아키텍처를 활용하여 거대 언어 모델(LLM), 추천 시스템 및 챗봇 등의 다양한 워크로드를 처리할 수 있어 AI 혁신을 가속화하고자 하는 기업에 이상적입니다.

​

엔비디아 블랙웰 아키텍처 기반의 B200 GPU

​

엔비디아 블랙웰 아키텍처 기반의 B200 GPU는 대규모 AI 훈련 및 추론 워크로드를 위해 설계된 고성능 데이터센터용 GPU입니다. 엔비디아가 2024년 3월에 공개했으며, 2025년에 공식 출시되었습니다.

주요 특징

성능 향상: 이전 세대인 H100 대비 AI 훈련 성능은 최대 3배, 추론 성능은 최대 15배 향상되었습니다.

블랙웰 아키텍처: 2080억 개의 트랜지스터를 탑재하고 TSMC의 4NP 공정으로 제조된 듀얼 다이(Dual-die) 디자인이 적용되었습니다.

​

메모리 및 대역폭: H100의 2.4배 용량인 192GB의 HBM3e 메모리를 탑재했으며, 메모리 대역폭은 8TB/s로 두 배 증가하여 데이터 처리 효율을 높였습니다.

​

데이터 형식 지원: 새로운 2세대 Transformer Engine을 통해 FP4 연산을 지원하며, 이는 AI 연산 능력을 크게 끌어올립니다.

​

초고속 연결: 5세대 NVLink를 통해 최대 1.8TB/s의 양방향 대역폭을 제공하여 GPU 간 데이터 전송 속도를 혁신적으로 개선했습니다.

​

전력 소비: B200의 높은 성능은 상당한 전력을 요구하므로 효율적인 냉각 및 전력 관리 인프라가 필요합니다.

​

엔비디아 GPU 전폭 지원 '루닛 연합'

"10달 내 AI 특화 모델 개발"

http://www.hitnews.co.kr/news/articleView.html?idxno=70537

​

https://youtu.be/N5AJJ0tAoxc