macsplex.com 로그인

검색

Extra Form
출처/참고/홈페이지 https://www.nvidia.com/en-us/data-center...hitecture/

Screenshot 2024-03-19 at 22-37-00 NVIDIA Blackwell Architecture.png

**번역본 뉴스입니다. 오역이 있을수 있습니다.

 

가속화된 컴퓨팅 및 생성 AI의 장벽을 허물다

엔비디아 블랙웰 아키텍처가 제너레이티브 AI와 가속화된 컴퓨팅에 가져온 획기적인 발전을 살펴봅니다. 수 세대에 걸친 엔비디아 기술을 기반으로 하는 블랙웰은 타의 추종을 불허하는 성능, 효율성 및 규모로 제너레이티브 AI의 다음 장을 정의합니다.


새로운 등급의 AI 슈퍼칩

블랙웰 아키텍처 GPU는 2080억 개의 트랜지스터를 패키징하고 맞춤형 TSMC 4NP 프로세스를 사용하여 제조됩니다. 모든 블랙웰 제품은 통합된 단일 GPU에서 10TB/s(초당 10테라바이트) 칩 대 칩 상호 연결로 연결된 두 개의 레티클 제한 다이를 특징으로 합니다.

 

2세대 변압기 엔진

2세대 트랜스포머 엔진은 NVIDIA® TensorRT™-LLM 및 NeMo™ Framework 혁신과 결합된 맞춤형 Blackwell Tensor Core 기술을 사용하여 대형 언어 모델(LLM) 및 전문가 혼합(MoE) 모델에 대한 추론 및 훈련을 가속화합니다.

MoE 모델의 추론을 강화하기 위해 블랙웰 텐서 코어는 커뮤니티 정의 마이크로스케일링 형식을 포함한 새로운 정밀도를 추가하여 더 큰 정밀도에 대한 높은 정확도와 교체 용이성을 제공합니다. 블랙웰 트랜스포머 엔진은 마이크로 텐서 스케일링이라는 세분화된 스케일링 기술을 활용하여 4비트 부동 소수점(FP4) AI를 가능하게 하는 성능과 정확도를 최적화합니다. 이는 메모리가 높은 정확도를 유지하면서 지원할 수 있는 차세대 모델의 성능과 크기를 두 배로 증가시킵니다.


보안 AI

Blackwell에는 NVIDIA Confidential Computing이 포함되어 있어 강력한 하드웨어 기반 보안으로 기밀 데이터 및 AI 모델을 무단 액세스로부터 보호합니다. Blackwell은 업계 최초의 TEE-I/O 지원 GPU이며, NVIDIA® NVLink®를 통해 TEE-I/O 지원 호스트와 인라인 보호 기능을 갖춘 가장 성능이 뛰어난 기밀 컴퓨팅 솔루션을 제공합니다. Blackwell Confidential Computing은 암호화되지 않은 모드와 비교하여 거의 동일한 처리량 성능을 제공합니다. 기업은 이제 AI 지적 재산권(IP)을 보호하고 기밀 AI 교육, 추론 및 연합 학습을 안전하게 가능하게 할 뿐만 아니라 성능 면에서 가장 큰 모델도 보호할 수 있습니다.

NVLink 및 NVLink 스위치

엑사스케일 컴퓨팅 및 조 파라미터 AI 모델의 잠재력을 최대한 발휘하는 것은 서버 클러스터 내의 모든 GPU 간의 신속하고 원활한 통신 필요성에 달려 있습니다. NVIDIA® NVLink® 인터커넥트의 5세대는 최대 576 GPU를 확장하여 조 및 다중 trillion 파라미터 AI 모델에 대한 가속화된 성능을 제공할 수 있습니다.  

NVIDIA NVLink Switch Chip은 하나의 72-GPU NVLink 도메인(NVL72)에서 130TB/s의 GPU 대역폭을 지원하며 NVIDIA Scalable Hierarchical Aggregation and Reduction Protocol(SHARP)™ FP8 지원으로 4배의 대역폭 효율성을 제공합니다. 엔비디아 NVLink Switch Chip은 동일한 1.8TB/s 인터커넥트로 단일 서버 이상의 클러스터를 지원합니다. NVLink를 사용하는 다중 서버 클러스터는 증가된 컴퓨팅과 균형을 맞춰 GPU 통신을 확장하므로 NVL72는 단일 8-GPU 시스템보다 9배의 GPU 처리량을 지원할 수 있습니다.

 

압축 해제 엔진

데이터 분석 및 데이터베이스 워크플로우는 전통적으로 컴퓨팅을 위해 CPU에 의존해 왔습니다. 가속화된 데이터 과학은 엔드투엔드 분석의 성능을 크게 향상시켜 가치 창출 속도를 높이는 동시에 비용을 절감할 수 있습니다. 아파치 스파크를 포함한 데이터베이스는 데이터 분석을 위해 대용량 데이터를 처리, 처리 및 분석하는 데 중요한 역할을 합니다.

Blackwell의 압축 해제 엔진과 NVIDIA Grace™ CPU의 대용량 메모리에 고속 링크(900GB/s의 양방향 대역폭)를 통해 액세스할 수 있는 기능은 LZ4, Snappy 및 Deflate와 같은 최신 압축 형식을 지원하여 데이터 분석 및 데이터 과학 분야에서 최고의 성능을 제공하는 전체 데이터베이스 쿼리 파이프라인을 acceler합니다.

 

RAS(신뢰성, 가용성 및 서비스성) 엔진

블랙웰은 다운타임을 최소화하기 위해 초기에 발생할 수 있는 잠재적 결함을 식별하기 위해 전용 RAS(Reliability, Availability, Serviceability) 엔진으로 지능적 복원력을 추가합니다. 엔비디아의 AI 기반 예측 관리 기능은 하드웨어와 소프트웨어 전반에 걸쳐 수천 개의 데이터 포인트를 지속적으로 모니터링하여 다운타임과 비효율성의 원인을 예측하고 차단합니다. 이를 통해 시간, 에너지 및 컴퓨팅 비용을 절약하는 지능적 복원력을 구축합니다. NVIDIA의 RAS Engine은 문제가 있는 부분을 식별하고 유지 관리 계획을 세울 수 있는 심층적인 진단 정보를 제공합니다. RAS Engine은 문제의 근원지를 신속하게 파악하여 처리 시간을 단축하고 효과적인 복구를 촉진하여 다운타임을 최소화합니다.





--------------------------------------------------광고(Advertising)-------------------------------------------------------------------------------------


TAG •

Who's DNAVI

profile

안녕하세요 macsplex.com 웹마스터 DNAVI입니다.

오픈소스를 좋아하고 컴퓨터에서 돌아가는 OS와 소프트웨어를 설치하고 웹사이트를 운영하는데 관심이 많습니다.

 

가지고 있는 제품리스트

PC  :

homebuilt computer(Intel i7-4790K, ASUS MAXIMUS Ranger Vii, AMD Radeon R290),

homebuilt computer(AMD Phenom X4 630, GIGABYTE GA-61P-S3, NVIDIA GT8600),

Apple iMac 2009 late(Intel E7600)

Apple MacMini 2018(Intel i5-8500B, A1993)

homebuilt computer(AMD Ryzen 3200G, Asrock B450 Steel Legend)

Beelink SER(AMD Ryzen 7840HS, 64GB)

 

Notebook :

Apple Macbook Air 2022 (M2, A2681)

Lenovo LEGION 5 Pro 16ACH R7 STORM (AMD R7-5800H, NVIDIA RTX3060 laptop)

Lenovo Thinkpad T420s(Intel i5-2540M)

Apple Macbook Air 2011 Mid( i5-2467M, A1370)

 

Server :

Dell PowerEdge R420(Intel XEON E5-2407)

Dell PowerEdge R710(Intel XEON E5620 x2, 32GB)

HP Proliant Microserver Gen8(Intel XEON E3-1230V2)

 

NAS :

Synology.DS218+

BUFFALO LinkStation Live LS-XL/E

 

Smartphone:

Motorola Edge 20 pro

Apple iPhone 12

Apple iPhone 15 Pro Max

Samsung Galaxy S8

Xiaomi Redmi Note 4, Mi 8

Lenovo Phab2 Pro

Apple iPhone 5

Huawei X3, Nova Smart

Blackberry 9790

 

Tablet :

Apple iPad Air2

Samsung Galaxy Tab S7+

 

Game Console :

Sony PSP, PS3, PS4 Pro, PS5

Microsoft Xbox 360, Xbox One X

Nintendo DS Lite, 3DS XL, Switch Lite, Switch

HardKernel Odrid Go Advance Black Edition

Gamepark GP2X-F100


List of Articles
분류 제목 글쓴이 날짜
제품 ASRock, 두 개의 새로운 AI 도구로 AI QuickSet 2024 1분기 업데이트 공개 1 file DNAVI 2024.04.02
제품 NVIDA Blackwell 아키텍쳐 새로운 산업혁명의 엔진. file DNAVI 2024.03.19
제품 아틱 Freezer 36 쿨러시리즈는 인텔 LGA1851 소켓을 지원합니다. file DNAVI 2024.03.06
제품 뭐라고요? RTX와의 채팅으로 엔비디아 RTX AI PC에 맞춤형 챗봇 제공 1 file DNAVI 2024.02.16
제품 Nvidia RTX 2000 Ada는 가장 작은 GeForce RTX 4000 GPU와 16GB VRAM 및 70W TGP를 결합합니다 file DNAVI 2024.02.15
MS 원도우즈 윈도우 11은 AI를 사용하여 게임을 자동으로 업스케링을 가능하게 합니다. file DNAVI 2024.02.14
유출/루머 AMD Radeon RX 8800 XT는 3GHz이상으로 부스트되고, 4nm 공정에서 제조되는 Tensor 유닛을 지원합니다. file DNAVI 2024.02.12
유출/루머 인텔 애로우 레이크 데스크톱 CPU에 120Gbps 썬더볼트 5 및 더 많은 PCIe 5.0 레인 제공, 바로우 릿지 컨트롤러가 출시됩니다. file DNAVI 2024.01.24
제품 삼성 EVO 990 SSD 소개합니다. file DNAVI 2024.01.24
제품 삼성, 5,000만 화소, 200만 화소 카메라를 탑재한 갤럭시 S24, S24+, S24 울트라 출시 file DNAVI 2024.01.18
제품 삼성이 엑시노스 2400에 대한 자세한 정보를 공개했습니다 file DNAVI 2024.01.18
업계동향 애플, 애플워치 혈중 산소 기능 제거를 강조하기 위해 웹 사이트 업데이트 file DNAVI 2024.01.18
업계동향 Microsoft, 코파일럿 및 Windows AI 기능의 최소 요구 사양으로 16GB RAM 설정 file DNAVI 2024.01.18
제품 AMD, 데스크탑용 Ryzen 8000 프로세서 출시: Zen 4c 및 Ryzen AI를 탑재한 하이브리드 CPU file DNAVI 2024.01.11
제품 MSI, 코어 울트라를 탑재한 세계 최초의 게이밍 핸드헬드 클로를 공개합니다. file DNAVI 2024.01.09
제품 게인워드, 지포스 RTX 40 SUPER 시리즈 그래픽 카드 출시 file DNAVI 2024.01.09
제품 CES 2024 새로운 레노버 LQQ 15 라인업 출시 file DNAVI 2024.01.09
제품 팀그룹(Team Group), T-FORCE GE PRO NVMe 5세대 SSD 출시 file DNAVI 2024.01.05
제품 ePMR 및 UltraSMR을 기반으로 28TB HDD를 준비하는 Western Digital file DNAVI 2023.08.02
제품 에이텐 테크놀로지, 새로운 초강력 USB-C 워크스테이션 KVM 출시 file DNAVI 2023.06.29
Board Pagination Prev 1 2 3 4 5 6 7 Next
/ 7