AMD, Instinct MI350P PCIe GPU 출시

**번역본뉴스입니다. 오역이 있을수 있습니다.

많은 조직들이 AI를 도입하면서 기존 인프라가 이를 감당하기 어렵다는 사실을 발견하고 있습니다. 클라우드에서 AI를 구동하는 것도 하나의 선택지이지만, 클라우드는 개인정보 보호 문제와 예측 불가능한 비용을 초래할 수 있습니다. 온프레미스(자체 구축) 인프라를 업그레이드하는 방법도 있으나, 대규모 GPU 가속기 플랫폼을 지원하려면 데이터 센터의 전력 및 냉각 설계를 비싼 비용을 들여 재설계해야 할 수도 있습니다. 우리의 새로운 AMD Instinct MI350 PCIe 카드는 기업에 세 번째 선택지를 제공합니다. 바로 여러분이 이미 보유하고 있는 데이터 센터 인프라에 적합하도록 설계된 리더십급 AI 성능입니다.

기존 랙에 바로 장착 가능한 성능

에이전틱(agentic) AI 시대를 준비할 수 있도록 설계된 AMD Instinct MI350P PCIe 카드는 표준 공랭식 서버를 위한 듀얼 슬롯 장착형 카드입니다. 이 카드는 현재 데이터 센터의 전력, 냉각 및 랙 인프라 내에서 온프레미스 추론을 배포할 수 있도록 제작되었습니다. 비용 효율적인 PCIe 카드 형태의 AMD Instinct GPU는 AMD AI 컴퓨팅 포트폴리오를 완성하며, 기업이 고유한 AI 도입 곡선을 따라 나아갈 때 다양한 선택지를 제공합니다.

PCIe 카드 폼 팩터는 CPU가 제공하는 것 이상의 AI 컴퓨팅 파워가 필요하지만, 전용 GPU 가속기 플랫폼에 투자할 준비가 되지 않은 기업에 탁월한 선택입니다. 최대 8개의 가속기 카드를 장착한 공랭식 시스템에서 사용할 수 있는 AMD Instinct MI350P PCIe 카드는 추론 및 RAG(검색 증강 생성) 파이프라인을 위한 소형, 중형 및 대형 AI 모델에 이상적입니다.

단순한 AI 확장을 넘어선 ROI 확장

AMD Instinct MI350P PCIe 카드는 뛰어난 비용 효율과 리더십급 성능으로 탁월한 AI 성능을 제공하도록 설계되었습니다. 주요 특징들은 성능을 높이고 배포를 단순화하며 비용을 절감하여, 여러분이 평가 단계에서 실제 성과 단계로 나아갈 수 있도록 돕습니다.

• 높은 처리량을 제공하는 저정밀도 MXFP6 및 MXFP4 네이티브 지원.

• 대부분의 주요 8비트 및 16비트 정밀도를 위한 희소성(sparsity) 지원을 통한 가속.

• MXFP4 기준 예상 2,299 TeraFLOPS(TFLOPS) 및 최대 4,600 피크 TFLOPS 제공으로, 현재 기업용 PCIe 카드 중 최고 성능 구현.

• 최대 4 TB/s로 작동하는 예상 144 GB의 고대역폭 메모리 3e(HBM3E).

• 저비용 및 무료 개발 스택 옵션을 갖춘 개방형 생태계로 배포를 단순화하고 운영 비용 절감에 기여.

기업용 AI 소프트웨어 - 오늘 바로, 당신의 방식대로 AI 스택 개발

우리는 플랫폼 간 상호 운용성을 위해 개방형 표준을 바탕으로 AMD Instinct MI350P PCIe 카드를 제작했습니다. 이번 신제품 추가는 완전히 개방된 AI 생태계를 활성화하고 기업 환경에서 고객에게 선택권을 제공하려는 우리의 전략을 이어가는 것입니다.

AMD 기업용 AI 스택을 기반 구성 요소로 생각하십시오. 이는 광범위한 AI 소프트웨어 및 도구 생태계와 원활하게 통합됩니다. 여기에는 전체 수명 주기 관리를 위한 Kubernetes GPU Operator, 클라우드 네이티브 AMD 추론 마이크로서비스(Inference Microservices), 그리고 PyTorch와 같은 AI 프레임워크에 대한 네이티브 지원이 포함됩니다. 이 모든 것을 통해 최소한의 코드 변경만으로 추론 워크로드를 마이그레이션할 수 있습니다.

우리는 파트너사들에게 오픈 소스 AMD 기업용 AI 참조 스택을 라이선스 비용 없이 제공합니다. 이는 더 큰 코드 투명성을 제공하고 운영 비용을 줄이는 데 도움이 됩니다. AMD Instinct MI350P PCIe 카드 및 파트너가 제공하는 솔루션과 결합될 때, 이 스택은 조직이 지속적인 토큰당 비용 지불 없이 온프레미스에서 신속하게 시스템을 가동하고 운영할 수 있게 해줍니다.

기업용 AI 정밀도 수준을 위한 네이티브 가속

AMD Instinct MI350P PCIe 카드는 기업용 AI 모델이 가장 많이 의존하는 다양한 범위의 정밀도 수준을 지원합니다.

저정밀도 MXFP6 및 MXFP4가 순수 TFLOPS 측면에서 극대화된 성능과 효율적인 모델 구현을 제공하는 반면, INT8 및 BF16과 같은 고정밀도 형식은 AMD Instinct MI350P GPU의 희소성 지원을 통해 효율적인 성능의 이점을 누릴 수 있습니다. 정밀도와 관계없이 기업들은 AMD Instinct MI350P PCIe 카드가 최대 GPU 처리량을 제공하고 메모리 사용량을 줄여 전력 및 냉각 수요를 낮추도록 설계되었음을 알게 될 것입니다.

FP8, MXFP8 및 MXFP4 지원은 AMD Instinct MI350P PCIe 카드가 오늘날의 AI 워크로드를 표준 공랭식 데이터 센터 내에서 처리할 수 있는 주요 이유입니다.

현재의 위치에서 즉시 기업용 AI 배포

AMD Instinct MI350P PCIe 카드를 통해 기업은 베어메탈 인프라에서 강력한 기반을 갖춘 생산 준비 완료 상태의 AI 시스템으로 신속하게 전환할 수 있습니다. 이를 통해 코드 재작성 없이 워크로드를 마이그레이션하고, 기존 AI 파이프라인과 통합하며, 진화하는 워크로드에 맞춰 확장할 수 있습니다.

제품페이지 : https://www.amd.com/en/products/accelerators/instinct/mi350/mi350p.html