**번역본뉴스입니다. 오역이 있을수 있습니다.

랙 스케일 AI 인프라용 반도체 기반 연결성 솔루션의 선도 기업인 아스테라 랩스(Astera Labs, Inc., 나스닥: ALAB)가 오늘 '오리온(Orion)'을 발표했습니다. 오리온은 고객이 자체적으로 GPU와 CPU를 직접 선택할 수 있도록 지원하는, 양산급 연결성을 갖춘 모듈형 랙 스케일 레퍼런스 디자인입니다. 아스테라 랩스의 ODM 및 OEM 파트너를 통해 제공될 오리온 양산급 레퍼런스 디자인은 네오클라우드(neocloud) 및 엔터프라이즈 고객이 AI 인프라를 더 빠르게 배포하고 더 효율적으로 운영하여 오픈 표준 기반으로 구축된 랙을 토큰 효율적인 AI 팩토리로 탈바꿈할 수 있도록 도울 것으로 기대됩니다.

네오클라우드와 기업이 대규모 추론 서비스를 경제적으로 제공하기 위해서는 점점 더 복잡해지는 AI 인프라 전반에서 예측 가능하고 지연 시간이 짧은 성능을 제공하는 동시에 충분한 가속기 및 CPU 용량을 확보해야 합니다. 그러나 워크로드에 어떤 가속기를 사용할 수 있을지 혹은 감당할 수 있는 가격일지 알기도 훨씬 전에 해당 용량에 투자해야 하므로, 초기 투자를 단일 플랫폼에 묶어두는 것은 불필요한 비용과 위험을 초래합니다. 동시에 ODM과 OEM은 새로운 가속기 플랫폼이 나올 때마다 복잡한 통합, 검증 및 소프트웨어 문제를 반복해서 해결해야 하므로 추론 용량에 대한 수요가 극에 달한 시점에 배포 속도가 느려지게 됩니다.

오리온은 랙 스케일 설계에서 가속기 및 CPU 선택을 분리(디커플링)하는 양산급 레퍼런스 아키텍처를 통해 이러한 문제를 해결합니다. 업계 최고의 추론 가속기 및 CPU 생태계를 지원하도록 개방형 표준을 기반으로 구축된 오리온은, 기술 및 시장 역학이 진화하더라도 랙을 재설계할 필요 없이 운영자가 인프라를 한 번 구축한 후 PCIe 플러그인 카드를 통해 가장 비용 효율적이고 즉시 사용 가능한 연산 리소스 전반으로 추론 워크로드를 확장할 수 있도록 설계되었습니다. 오리온의 핵심은 파드(pod)당 최대 160개의 가속기를 연결하고 랙 및 파드 전반에 걸쳐 예측 가능하고 저지연 통신 및 확장된 메모리 용량을 제공하도록 엔지니어링된 고성능 표준 기반 스케일업 패브릭입니다.

오리온의 최적화된 PCIe 연결성과 조합 가능한(composable) 인프라는 가속기가 AI 추론 워크로드 전반에서 초당 더 많은 토큰(tokens-per-second)을 추출할 수 있도록 추가 지원합니다. 오리온은 컴퓨팅 트레이, 패브릭 트레이, 메모리 트레이, 링크 보드, 컴퓨팅 보드의 시스템 구성을 포함하는 완전한 모듈형 랙 스케일 레퍼런스 디자인으로 제공되며, 이 모든 구성 요소는 관리, 플릿 전반의 텔레메트리, 진단 및 AI 인프라 인텔리전스를 위한 COSMOS 랙 매니저 및 COSMOS 패브릭 매니저 오케스트레이션 소프트웨어와 통합되어 있습니다.

아스테라 랩스의 AI 플랫폼 솔루션 그룹 부사장 겸 총괄 책임자인 프라빈 파텔(Pravin Patel)은 다음과 같이 밝혔습니다. "우리는 운영자가 랙 내부의 하드웨어가 아니라 1달러당 제공하는 토큰 수로 평가받는 새로운 AI 추론 시대로 접어들고 있습니다. 오리온은 AI 추론 클라우드 제공업체에 연산 장치에 구애받지 않는(compute-agnostic) 양산급 아키텍처를 제공함으로써, 이들이 추론 용량을 온라인에 빠르게 배치하고 고객에게 결과 기반 가격을 책정하며 산업 및 컴퓨팅 환경의 변화에 유연하게 적응할 수 있도록 해줍니다."

오리온 랙 레퍼런스 및 시스템 디자인은 2027년 1분기부터 아스테라 랩스의 OEM 및 ODM 파트너를 통해 공급될 예정입니다. 아스테라 랩스는 캘리포니아주 새너제이에서 10월 12일부터 15일까지 열리는 2026 오픈 컴퓨트 프로젝트(OCP) 글로벌 서밋에서 다양한 CPU 및 가속기 구성으로 교체 가능하고 사전 검증된 컴퓨팅 트레이를 갖춘 오리온 구동 랙을 선보일 예정입니다.

제품사이트 - https://www.asteralabs.com/products/orion-rack-scale-reference-architecture/