**번역본뉴스입니다. 오역이 있을수 있습니다.

라떼판다 팀(LattePanda Team)이 온디바이스(On-device) AI를 위해 특별히 설계된 마이크로 x86 컴퓨트 모듈인 LattePanda Mu Ultra를 오늘 공식 출시했습니다. 인텔 코어 울트라 5 226V 및 울트라 7 256V 프로세서로 구동되는 이 모듈은 단 69.6 mm × 60 mm의 컴팩트한 폼팩터에서 최대 115 TOPS의 AI 연산 성능을 제공합니다. 로컬 환경에서 AI를 구동할 때 발생하는 하드웨어, 연산력, 소프트웨어적 과제를 해결하도록 제작되어, 로보틱스, 산업 자동화, 휴대용 계측기, 비전 AI 및 다양한 지능형 엣지 애플리케이션 분야의 엔지니어링 팀, 시스템 통합(SI) 업체, OEM에 강력한 AI 컴퓨팅 파워를 전달합니다.

컴팩트한 x86 모듈에서 발휘되는 115 TOPS의 AI 성능

LattePanda Mu Ultra는 인텔 코어 울트라 5 226V 및 울트라 7 256V 프로세서의 CPU, GPU, NPU를 결합하여 전용 NPU의 47 TOPS를 포함해 최대 115 TOPS(INT8)의 AI 성능을 제공합니다.

69.6 mm × 60 mm 폼팩터는 휴대용 측정 기기, 스마트 카메라부터 로봇 및 기타 지능형 엣지 시스템에 이르기까지 공간 제약이 심한 장치에 강력한 x86 컴퓨팅을 구현합니다.

디바이스 내부에서 로컬로 실행되는 AI

LattePanda Mu Ultra는 AI 워크로드를 기기 자체에서 직접 처리하므로 초저지연 추론, 우수한 데이터 프라이버시 보호, 클라우드 컴퓨팅 의존도 감소를 실현합니다.

내부 테스트에서 LattePanda Mu Ultra는 내장 그래픽(iGPU) 상에서 OpenVINO GenAI 기반 INT4 양자화를 적용했을 때, Qwen3.5-9B 모델에서 초당 18 토큰(18 tokens/s), Qwen3.5-2B 모델에서 초당 55 토큰(55 tokens/s)의 텍스트 생성 속도를 달성했습니다. 이 결과는 클라우드 추론 없이도 즉각적인 반응성의 로컬 대화형 AI를 완벽히 지원할 수 있음을 입증합니다. 이를 통해 민감한 데이터를 외부로 유출하지 않고 기기 내에 보관하면서 로컬 음성 비서, 오프라인 문서 처리, 프라이빗 지식 기반 검색과 같은 애플리케이션에 매우 적합합니다.

AI 워크로드를 뒷받침하는 고대역폭 메모리

LattePanda Mu Ultra는 16GB LPDDR5X-8533 메모리를 탑재했으며, 그래픽 메모리로 최대 11.6GB까지 할당할 수 있어 CPU, GPU, NPU 전반에 걸친 고부하 AI 워크로드에 필요한 대역폭을 넉넉히 제공합니다.

해당 메모리 아키텍처는 거대언어모델(LLM)과 멀티모달 AI부터 실시간 센서 처리에 이르는 다양한 워크로드를 지원하도록 설계되었습니다. 대기 모드 소비 전력이 2.5W에 불과할 정도로 낮아, 전력 효율이 중요한 휴대용 기기 및 상시 가동 애플리케이션에도 최적화되어 있습니다.

기존 x86 시스템에 간편한 온디바이스 AI 도입

기기에 직접 AI를 배포하는 작업은 단순히 적절한 하드웨어를 선택하는 것에 그치지 않습니다. AI 소프트웨어 스택 전반에 걸친 호환성을 보장하는 과정에서도 상당한 개발 비용이 발생할 수 있습니다.

LattePanda Mu Ultra는 Windows와 Linux를 공식 지원하며 이미 확고하게 구축된 기존 x86 소프트웨어 생태계와의 호환성을 온전히 유지합니다. 또한 인텔 OpenVINO, llama.cpp, Ollama 등 널리 쓰이는 주요 AI 툴 및 프레임워크도 폭넓게 지원합니다.

이를 통해 엔지니어링 팀과 OEM은 기존 x86 애플리케이션 및 개발 워크플로우를 그대로 활용할 수 있어, 시스템을 처음부터 재구축할 필요 없이 온디바이스 AI 기능을 손쉽게 추가할 수 있습니다.

모듈형 설계를 통한 손쉬운 업그레이드

LattePanda Mu Ultra는 LattePanda Mu 제품군의 표준화된 폼팩터와 커넥터 규격을 그대로 계승하여 기존 캐리어 보드와 높은 호환성을 갖추고 있습니다. 3.5인치 Lite 캐리어 보드, Mini 캐리어 보드, M.2 M-Key 캐리어 보드 등과 결합 시, 캐리어 보드 전체를 새로 설계할 필요 없이 기존 시스템을 간단히 업그레이드할 수 있습니다.

PCIe 4.0, USB 3.2 Gen 2, USB 2.0, HDMI / DisplayPort, eDP, GPIO, UART, I2C 등의 폭넓은 인터페이스를 갖추어 빠른 프로토타입 제작과 소량 생산부터 대량 양산에 이르는 모든 개발 단계를 완벽히 지원합니다.

온디바이스 AI의 5가지 핵심 활용 분야

• 지능형 AI 단말기: 낮은 지연 시간과 데이터 프라이버시가 필수적인 번역 기기, 음성 비서, 프라이빗 지식 기반 애플리케이션을 위해 기기 자체에서 LLM을 로컬로 구동합니다.

• 휴대용 계측 기기: 스펙트럼 분석기 및 휴대용 진단 장비와 같은 핸드헬드 기기에 고성능 x86 컴퓨팅을 도입하여 AI 기반의 실시간 분석을 지원합니다.

• 자율이동로봇(AMR): 공간이 협소한 로봇을 위해 설계된 컴팩트 컴퓨팅 플랫폼에서 실시간 센서 퓨전, SLAM 및 자율 주행 내비게이션을 구현합니다.

• 서비스 로봇: 비전, 음성 및 LLM 기반 멀티모달 AI 워크로드를 단일 컴퓨팅 모듈에서 실행하여 서비스 로봇을 위한 통합 프로세싱 코어를 제공합니다.

• 온디바이스 비전 AI: 스마트 카메라 및 로봇 검사 시스템에서 고해상도 영상을 로컬로 처리하여, 데이터 전송량과 클라우드 컴퓨팅 비용을 절감하면서 저지연 불량 검출을 지원합니다.

주요 사양 (Key Specifications)

• 프로세서 옵션:

  • 인텔 코어 울트라 5 프로세서 226V (16GB 메모리)

  • 인텔 코어 울트라 7 프로세서 256V (16GB 메모리)

• AI 성능: 최대 115 TOPS (CPU + GPU + NPU, INT8 기준)

• NPU (신경망 처리 장치): 최대 47 TOPS INT8

• GPU (그래픽 처리 장치): 인텔 아크 그래픽(Intel Arc Graphics, 최대 8개 Xe 코어)

• 메모리: 16GB LPDDR5X-8533

• VRAM (할당 가능 그래픽 메모리): 대규모 언어 모델 및 KV 캐시를 위해 최대 11.6GB 할당 가능

• 디스플레이 출력: 최대 3 × HDMI / DisplayPort, 1 × eDP

• 규격: 69.6 mm × 60 mm

"클라우드에서 AI를 구동하는 것은 비교적 간단합니다. 진정한 난관은 개발자가 공간이 제한적이고 소비 전력이 중요하며 기존 소프트웨어의 마이그레이션 비용이 큰 실제 물리 기기에 AI를 배포해야 할 때 발생합니다."라고 유량 유(Youliang Yu) 라떼판다 제품 매니저는 밝혔습니다. "LattePanda Mu Ultra는 컴팩트한 x86 설계, 높은 AI 성능, 낮은 소비 전력으로 이러한 과제들을 해결합니다. 강력한 로컬 컴퓨팅과 기존 x86 생태계 전반의 호환성을 결합하여, 개발자가 시스템을 바닥부터 다시 만들지 않고도 실제 상용 제품에 AI를 통합할 수 있는 훨씬 수월한 경로를 제시합니다."

LattePanda Mu Ultra는 현재 라떼판다 공식 온라인 스토어에서 판매 중이며 시작 가격은 $599입니다. 전체 세부 사양 및 구매에 관한 정보는 라떼판다 공식 웹사이트에서 확인할 수 있습니다.

제품페이지 - https://www.lattepanda.com/lattepanda-mu-ultra