라떼군 이야기

퓨리오사AI: H100 대비 3.5배 효율을 자랑하는 RNGD 서버 공개

퓨리오사AI가 자사의 첫 번째 AI 추론용 턴키 솔루션인 ‘NXT RNGD 서버’를 정식으로 공개했습니다. 이 시스템은 기존 데이터센터 환경에 즉시 통합될 수 있도록 3kW의 낮은 전력 소모와 공랭식 설계를 갖추었으며, Furiosa SDK와 LLM 런타임이 사전 설치되어 있어 도입 즉시 활용 가능한 것이 특징입니다.

엔지니어 관점에서 주목할 점은 H100 대비 높은 전력 효율성과 더불어, 고가의 액체 냉각 설비나 독자적인 패브릭 없이 표준 PCIe 인터페이스만으로 고성능을 구현했다는 것입니다. 랙당 8kW 이하인 대다수의 기존 공랭식 데이터센터에서도 대규모 AI 추론 인프라를 구축할 수 있게 만든 점은 하드웨어 제약을 최적화된 시스템 설계로 극복한 기술적 성취입니다.

전력 비용과 인프라 제약으로 인해 AI 확장에 어려움을 겪던 기업들에게 현실적이고 비용 효율적인 대안이 될 것으로 기대됩니다. LG AI 연구원의 EXAONE 모델 구동 사례를 포함한 구체적인 벤치마크와 기술 사양이 궁금하시다면 원문을 일독해보시기를 권해 드립니다.

원문 읽기