GPU 한 장에서 랙 전체로
2026년 1월 CES 2026에서 공개된 AMD Helios의 핵심 숫자는 '72'입니다.
AMD Instinct MI455X 가속기(Accelerator, AI 계산을 전문적으로 처리하는 반도체) 72개를 한 시스템으로 구성했다는 뜻입니다.
AMD Instinct 제품 페이지에도 Helios와 72개 MI455X 구성이 제시되어 있습니다.
이 날짜는 페이지 확인 기준일이며 출시일이나 고객 출하일이 아닙니다.(1)(2)
이 숫자가 중요한 이유는 GPU를 많이 꽂았기 때문만이 아닙니다.
Helios는 Instinct GPU, EPYC 서버 CPU, Pensando 네트워킹, ROCm 소프트웨어 스택을 랙스케일(Rack-scale, 서버 랙 전체를 하나의 컴퓨팅 시스템처럼 설계하는 방식)로 결합합니다.(1) 일반 서버가 한 대의 상자 안에서 CPU와 여러 장치를 조율한다면, 랙스케일 시스템은 여러 연산 장치와 네트워크를 랙 전체 수준에서 함께 설계합니다.
AI 반도체 경쟁을 '가장 빠른 칩 한 개'만으로 판단하기 어려워진 이유입니다.
72개가 하나처럼 일하는 조건
거대 AI 모델 학습에서는 하나의 작업을 여러 가속기가 나눠 처리합니다.
예를 들어 모델의 가중치와 중간 계산값을 여러 장치에 분산하면, 각 장치는 계산을 끝낸 뒤 결과를 계속 주고받아야 합니다.
이때 연산기가 빨라도 데이터가 늦게 도착하면 대기 시간이 생깁니다.
상호연결(Interconnect, 가속기와 서버 사이에서 데이터를 전달하는 연결망)의 지연시간과 대역폭이 실질 성능을 좌우하는 배경입니다.
메모리도 같은 원리로 중요합니다.
모델과 입력 데이터가 연산 장치 가까이에 머물지 못하면 외부에서 데이터를 반복해 가져와야 하고, 계산보다 이동에 시간이 더 들 수 있습니다.
추론에서도 다수 사용자의 요청과 긴 문맥을 동시에 처리할수록 메모리 배치와 자원 조율이 복잡해집니다.
따라서 '72개'는 단순 합산 성능이 아니라 자원을 얼마나 효율적으로 묶어 쓰느냐는 시스템 설계 문제를 드러냅니다.
전력과 열 관리도 랙 단위에서 보아야 합니다.
여러 가속기가 동시에 작동하면 전력 공급 안정성, 열의 분산, 장시간 운용 조건이 서로 영향을 줍니다.
다만 Helios의 구체적인 전력 소비량이나 냉각 방식·요구량은 공식 자료만으로 확정할 수 없습니다.
독자는 특정 냉각 구조를 전제로 하기보다 제조사가 공개하는 랙 전력, 열 설계, 설치 조건을 같은 운용 범위에서 비교해야 합니다.
MI455X와 EPYC·Pensando·ROCm의 역할
Helios 안에서 MI455X는 행렬 연산처럼 AI 학습과 추론에 필요한 대규모 병렬 계산을 맡는 핵심 가속기입니다.
AMD는 Instinct GPU가 CDNA(Compute DNA, 데이터센터 연산에 초점을 둔 GPU 아키텍처)와 ROCm을 바탕으로 프런티어 AI 모델 학습, 추론, 시뮬레이션, 혼합 워크로드를 지원한다고 설명합니다.(1)
EPYC 서버 CPU는 운영체제와 애플리케이션을 실행하고, 데이터 준비와 작업 배분 등 시스템의 제어 역할을 담당합니다.
Pensando 네트워킹은 랙 안팎의 데이터 흐름을 연결하고 조율하는 축입니다.
ROCm은 소프트웨어 스택(Software stack, 개발 도구·라이브러리·실행 환경을 층층이 묶은 체계)으로서 AI 프레임워크와 하드웨어 사이를 이어 줍니다.
AMD 공식 페이지는 이 네 요소가 Helios라는 완전 통합형 AI 인프라를 구성한다고 설명합니다.(1)
쉽게 비유하면 MI455X가 계산 작업자라면, EPYC는 일을 배치하는 관리자, Pensando는 자재와 결과가 오가는 물류망, ROCm은 모두가 같은 절차로 일하게 하는 운영 체계입니다.
어느 한 요소가 뒤처지면 나머지 장치의 능력을 온전히 활용하기 어렵습니다.
그래서 고객에게는 최고 연산 수치뿐 아니라 기존 모델 코드의 이식성, 라이브러리 지원, 장애 진단 도구와 운영 자동화까지 중요합니다.
AMD가 겨냥한 통합 경쟁
Helios의 확인된 사실은 MI455X 72개와 EPYC, Pensando, ROCm을 한 랙스케일 솔루션으로 묶었다는 점입니다.(1) CES 2026 관련 독립 보도는 이를 AMD의 첫 통합 랙스케일 AI 플랫폼이자 NVIDIA의 랙스케일 접근에 대한 경쟁 대응으로 해석합니다.(2) 제품 구성과 산업적 평가는 구분해야 합니다.
AMD가 통합 시스템을 제시했다는 사실만으로 경쟁사보다 빠르거나 효율적이라고 결론 내릴 수는 없습니다.
전략적 의미는 분명합니다.
가속기만 공급하는 데서 그치지 않고 CPU, 네트워크, 개발 환경까지 하나의 설계로 제안하면 비교 대상도 칩에서 플랫폼으로 넓어집니다.
NVIDIA와의 AI 경쟁 역시 개별 GPU 사양표뿐 아니라 랙 전체의 처리량, 소프트웨어 생태계, 구축과 운영 난이도를 놓고 이루어지게 됩니다.
이는 Helios의 통합 구성이 보여주는 산업적 방향으로 이해하는 편이 정확합니다.
AI 인프라를 판단하는 비교 기준
앞으로 랙스케일 AI 발표를 볼 때는 다섯 축을 함께 살펴야 합니다.
연산 성능은 동일한 정밀도와 워크로드 조건인지, 메모리는 용량뿐 아니라 대역폭과 장치 간 데이터 이동 구조가 어떤지 확인해야 합니다.
상호연결은 랙 내부 확장과 외부 네트워크가 어디에서 병목을 만드는지가 중요합니다.
전력과 열 관리는 최대 수치 하나보다 실제 설치 환경에서 지속 운용할 수 있는지가 핵심입니다.
마지막으로 소프트웨어는 주요 AI 프레임워크, 라이브러리, 모니터링과 장애 대응 도구의 성숙도를 따져야 합니다.
MI455X 72개는 출발점일 뿐입니다.
72개가 한 작업을 효율적으로 나누고, 데이터를 제때 교환하며, 개발자가 기존 모델을 안정적으로 실행할 수 있어야 랙 전체의 가치가 생깁니다.
Helios가 보여준 AI 반도체 경쟁의 단위 '랙'은 칩의 중요성이 줄었다는 의미가 아닙니다.
좋은 칩을 메모리·네트워크·전력·열 관리·소프트웨어와 얼마나 정교하게 결합하느냐가 새로운 평가 항목으로 더해졌다는 뜻입니다.
가격, 실제 출하 범위, 제3자 벤치마크가 공개되면 같은 조건의 처리량과 총소유비용(TCO, 도입부터 운영까지 드는 전체 비용)을 함께 비교해야 합니다.
참고문헌 및 인용 사이트
- AMD, 'AMD Instinct 가속기 및 Helios 제품 페이지', 확인일 2026년 9월 9일, https://www.amd.com/ko/products/accelerators/instinct.html (1)
- Introl, 'AMD Helios가 NVIDIA에 도전: MI455X와 AI 인프라 패권 전쟁', 발행일 미표기, https://introl.com/ko/blog/amd-helios-mi455x-nvidia-competition-ces-2026 (2)