게시일 | 최종 수정

먼저 결론부터 말하면, AMD의 2026년 전략은 ‘NVIDIA GPU보다 빠른 칩 하나’를 내놓는 데서 끝나지 않습니다. AMD Helios는 가속기(GPU), 서버용 CPU, 네트워크, 전원·냉각 설계, 그리고 ROCm 소프트웨어를 함께 묶은 AI 랙스케일 플랫폼입니다. 랙스케일이란 서버 한 대의 사양이 아니라, 여러 서버와 장비가 한 덩어리처럼 작동하도록 설계하는 방식입니다.
중학생도 이해하기 쉽게 비유하면 GPU는 축구팀의 공격수입니다. 하지만 경기에서 이기려면 공을 전달할 미드필더, 전술을 정하는 감독, 선수들이 뛰는 경기장도 필요합니다. AI 데이터센터에서도 GPU의 계산 성능만큼 데이터를 준비하는 CPU, GPU끼리 연결하는 네트워크, 열을 식히는 냉각, 개발자가 쓰는 소프트웨어가 중요합니다. AMD가 Helios로 파는 것은 ‘공격수 한 명’보다 팀이 실제로 경기를 치르는 구조에 가깝습니다.
AI 데이터센터에서 GPU만 빠르면 충분하지 않은 이유
대형 생성형 AI 모델은 수천 장의 가속기를 함께 쓸 수 있습니다. 이때 CPU는 작업을 나누고 데이터를 준비하며, 네트워크 장치는 GPU 사이로 데이터를 옮깁니다. 메모리는 모델의 가중치와 대화 문맥, 중간 계산 결과를 담습니다. 어느 한 곳이 느리면 빠른 GPU도 기다려야 합니다. 이것을 병목이라고 합니다.
특히 추론, 즉 학습을 끝낸 AI가 사용자 질문에 답하는 단계에서는 ‘계산을 많이 하는가’와 ‘첫 답을 얼마나 빨리 보여주는가’가 같은 문제가 아닙니다. 긴 문서를 읽는 단계는 대량의 메모리와 처리량이 중요하고, 답을 한 토큰씩 생성하는 단계는 응답 지연시간이 중요할 수 있습니다. 따라서 고객은 GPU 개수뿐 아니라 메모리·네트워크·소프트웨어가 함께 작동하는 전체 비용을 보기 시작했습니다.
AMD Helios는 무엇을 묶었나

AMD의 Helios 공식 제품 페이지에 따르면, Helios는 72개의 Instinct MI455X GPU, EPYC ‘Venice’ 서버 CPU, Pensando Vulcano AI 네트워크 장치를 랙스케일 구조로 결합합니다. AMD는 UALink, OCP Open Rack Wide, Ultra Ethernet Consortium 같은 개방형 표준을 활용한다고 설명합니다. 여기서 개방형 표준은 고객이 특정 회사의 장비와 소프트웨어에 완전히 묶이는 위험을 줄이려는 선택입니다.
AMD가 공개한 설계 기준에는 랙 전체 31TB HBM4 메모리, FP4 기준 2.9엑사플롭스, FP8 기준 1.4엑사플롭스, GPU당 23.3TB/s 메모리 대역폭이 포함됩니다. 다만 이 수치는 AMD가 제시한 제품 설계·계산 기준입니다. 모든 고객 환경의 실제 서비스 속도, 전력비, 매출을 보장하는 숫자로 읽어서는 안 됩니다. 독자는 수치 자체보다 ‘메모리와 연결 구조를 랙 전체에서 관리한다’는 방향을 먼저 보는 편이 안전합니다.
| 구성 요소 | 중학생식 해석 | 운영에서 확인할 질문 |
|---|---|---|
| MI455X GPU | AI 계산을 하는 대형 계산기 | 계산 성능과 HBM 메모리가 충분한가 |
| EPYC Venice CPU | 일을 나누고 데이터를 준비하는 운영자 | GPU가 데이터 때문에 기다리지 않는가 |
| Pensando 네트워크 | 여러 계산기 사이의 넓은 도로 | GPU·랙 사이 데이터 이동이 막히지 않는가 |
| ROCm | 하드웨어를 쓰게 해 주는 개발 도구 상자 | 기존 코드 이전과 장애 대응이 쉬운가 |
MI455X의 핵심은 계산량만이 아니라 메모리와 연결이다
생성형 AI는 질문을 읽고 답을 만들 때 모델의 가중치와 대화 문맥을 계속 꺼내야 합니다. 따라서 GPU의 계산 코어가 아무리 빨라도 메모리에서 데이터를 늦게 가져오거나, 다른 GPU와 늦게 주고받으면 전체 속도는 떨어집니다. 자동차 엔진이 강해도 도로가 막히면 빨리 갈 수 없는 것과 같습니다.
AMD는 Helios가 UALink over Ethernet 기반으로 GPU를 연결하고, 랙 안의 scale-up 대역폭은 최대 260TB/s, 여러 랙으로 확장하는 scale-out 대역폭은 43TB/s라는 설계 수치를 제시합니다. scale-up은 같은 랙 안의 장비를 촘촘하게 연결하는 일이고, scale-out은 랙을 늘려 더 큰 클러스터로 확장하는 일입니다. 이 구분은 AI 데이터센터가 ‘GPU 한 장’을 사는 시장에서 ‘연결된 공장’을 짓는 시장으로 바뀌고 있음을 보여줍니다. [AMD Helios 공식 자료]
Anthropic의 최대 2GW 발표는 무엇을 뜻하나
AMD와 Anthropic은 최대 2GW 규모의 AMD Instinct MI450 시리즈 GPU를 Helios 랙스케일 솔루션으로 배치하는 전략적 협력을 발표했습니다. AMD 발표에 따르면 첫 1GW 배치는 2027년 상반기부터 시작될 예정이며, 양사는 ROCm 소프트웨어 최적화도 함께 진행합니다. [AMD·Anthropic 공동 발표]
여기서 2GW는 GPU 한 장의 전력소비가 아니라 대규모 컴퓨팅 인프라의 전력 규모를 뜻합니다. 중요한 점은 ‘최대 2GW’가 이미 모두 설치됐고 매출로 잡혔다는 뜻은 아니라는 것입니다. 발표된 최대 규모, 실제 주문, 데이터센터 전력 확보, 장비 설치, 고객 서비스 운영, 매출 인식은 서로 다른 단계입니다. Helios의 가능성을 볼 때는 대형 고객의 발표만큼이나 실제 배치 시기와 반복 주문을 함께 확인해야 합니다.
AMD와 Cerebras는 왜 추론 작업을 나누려 하나

AMD와 Cerebras는 AI 추론의 여러 단계를 서로 다른 장치에 나누는 구조를 발표했습니다. AMD Helios는 긴 프롬프트와 큰 문맥을 높은 처리량으로 다루고, Cerebras의 Wafer-Scale Engine은 답변 토큰을 빠르게 만드는 낮은 지연시간을 목표로 합니다. 두 회사는 이 조합이 최대 5배 높은 와트당 토큰 처리량을 목표로 한다고 설명했지만, 이는 공동 발표의 목표 수치입니다. 실제 효과는 모델 크기, 입력 길이, 요청량, 시스템 구성에 따라 달라질 수 있습니다. [AMD·Cerebras 공식 발표]
이 사례가 알려주는 핵심은 ‘모든 AI 작업에 같은 칩이 정답’이라는 생각이 약해지고 있다는 점입니다. AI 서비스 운영자는 이용자가 오래 기다리지 않게 하면서도, 같은 전력과 장비로 더 많은 요청을 처리해야 합니다. 그래서 학습, 긴 문맥 처리, 실시간 토큰 생성처럼 서로 다른 일에 맞는 하드웨어를 조합하는 전략이 늘어날 수 있습니다.
ROCm은 AMD 플랫폼 확장의 관문이다
데이터센터에 GPU를 넣는 것과 개발자가 계속 사용하는 것은 다른 문제입니다. 개발자는 PyTorch 같은 프레임워크, 라이브러리, 성능 분석 도구, 디버깅 환경이 익숙하게 돌아가기를 원합니다. AMD는 ROCm을 통해 PyTorch, TensorFlow, JAX, ONNX Runtime, vLLM, Triton 같은 생태계와의 호환성을 강조하고 있습니다. [AMD Advancing AI 공식 행사 자료]
그래서 AMD의 경쟁력은 MI455X 사양표만으로 판단하기 어렵습니다. 고객이 기존 코드를 얼마의 시간과 비용으로 옮길 수 있는지, 모델 최적화 도구가 충분한지, 문제가 생겼을 때 운영팀이 빨리 고칠 수 있는지가 실제 선택을 좌우합니다. ROCm은 단순한 부가 소프트웨어가 아니라, AMD 하드웨어가 고객 데이터센터에서 계속 쓰일 수 있게 만드는 관문입니다.
고객 다변화 신호와 확정 매출은 구분해야 한다

AMD는 Microsoft Azure와 Helios·EPYC Venice·네트워킹을 아우르는 AI 인프라 협력을 확대한다고 발표했습니다. 또한 OpenAI와의 기술 실행 단계 협력도 소개했습니다. AMD의 공식 자료에는 Anthropic, Microsoft, OpenAI, Meta, Oracle, Dell, HPE, Supermicro 등 여러 고객·파트너가 함께 언급됩니다. [AMD·Microsoft AI 인프라 발표] [AMD·OpenAI 업데이트]
다만 파트너 이름, 공동 시연, 로드맵 발표, 시험 배치, 대량 구매, 실제 매출 인식은 같은 말이 아닙니다. AMD가 NVIDIA의 지위를 단기간에 뒤집었다고 단정하기보다, 대형 고객이 한 공급업체에만 의존하지 않으려는 수요를 AMD가 시스템 단위로 흡수하려는 과정으로 보는 편이 정확합니다.
기존 글과 함께 읽으면 보이는 차이
Google TPU 8i와 GPU·KV cache를 다룬 글은 AI 추론에서 가속기와 메모리가 왜 중요한지 설명합니다. 이번 글은 그 칩과 메모리가 실제 데이터센터에 들어갈 때 CPU·네트워크·전력·냉각·소프트웨어까지 왜 함께 설계되어야 하는지를 이어서 보여줍니다.
또한 H200의 중국 수출과 AI 칩 경쟁을 다룬 글과 연결하면, AI 칩 시장에서 중요한 것이 단순한 연산 성능만이 아니라 고객이 선택할 수 있는 공급망과 소프트웨어 생태계라는 점도 함께 볼 수 있습니다. 두 글은 각각 칩의 경쟁 구도와 시스템 운영의 경쟁을 나누어 설명합니다.
한줄 정리
결국 AMD의 경쟁력은 GPU 한 장이 아니라 CPU·GPU·네트워크·ROCm을 실제 운영 가능한 랙 단위로 묶는 데 달려 있습니다.

댓글
댓글 쓰기