AMD, 'Helios' 랙스케일 AI 시스템 공개 — 단일 벤더로 Nvidia NVL72에 정면 도전

무슨 일이 있었나

AMD는 'Advancing AI' 이벤트에서 데이터센터 AI 사업의 무게중심을 '칩'에서 '시스템'으로 옮기는 발표를 내놨다. 핵심은 랙스케일 시스템 Helios다. Helios는 6세대 EPYC 9006 서버 CPU와 신규 Instinct MI455X GPU, 그리고 Pensando 기반 네트워킹과 ROCm 소프트웨어 스택을 하나의 통합 플랫폼으로 묶는다. 고객은 GPU 보드만 사는 것이 아니라 CPU·가속기·네트워크·소프트웨어가 사전 통합·검증된 랙 단위를 도입할 수 있다.

EE Times는 이번 발표를 "경고 사격"으로 규정했다. 그동안 AMD의 Instinct 라인은 Nvidia의 개별 GPU(H100·B200 계열)에 대응하는 '가속기 대 가속기' 구도로 읽혔지만, Helios는 겨냥 대상 자체가 다르다. Nvidia가 Vera Rubin 세대와 함께 밀고 있는 랙스케일 제품 NVL72 — 72개 GPU를 고속 인터커넥트로 묶어 하나의 거대한 가속기처럼 동작시키는 시스템 — 이 진짜 상대다.

왜 '단일 벤더 통합'이 중요한가

대규모 AI 클러스터를 구축할 때 실제 병목은 종종 반도체 그 자체가 아니라 통합이다. GPU, CPU, NIC, 스위치, 케이블링, 전력·냉각, 그리고 이 모두를 묶는 소프트웨어가 서로 다른 벤더에서 오면 성능 튜닝과 장애 원인 규명에 막대한 엔지니어링 비용이 든다. Nvidia가 지난 몇 년간 시장을 장악한 배경에는 CUDA뿐 아니라 GPU·NVLink·NIC·랙 설계를 수직 통합해 '사서 켜면 도는' 경험을 제공한 점이 크다.

Helios는 바로 그 지점을 노린다. AMD가 CPU(EPYC), GPU(Instinct), DPU/네트워킹(Pensando), 소프트웨어(ROCm)를 모두 자체 보유하고 있다는 사실이 이번에 처음으로 '완결된 랙 제품'으로 결합됐다. 구매자 입장에서 이는 통합 리스크를 벤더에게 넘길 수 있다는 뜻이고, 데이터센터 사업자 입장에서는 공급망을 Nvidia 단일 의존에서 벗어나게 할 협상 카드가 하나 더 생긴다는 의미다.

여기에는 전력과 냉각이라는 물리적 현실도 얽혀 있다. 랙 한 대에 수십 개의 고전력 가속기를 몰아넣으면 수십 킬로와트급 전력 밀도가 나오고, 이는 액침·직접 수랭 같은 냉각 설계, 전력 분배, 케이블 토폴로지가 GPU 사양만큼이나 성능을 좌우한다는 뜻이다. 랙 전체를 한 벤더가 사전 설계·검증해 제공하면 이 복잡성을 고객이 직접 풀지 않아도 된다는 점이 Helios 같은 통합 시스템의 실질적 매력이다.

표의 대응 관계는 각 사의 랙스케일 전략을 개략적으로 비교한 것이며, 세대별 상세 스펙은 제품마다 다르다.

MI455X: 칩렛·HBM4·2nm의 결합

Helios의 심장인 Instinct MI455 GPU는 AMD가 축적해 온 칩렛(chiplet) 설계의 연장선에 있다. TSMC의 2nm·3nm 공정을 혼용해 12개의 컴퓨트/IO 칩렛을 하나의 패키지에 통합한다. 연산 성능은 FP8 기준 20 PFLOPS, 메모리는 차세대 HBM4를 432GB 탑재한다. AMD는 이전 세대인 MI355 대비 토큰 처리량이 약 4배라고 밝혔다.

몇 가지 의미를 짚어보자. 첫째, 칩렛은 거대한 단일 다이(monolithic die)를 만드는 대신 작은 조각을 이어 붙여 수율과 비용을 관리하는 전략이다. AI 가속기의 다이 면적이 물리적 한계(레티클 한계)에 부딪히는 상황에서, 칩렛은 성능을 계속 키우기 위한 현실적인 길이다. 둘째, HBM4 432GB라는 대용량 온패키지 메모리는 추론 워크로드에서 결정적이다. 큰 모델과 긴 컨텍스트를 GPU 메모리에 더 많이 올릴수록, 노드 간 통신과 KV 캐시 이동에 드는 비용이 줄어들기 때문이다.

다만 FP8 20 PFLOPS 같은 수치는 특정 데이터 타입·조건에서의 피크 값이라는 점을 기억해야 한다. 실제 학습·추론 성능은 소프트웨어 성숙도, 커널 최적화, 네트워크 토폴로지에 크게 좌우된다. 카탈로그 스펙과 현장 성능 사이의 간극이 바로 다음 이야기다.

셋째로, 공정 혼용(2nm·3nm)은 비용과 성능을 동시에 잡으려는 절충이다. 성능이 가장 민감한 컴퓨트 칩렛은 최신 2nm에, 상대적으로 스케일링 이득이 적은 IO·인터커넥트 계열은 3nm에 배치하는 식으로 트랜지스터 예산을 배분하면, 전면 2nm 단일 다이보다 수율과 단가 측면에서 유리해진다. 이는 곧 대량 공급 가능성과도 직결되는데, AI 가속기 경쟁에서 '얼마나 빠른가' 못지않게 '얼마나 많이, 제때 찍어낼 수 있는가'가 실질적인 승부처이기 때문이다.

진짜 관건은 소프트웨어: ROCm

하드웨어 스펙만 보면 AMD는 이미 여러 세대에 걸쳐 경쟁력 있는 숫자를 내왔다. 그럼에도 시장 점유율이 크게 움직이지 않은 이유는 소프트웨어 생태계에 있다. Nvidia의 CUDA는 15년 넘게 쌓인 라이브러리·커널·프레임워크 통합·개발자 습관의 총합이며, 이 해자(moat)를 넘지 못하면 좋은 칩도 팔리지 않는다.

AMD의 답은 ROCm이다. ROCm은 오픈 소스를 지향하는 GPU 컴퓨팅 스택으로, 최근 몇 년간 PyTorch·주요 추론 엔진과의 통합이 꾸준히 개선돼 왔다. Helios가 성공하려면 하드웨어 결합만으로는 부족하고, "기존 CUDA 코드를 최소한의 수정으로, 예측 가능한 성능으로 돌릴 수 있는가"라는 개발자 질문에 답해야 한다. 아래는 프레임워크 관점에서 이식이 얼마나 매끄러운지를 가늠하는 단적인 예다.

# PyTorch에서 디바이스 코드는 대개 그대로다 — 백엔드가 ROCm인지 CUDA인지는
# torch가 추상화한다. 관건은 '이 추상화가 얼마나 빈틈없이 동작하느냐'다.
import torch

print(torch.cuda.is_available())      # ROCm 빌드에서도 True로 보고됨
print(torch.cuda.get_device_name(0))  # 예: "AMD Instinct MI455X"

model = MyTransformer().to("cuda")     # 코드상 'cuda'가 실제로는 ROCm 디바이스
x = torch.randn(8, 4096, device="cuda")
out = model(x)                        # 커스텀 CUDA 커널을 쓰면 이 지점에서 이식 비용 발생

핵심은 표준 경로(순정 PyTorch, 표준 연산자)는 비교적 잘 도는 반면, 성능을 쥐어짜기 위해 손으로 짠 CUDA 커널이나 특정 라이브러리(FlashAttention 변형 등)에 의존할수록 이식 비용이 커진다는 점이다. 그래서 이번 발표의 성패는 스펙표가 아니라 ROCm 상의 실측 처리량과 안정성, 그리고 주요 오픈소스 프로젝트의 1급(first-class) 지원 여부에서 갈릴 가능성이 높다.

개발자와 인프라 담당자에게 무슨 의미인가

실무자 입장에서 이번 발표가 갖는 함의는 크게 셋이다.

• 공급 다변화: Nvidia 물량 확보 경쟁과 가격 압박에 시달리던 조직에게 신뢰할 만한 제2 공급원이 생기는 것은 그 자체로 협상력과 리드타임 개선을 뜻한다.
• 이식성 검증의 시대: "우리 워크로드가 ROCm에서 CUDA만큼의 비용·성능을 내는가"를 실제로 측정하는 것이 인프라 팀의 새로운 숙제가 된다. PoC 없이 스펙만으로 결정하지 말 것.
• 추론 중심 최적화: 432GB HBM4 같은 대용량 메모리는 특히 대형 모델 추론·롱컨텍스트에서 유리하다. 학습 못지않게 추론 비용이 총소유비용(TCO)을 지배하는 조직이라면 눈여겨볼 만하다.

동시에 냉정한 시각도 필요하다. 랙스케일 시스템은 제품 발표와 실제 대량 공급·소프트웨어 성숙 사이에 시차가 크다. 발표된 수치가 인상적이어도, 데이터센터가 실제로 대체 결정을 내리려면 독립 벤치마크, 장기 안정성, 부품 공급 능력, 서비스·지원 체계가 함께 검증돼야 한다. Data Center Knowledge가 정리한 2026년 하반기 하드웨어 동향에서도 이런 랙스케일 경쟁은 '판이 커지는 신호'로 다뤄지되, 판도 변화의 확정으로 성급히 결론짓지는 않는다.

남은 질문들

가장 큰 변수는 역시 소프트웨어와 공급이다. ROCm이 CUDA의 개발자 경험을 얼마나 좁혀 오는지, MI455X와 EPYC 9006의 실제 양산·납품 일정이 어떻게 되는지, 그리고 대형 클라우드·AI 랩들이 Helios를 파일럿을 넘어 주력으로 채택하는지가 향후 12~18개월의 관전 포인트다. 지금 시점에서 확실한 것은 하나다. AI 인프라 경쟁의 단위가 칩에서 랙으로 올라섰고, 그 링 위에 이제 두 명의 선수가 섰다는 것.

자주 묻는 질문

Helios는 정확히 무엇인가요?

AMD가 'Advancing AI' 이벤트에서 공개한 랙스케일 AI 시스템입니다. 6세대 EPYC 9006 CPU, 신규 Instinct MI455X GPU, Pensando 네트워킹, ROCm 소프트웨어를 하나로 통합한 단일 벤더 플랫폼으로, 개별 GPU가 아니라 랙 한 대를 통째로 제공하는 것이 특징입니다.

왜 Nvidia NVL72를 겨냥한다고 하나요?

NVL72는 Nvidia가 Vera Rubin 세대와 함께 밀고 있는 랙스케일 제품으로, 다수의 GPU를 고속 인터커넥트로 묶어 하나의 거대한 가속기처럼 동작시킵니다. Helios 역시 랙 전체를 단일 논리 가속기처럼 다루는 통합 시스템이므로, 개별 칩이 아니라 이 NVL72가 직접적인 경쟁 상대입니다.

MI455X의 주요 스펙은 무엇인가요?

TSMC 2nm·3nm 공정에 12개의 컴퓨트/IO 칩렛을 통합하며, FP8 기준 20 PFLOPS 연산 성능과 HBM4 432GB 메모리를 제공합니다. AMD는 이전 세대 MI355 대비 토큰 처리량이 약 4배라고 밝혔습니다. 다만 이 수치들은 특정 조건의 피크 값이라는 점을 감안해야 합니다.

"달러당 토큰 18배"는 믿을 수 있는 수치인가요?

AMD CEO Lisa Su가 MI355 대비 최대 18배라고 언급한 값으로, 벤더가 제시한 세대 간 비교입니다. 워크로드와 측정 방식에 따라 크게 달라지므로 독립 벤치마크로 검증되기 전까지는 상한값(마케팅 수치)으로 보는 것이 안전합니다.

기존 CUDA 코드를 그대로 쓸 수 있나요?

표준 PyTorch 경로나 일반 연산자는 ROCm에서 비교적 잘 동작하지만, 성능을 위해 손으로 작성한 CUDA 커널이나 특정 라이브러리에 의존할수록 이식 비용이 커집니다. 도입 전 실제 워크로드로 PoC를 돌려 비용·성능·안정성을 직접 측정하는 것이 권장됩니다.

지금 당장 Nvidia에서 갈아타야 하나요?

서두를 필요는 없습니다. 제품 발표와 실제 대량 공급·소프트웨어 성숙 사이에는 시차가 있고, 독립 벤치마크·장기 안정성·공급 능력·지원 체계가 함께 검증돼야 합니다. 다만 제2 공급원의 등장은 협상력과 공급 안정성 측면에서 그 자체로 의미가 있으므로, 평가 항목에 올려둘 가치는 충분합니다.

출처

• EE Times — Warning Shots Fired as AMD Announces New Data Center GPUs at Advancing AI Event
• Data Center Knowledge — Data Center Hardware Highlights (August 2026)