애플 M6·M5 Ultra 공개 — 2nm 칩과 512GB 통합 메모리의 의미

애플이 새로운 Mac 칩 두 종을 공개했다. 하나는 M6, TSMC의 2nm 공정으로 만든 첫 Mac 칩이자 새 Mac mini에 들어간다. 다른 하나는 M5 Ultra로, 다이 4개를 하나로 묶은 구성에 최대 80코어 GPU와 512GB 통합 메모리를 지원하며 새 Mac Studio에 탑재된다. 나는 발표를 보자마자 코어 숫자보다 "512GB"에 눈이 갔다. 로컬에서 LLM을 돌려본 사람이라면 이 숫자가 왜 게임 체인저인지 바로 안다. 아래 내용은 tech-insider.org 보도를 토대로 정리한 것이며, 세부 수치 일부는 애플 공식 스펙시트로 확정되기 전이라 그대로 받아들이기보다 방향성으로 읽는 게 안전하다.

위 표에서 M6 칸에 빈 곳이 좀 보일 텐데, 애플이 이번 발표에서 M6의 GPU 코어 수나 메모리 최대 용량 같은 세부를 M5 Ultra만큼 상세히 공개하진 않았기 때문이다. 확정 안 된 숫자를 그럴듯하게 채워 넣는 건 이 글의 방식이 아니다. 확실한 것부터 보자.

애플이 이번에 공개한 것 — 핵심만

요약하면 두 가지다. 첫째, M6는 애플 실리콘 중 처음으로 TSMC 2nm(N2) 공정에서 양산되는 Mac 칩이고 새 Mac mini의 심장이 된다. 둘째, M5 Ultra는 다이 4개를 하나로 결합한 구성으로 최대 80코어 GPU와 512GB 통합 메모리를 지원하며, 새 Mac Studio에 들어간다.

여기서 재밌는 지점 하나. Mac mini에는 최신 세대인 M6가, 상급기인 Mac Studio에는 한 세대 전 이름을 단 M5 Ultra가 들어간다. 숫자만 보면 거꾸로인 것 같지만 애플의 관행을 알면 자연스럽다. Ultra급 칩은 늘 기본 칩보다 한 박자 늦게 나온다. M6 Ultra가 아니라 M5 Ultra인 이유가 여기 있다. 이 얘기는 뒤에서 따로 다룬다.

M6가 2nm으로 간다는 것의 의미

공정 미세화의 핵심 효과는 두 가지다 — 같은 성능을 더 낮은 전력으로, 또는 같은 전력에서 더 높은 성능으로. M6가 TSMC 2nm(N2)으로 넘어갔다는 건 트랜지스터 밀도가 올라가고 전력 효율이 개선됐다는 뜻이다. Mac 라인업에서 2nm 칩은 M6가 처음이다.

N2 세대의 가장 큰 변화는 트랜지스터 구조 자체가 바뀐다는 점이다. 기존 FinFET에서 GAA(Gate-All-Around, 나노시트) 구조로 전환하는 노드가 바로 2nm 급이다. 게이트가 채널을 사방에서 감싸 누설 전류를 줄이고, 저전압에서의 효율이 좋아진다. 개발자 입장에서 이게 체감되는 지점은 결국 발열과 지속 성능이다. 노트북이 아니라 데스크톱(mini)이라 스로틀링 여유는 원래 있지만, 컴파일을 몇 시간씩 돌리거나 로컬 추론을 길게 태울 때 전력 효율은 전기요금과 소음으로 정직하게 돌아온다.

한 가지 짚어둘 점. 공정 세대(2nm)와 실제 트랜지스터 물리 치수는 오래전부터 1:1로 맞지 않는다. "2nm"는 마케팅 겸 세대 명칭에 가깝고, 실제 게이트 길이가 2나노미터라는 뜻이 아니다. 그래서 "몇 % 빨라진다" 같은 수치는 워크로드마다 크게 달라진다 — 발표 슬라이드의 향상률은 특정 조건에서의 값이라는 걸 감안하자.

M5 Ultra의 4-die 구성과 80코어 GPU

M5 Ultra에서 가장 눈에 띄는 건 다이 4개를 묶었다는 점이다. 그동안 애플의 Ultra 칩은 Max 다이 2개를 초고속 인터커넥트(UltraFusion)로 붙인 2-die 구성이었다. 이번에 보도된 4-die는 그보다 한 단계 더 나아간 결합 방식으로, 그 결과가 최대 80코어 GPU와 512GB 통합 메모리라는 스펙으로 나타난다.

여러 다이를 하나처럼 쓰는 구조에서 늘 관건은 다이 사이를 오가는 데이터의 지연과 대역폭이다. 다이가 2개에서 4개로 늘면 인터커넥트가 감당해야 할 트래픽도 늘어난다. 애플이 이 부분을 어떻게 풀었는지는 세부 공개를 더 봐야 한다. 다만 소비자 데스크톱에서 GPU 80코어에 512GB를 한 메모리 공간으로 다룰 수 있다는 것만으로도, 여태 워크스테이션·서버 영역이던 작업 상당수가 책상 위로 내려온다는 의미는 분명하다.

통합 메모리 아키텍처(UMA)란 무엇인가

통합 메모리(Unified Memory Architecture)는 CPU와 GPU, 뉴럴 엔진이 같은 물리 메모리를 공유하는 설계다. 일반적인 PC는 시스템 RAM과 그래픽카드의 VRAM이 물리적으로 분리돼 있어, GPU로 계산하려면 데이터를 RAM에서 VRAM으로 복사해 넣어야 한다. UMA에는 그 복사 단계가 없다.

이 차이가 ML에서 왜 큰가. 첫째, 모델을 올릴 수 있는 상한이 VRAM이 아니라 전체 메모리가 된다. 일반 그래픽카드는 아무리 좋아도 VRAM이 24~32GB 선에서 막히는 경우가 많은데, UMA에선 통합 메모리 용량 전체가 모델 적재 공간이 된다. 둘째, CPU 전처리 → GPU 추론으로 넘어갈 때 텐서를 복사하지 않으니 파이프라인이 단순해진다. 이게 512GB와 만나면 이야기가 완전히 달라진다.

512GB가 로컬 LLM에 주는 실제 의미

결론부터. 512GB 통합 메모리가 있으면 지금까지 클라우드에서만 돌리던 규모의 오픈 모델을 로컬 데스크톱 한 대에 통째로 올릴 수 있다. 로컬 추론에서 모델이 메모리에 들어가느냐 아니냐는 사실상 실행 가능/불가능을 가르는 1차 관문인데, 그 관문이 크게 넓어진다는 얘기다.

필요한 메모리는 대략 이렇게 계산한다. 가중치 용량 ≒ 파라미터 수 × 파라미터당 바이트. FP16은 2바이트, 8비트 양자화는 1바이트, 4비트 양자화는 약 0.5바이트다. 여기에 KV 캐시(문맥 길이에 비례)와 실행 오버헤드가 더 붙는다. 이 공식을 표로 옮기면 512GB가 뭘 여는지 한눈에 보인다.

표의 마지막 줄이 핵심이다. 405B급 모델은 FP16으로는 810GB라 512GB에도 안 들어가지만, 4비트로 양자화하면 200GB 남짓이라 KV 캐시까지 얹고도 로컬에서 돌릴 수 있다. 24GB짜리 그래픽카드로는 4비트 70B를 겨우 밀어 넣는 게 한계였던 걸 생각하면 체급이 다르다. 물론 위 수치는 파라미터 수와 양자화 비트로 계산한 이론적 적재 용량이고, 실제 속도(토큰/초)는 별개 문제다 — 이건 다음 절에서 짚는다.

애플 실리콘에서 로컬 추론을 돌리는 가장 실용적인 길은 두 갈래다. 간단히는 ollama, ML 개발까지 파고들려면 애플의 MLX 프레임워크. MLX는 통합 메모리를 전제로 설계돼서 UMA의 이점을 그대로 살린다. 아래는 큰 모델을 4비트로 받아 돌려보는 최소 예시다.

# 방법 1) Ollama — 가장 간단하게 로컬 추론
ollama run llama3.1:70b
# 통합 메모리가 크면 이런 큰 태그도 그냥 받아서 돌아간다

# 방법 2) 애플 MLX — 통합 메모리에 최적화된 프레임워크
pip install mlx-lm
# 4비트 양자화 모델을 받아 바로 생성
mlx_lm.generate \
  --model mlx-community/Meta-Llama-3.1-70B-Instruct-4bit \
  --prompt "통합 메모리가 로컬 추론에 유리한 이유를 한 문단으로" \
  --max-tokens 512

메모리 여유가 크면 실무에서 또 하나 좋은 게 있다. 모델을 한 번 올려 두고 긴 문맥을 마음껏 쓰는 것. 문맥이 길어질수록 KV 캐시가 메모리를 잡아먹는데, 512GB면 수십만 토큰짜리 문맥도 캐시가 터지지 않고 버틴다. 대용량 코드베이스를 통째로 넣고 질의하는 식의 작업이 로컬에서 현실이 된다.

그런데 용량이 전부가 아니다 — 대역폭 이야기

여기서 냉정해질 필요가 있다. 메모리에 올라간다고 빠른 건 아니다. LLM의 토큰 생성 속도는 대부분 연산이 아니라 메모리 대역폭에 발목이 잡힌다. 토큰 하나를 뽑을 때마다 모델 가중치 전체를 메모리에서 읽어 와야 하기 때문이다.

아주 거칠게는 이렇게 어림한다. 초당 토큰 수 ≈ 메모리 대역폭 ÷ 활성 가중치 용량. 예를 들어 4비트로 200GB를 차지하는 밀집(dense) 모델이라면, 대역폭이 800GB/s여도 산술적으로 초당 4토큰 안팎이 상한이다. 용량은 되지만 속도는 인내심을 요구할 수 있다는 뜻이다. 그래서 이런 초대형 모델은 매 토큰마다 일부 전문가만 활성화되는 MoE(전문가 혼합) 구조가 실사용에서 훨씬 유리하다 — 읽어야 할 활성 가중치가 작으니까.

정리하면, 512GB는 "실행 가능한 모델의 범위"를 극적으로 넓히는 스펙이지, 자동으로 데이터센터 GPU급 처리량을 준다는 뜻은 아니다. 학습(training)이나 대량 동시 서빙은 여전히 전용 가속기의 영역이다. 개인·소규모 팀의 실험·프로토타이핑·오프라인 배치 추론에서 진가가 나온다. 이 구분을 흐리면 실망하기 쉽다.

mini엔 M6, Studio엔 M5 Ultra — 세대가 엇갈린 이유

앞서 미룬 얘기. 최신 mini가 M6인데 상급기 Studio가 M5 Ultra인 건 애플의 일관된 출시 리듬 때문이다. Ultra 같은 초대형 칩은 여러 다이를 결합하는 복잡한 패키징이 필요해서, 기본 세대 칩보다 검증·양산에 시간이 더 걸린다. 그래서 Ultra는 늘 한 세대 늦게 합류한다.

구매 관점의 실전 조언 하나. "이왕이면 최신 세대"라는 이유만으로 M6 mini를 고를지, 아니면 메모리 용량과 GPU 코어가 압도적인 M5 Ultra Studio를 고를지는 워크로드가 결정한다. 대형 로컬 모델·대용량 메모리가 목적이라면 세대 숫자가 낮아도 M5 Ultra가 정답이다. 반대로 일반 개발·빌드·중소형 모델이면 최신 효율의 M6 쪽이 가성비가 낫다. 개인적으론 512GB가 필요한 사람은 이미 자기가 왜 필요한지 안다.

개발자·ML 엔지니어가 지금 챙길 점

발표 이후 실제로 뭘 준비하면 좋을지, 내가 체크리스트처럼 보는 항목을 추린다.

1. MLX를 지금 익혀 두자. 통합 메모리·대용량 시대에 애플 실리콘 로컬 ML의 표준 진입점이다. Ollama는 손쉬운 실행, MLX는 커스터마이징·파인튜닝까지.
2. 양자화 감각을 키우자. 4비트/8비트에서 용량과 품질이 어떻게 바뀌는지 직접 재 보는 게 대용량 메모리를 제대로 쓰는 법이다.
3. 대역폭을 함께 보자. "올라가느냐"와 "쓸 만한 속도냐"는 다른 질문이다. 밀집 모델 vs MoE의 실사용 속도 차이를 미리 감안하라.
4. 확정 스펙을 기다리자. 대역폭·M6 세부는 애플 공식 스펙시트로 확인한 뒤 구매·벤치 계획을 세우는 게 안전하다.

메모리 예산을 코드로 먼저 가늠해 보는 것도 습관 들일 만하다. 아래는 파라미터 수와 양자화 비트로 대략적인 적재 용량을 뽑아 보는 짧은 스크립트다. 실측이 아니라 어림이지만, "이 모델이 내 메모리에 들어오나"를 5초 만에 판단하는 데는 충분하다.

def vram_gb(params_billion, bits=4, kv_overhead=1.2):
    """대략적인 적재 메모리(GB) 추정. kv_overhead는 KV캐시+실행 여유 배수"""
    bytes_per_param = bits / 8
    weights_gb = params_billion * bytes_per_param  # 10억*바이트 = GB
    return round(weights_gb * kv_overhead, 1)

for b in (8, 70, 120, 405):
    print(f"{b}B  4bit -> {vram_gb(b, 4):>6} GB   fp16 -> {vram_gb(b, 16):>6} GB")

# 8B   4bit ->    4.8 GB   fp16 ->   19.2 GB
# 70B  4bit ->   42.0 GB   fp16 ->  168.0 GB
# 120B 4bit ->   72.0 GB   fp16 ->  288.0 GB
# 405B 4bit ->  243.0 GB   fp16 ->  972.0 GB  <- 512GB엔 4bit만 적재 가능

자주 묻는 질문

M6와 M5 Ultra 중 뭘 사야 하나요?

워크로드로 갈린다. 대형 로컬 LLM·대용량 메모리(512GB급)가 필요하면 세대 숫자가 낮아도 M5 Ultra Studio가 정답이다. 일반 개발·빌드·중소형 모델 위주라면 최신 2nm 효율의 M6 mini가 가성비와 전력 면에서 낫다. 세대 이름보다 "내가 올릴 모델이 몇 GB인가"를 먼저 계산하라.

512GB 통합 메모리면 어느 정도 규모의 모델까지 돌아가나요?

4비트 양자화 기준으로 405B급 초대형 모델도 200GB 남짓이라 KV 캐시까지 얹고 적재할 수 있다. 70B는 FP16(약 140GB)으로도 여유가 있다. 다만 이건 '메모리에 올라간다'는 얘기지 속도까지 보장하는 건 아니다 — 초대형 밀집 모델은 대역폭 때문에 토큰 생성이 느릴 수 있다.

통합 메모리(UMA)가 일반 그래픽카드 VRAM보다 무조건 좋은가요?

용량 측면에선 대체로 유리하다. 별도 GPU는 VRAM이 24~32GB에서 막히는 경우가 많지만 UMA는 통합 메모리 전체를 모델 적재에 쓸 수 있고, RAM↔VRAM 복사도 없다. 반면 데이터센터 GPU 대비 절대 대역폭·학습 처리량에서는 밀린다. 개인·소규모 추론엔 강하고, 대규모 학습·서빙엔 전용 가속기가 여전히 앞선다.

M6의 2nm 공정은 실제로 얼마나 빨라지나요?

공정 미세화의 이득은 주로 전력 효율과 트랜지스터 밀도이며, 체감 성능 향상률은 워크로드마다 크게 다르다. 발표 슬라이드의 향상 수치는 특정 조건 값이라는 점을 감안해야 한다. "2nm"도 실제 물리 치수가 아니라 세대 명칭에 가깝다. 확정 벤치는 공식 스펙과 독립 리뷰를 기다리는 게 맞다.

애플 실리콘에서 로컬 LLM을 돌리려면 뭘 쓰나요?

간단하게는 Ollama, ML 개발·파인튜닝까지 가려면 애플의 MLX 프레임워크를 쓴다. MLX는 통합 메모리를 전제로 설계돼 UMA 이점을 그대로 살린다. mlx-lm으로 4비트 모델을 받아 바로 생성해 볼 수 있고, GPU 점유 상한은 sysctl의 iogpu.wired_limit_mb로 조정한다.

M5 Ultra로 모델 학습(파인튜닝)도 할 수 있나요?

소규모 파인튜닝, 특히 LoRA 같은 파라미터 효율 기법은 충분히 현실적이다. 대용량 메모리 덕에 배치를 크게 잡거나 큰 베이스 모델에 어댑터를 붙이기도 좋다. 다만 대규모 사전학습이나 풀 파인튜닝은 여전히 전용 가속기 클러스터의 영역이다. 개인·팀 단위 실험과 프로토타이핑에 강점이 있다고 보면 된다.

발표된 스펙을 지금 그대로 믿어도 되나요?

핵심 골자(M6의 2nm, M5 Ultra의 4-die·80코어 GPU·512GB)는 보도된 발표 내용이다. 다만 메모리 대역폭, M6의 GPU 코어 수 등 일부 세부는 애플 공식 스펙시트로 최종 확인하는 게 안전하다. 구매나 벤치 계획은 확정 스펙과 독립 리뷰가 나온 뒤 굳히길 권한다.