딥시크, 추론 엔진 DeepInfer 오픈소스 공개 — 같은 날 미국은 연방기관 사용 금지 | 뉴스

딥시크(DeepSeek)가 10월 20일 자사 대규모 서비스를 돌리는 추론 프레임워크 DeepInfer를 아파치 2.0 라이선스로 깃허브에 공개했다. 같은 날 미국 국토안보부(DHS)는 연방 민간기관 IT 시스템에서 딥시크 제품을 걷어내고 구매도 금지하는 명령을 연방 관보에 게재했다.

DeepInfer는 사흘 전 허깅페이스에 올라온 DeepSeek-V4.1-Flash-1017을 기본 모델로 삼는다. 딥시크는 이 프레임워크로 단일 클러스터에서 하루 155조 토큰을 처리한다고 밝혔다. 한쪽에서는 핵심 인프라 코드를 내놓고, 다른 쪽에서는 그 기술이 들어간 제품까지 정부 시스템에서 빼라고 한 셈이다.

3줄 요약

DeepInfer는 딥시크 실서비스용 추론 엔진의 오픈소스판이다. 엔비디아 SM100 GPU와 화웨이 어센드 950 NPU를 지원하고, 오프라인 추론에 필요한 핵심 기능만 담았다. KV 캐시 시스템과 로드밸런서는 빠졌다.
DHS 명령은 7월 24일자로 서명됐고, 10월 19일 공개 열람, 20일 관보 게재로 알려졌다. 딥시크 자체 제품뿐 아니라 "딥시크 구현을 사용해 개발된" 제3자 제품도 제거 대상이다.
민간 기업과 개인의 사용을 금지하는 조치는 아니다. 다만 미국 정부와 거래하는 SaaS라면 자사 서비스에 딥시크 모델이 들어가 있는지 따져 봐야 할 상황이 됐다.

155조

DeepInfer 기반 단일 클러스터의 하루 처리 토큰 수 (딥시크 발표)

38달러

GPU 1시간당 전체 매출, 비수기 요금 기준 (딥시크 발표)

Apache 2.0

DeepInfer 라이선스. 모델 가중치는 MIT

60일

DHS 명령에 따른 기관별 예외 신청 기한 (서명일 기준)

무슨 일이추론 엔진을 공개한 날, 연방기관 퇴출 명령이 나왔다

DeepInfer 저장소의 첫 공개 커밋 시각은 10월 20일 04시 09분(UTC), 한국시간 오후 1시쯤이다. README는 DeepInfer를 "딥시크의 대규모 실서비스를 구동하는 고성능 추론 프레임워크"라고 소개하고, 이번 공개판은 대규모 서빙에 필요한 핵심 기능을 갖춘 오프라인 추론용이라고 밝힌다. 10월 23일 기준 깃허브 스타는 약 2만 개다.

함께 올라온 배포 Q&A 문서는 꽤 솔직하다. 딥시크는 "모델은 가능성의 경계를 정하지만, 그 능력을 합리적인 비용으로 거대한 사용자에게 제공하는 것이 추론 프레임워크의 핵심 과제"라고 쓰고, 현재 단일 클러스터가 하루 155조 토큰을 처리하며 GPU 1시간당 전체 매출이 38달러(비수기 요금 기준)라고 밝혔다. 이 수치는 딥시크의 자체 발표이고 외부 검증은 없다. 같은 날 API 프로토콜과 토큰 시퀀스를 변환하는 컴포넌트 deepseek-recipe도 공개했다.

미국 쪽 소식은 한국시간 20일 아침에 전해졌다. 로이터를 인용한 연합뉴스 보도(코리아타임스 게재, 20일 오전 8시 5분)에 따르면 DHS는 연방 민간기관에 딥시크 제품을 IT 시스템에서 제거하고 구매하지 말라고 명령했다. 연방 관보(Federal Register) 91권 201호에 실린 공고 원문을 보면 대상은 항저우 딥시크 인공지능 유한공사(Hangzhou DeepSeek Artificial Intelligence Co., Ltd)와 계열사다. 근거는 2018년 연방조달 공급망보안법(FASCSA, 41 U.S.C. 1321-1328)이며, 연방조달보안위원회(FASC)의 권고와 관련 증거를 검토한 뒤 장관이 내린 명령이다.

DeepInfer무엇이 공개됐고, 무엇이 빠졌나

README가 밝힌 지원 모델은 현재 DeepSeek-V4.1-Flash 하나다. 기본 체크포인트는 10월 17일 허깅페이스에 올라온 DeepSeek-V4.1-Flash-1017이고, 첫 실행 때 자동으로 내려받는다. 기능 목록은 최적화 커널과 샘플러 런타임, 어텐션 데이터 병렬(DP)·균형 컨텍스트 병렬(CP), MoE 전문가 병렬(EP)과 EPLB, 초안 토큰으로 디코딩을 가속하는 DSpark와 신뢰도 기반 검증 스케줄링, SWA 제한 재생(bounded replay), 비동기 스케줄링, 배치 불변 추론, 결정적 샘플링, 구조화 출력이다.

커널은 딥시크가 그동안 따로 공개해 온 FlashMLA, DeepGEMM, DeepEP 등과 TileLang 커스텀 커널을 묶어 쓴다. 출발점도 밝혔다. DeepInfer는 원래 주로 vLLM 위에서 만들어졌고, SGLang과 TensorRT-LLM에서도 영감을 받았다고 README 감사의 글에 적혀 있다. 완전히 새로 짠 엔진이라기보다 vLLM 계열을 자사 규모에 맞게 깊게 개조한 결과물로 보는 게 맞다.

빠진 것도 분명하다. 완전한 추론 서비스에 필요하지만 이번 공개에 포함되지 않은 것으로 KV 캐시 시스템, 비전 인코더·프리필·디코드 분리(VE/P/D) 배포, 데이터 병렬 복제본 간 로드밸런싱 세 가지를 들었다. Q&A 문서는 KV 캐시 관리와 로드밸런싱이 내부 인프라와 강하게 묶여 있어 아직 완전히 공개하지 않았다고 설명한다. 대신 설계는 꽤 자세히 풀어 놨다. 프리필은 일반 8-GPU 서버, 디코드는 64~128 GPU 슈퍼노드에서 돌리고, KV 캐시를 3FS 분산 파일시스템(약 100PiB SSD)에 에이전트 트래픽 3일, 챗봇 트래픽 7일 동안 보관한다고 한다.

출처: DeepInfer README, inference_deployment_qa.md
항목	내용
라이선스	Apache License 2.0 (모델 가중치 DeepSeek-V4.1-Flash-1017은 MIT)
지원 하드웨어	엔비디아 SM100 GPU, 화웨이 어센드 950 NPU
요구 환경	리눅스, GCC 13 이상, 파이썬 3.12, CUDA 13(엔비디아) 또는 CANN 9.2(어센드)
지원 모델	DeepSeek-V4.1-Flash (기본 체크포인트 V4.1-Flash-1017)
포함	최적화 커널, DP/CP·EP+EPLB 병렬화, DSpark 추측 디코딩, 구조화 출력, 결정적 샘플링 등
미포함	KV 캐시 시스템, VE/P/D 분리 배포, DP 복제본 로드밸런싱
권장 최소 단위	효율적인 최소 배포는 프리필 64 GPU + 디코드 64 GPU (Q&A 문서)

성능 주장은 숫자보다 그래프로 제시됐다. README의 벤치마크는 처리량-지연 파레토 곡선이며, 프리필은 SM100 GPU 4장, 디코드는 64장에서 각각 하나의 스케일업 도메인 안에서 측정했다. 다른 엔진과 직접 비교한 수치는 없다. 평가 문서에는 V4.1 기본 설정 기준 참고값으로 AIME 2026 99.9%, GPQA 다이아몬드 93.4%, HLE 전체 42.6%(모두 Pass@1)가 올라와 있는데, 이는 배포가 제대로 됐는지 확인하는 용도라고 명시했다.

# README의 빌드·실행 절차 (엔비디아 기준, 빈 파이썬 3.12 환경에서)
export DEEPINFER_ACCELERATOR=nvidia   # 어센드는 ascend
./build.sh
python examples/offline_inference.py  # DeepSeek-V4.1-Flash-1017 자동 다운로드

DHS 명령무엇을, 누구에게 금지했나

관보 공고 자체는 짧다. 핵심은 두 가지다. 첫째, 딥시크와 계열사가 개발한 IT 제품·서비스를 연방 민간기관 조달에서 배제한다. 둘째, 딥시크와 계열사 제품, 그리고 "딥시크 구현을 사용해 개발된 제3자 제품·서비스"를 민간기관 IT에서 제거한다. 서명된 명령 사본은 regulations.gov의 DHS-2026-0628 문서함에 부록으로 올라 있고, 문서 첫 장의 날짜는 2026년 7월 24일이다.

보도 내용을 더하면 이렇다. 임플리케이터(Implicator)는 명령이 서명 즉시 효력을 가졌고, 기관이 예외를 신청할 수 있는 60일 기한은 공개 전에 이미 지났다고 전했다. 국방부는 적용 대상이 아니며 국가안보 시스템은 별도 권한으로 다뤄진다. 보도에 따르면 DHS는 서명 명령에서 중국 내 서버, 정부의 광범위한 기업 정보 접근을 허용하는 중국 법률, 계정 생성 때의 개인정보 수집, 디지털 지문을 통한 추적 가능성을 이유로 들었다. 모델 자체에 "악성코드나 다른 보안 취약점이 있을 수 있다"는 표현도 있다고 한다. 다만 공고는 권고의 근거가 된 증거를 구체적으로 밝히지 않았고, 제거 마감일도 두지 않았다.

민간 영역은 대상이 아니다. 연합뉴스는 이번 조치가 미국 내 민간 기업이나 개인의 딥시크 사용을 일반적으로 금지하는 것이 아니라고 짚었다. 미 상무부와 해군은 이미 직원 기기에서 딥시크를 금지했고, 뉴욕·버지니아·테네시 등 일부 주도 비슷한 제한을 뒀다. 의회에 발의된 "정부 기기 딥시크 금지법"은 법이 되지 못했는데, 이번에는 행정부가 기존 조달 보안 권한으로 직접 움직였다. 한국도 2025년 2월 외교부·산업부·국방부 등이 업무용 PC에서 딥시크 접속을 차단한 바 있다.

2026년 7월 24일

DHS 장관, 딥시크 배제·제거 명령 서명

서명 명령 사본의 날짜. 보도에 따르면 서명 즉시 효력이 발생했다.

10월 17일

DeepSeek-V4.1-Flash-1017 공개

허깅페이스에 MIT 라이선스로 공개. V4.1-Flash의 소규모 업데이트로 추론·코딩·에이전트 성능을 높였다고 밝혔다.

10월 19일(미국)

DHS 공고 공개 열람

연방 관보 공개 열람(public inspection)에 접수. 로이터가 같은 날 보도했다.

10월 20일

DeepInfer 공개, DHS 공고 관보 게재

DeepInfer 첫 공개 커밋(UTC 04:09). 같은 날 관보 91 FR 66346으로 정식 게재됐다.

왜 중요한가"딥시크 구현을 사용한 제3자 제품"이라는 문구

이번 명령에서 가장 넓게 해석될 여지가 있는 부분은 제3자 제품 조항이다. 딥시크 앱이나 API를 직접 쓰는 기관은 많지 않을 것이다. 실제로 연방정부 전반의 대규모 사용은 보고된 바 없다고 한다. 문제는 오픈 가중치 모델이다. 딥시크 모델은 가중치가 공개돼 있어 누구나 자기 서버에서 돌릴 수 있고, 미국 업체가 미국 서버에서 호스팅하는 경우도 있다. 공고 문구만 보면 이런 경우도 "딥시크 구현을 사용해 개발된" 제품으로 볼 수 있다.

DeepInfer 공개는 바로 이 지점과 맞물린다. 딥시크는 자사 API와 똑같은 동작을 제3자 배포에서도 얻을 수 있도록 deepseek-recipe까지 내놨다. 직접 호스팅하는 업체가 늘어날수록 모델과 엔진은 더 넓게 퍼질 것이다. 반면 미국 정부와 계약하는 업체는 자사 제품 어딘가에 딥시크 모델이나 딥시크 코드가 들어갔는지 확인해야 하는 부담이 커진다.

영삼

영삼의 한마디

DeepInfer는 솔직히 개인 개발자가 돌려 볼 물건은 아니다. 최소 효율 단위가 GPU 128장이고 지원 GPU도 SM100 계열뿐이다. 그래도 Q&A 문서는 꼭 읽어 볼 만하다. KV 캐시를 며칠씩 SSD 클러스터에 보관하고, 프리필 청크 크기를 시간 예산으로 계산하는 방식은 규모만 다를 뿐 작은 서비스에도 참고가 된다. 미국 명령은 내 사이트와 직접 관련은 없지만, 해외 공공기관과 일하는 팀이라면 "우리 제품에 어떤 모델이 들어 있나"라는 질문에 바로 답할 수 있게 목록을 만들어 두는 게 좋겠다. 모델도 이제 라이브러리처럼 공급망의 일부로 관리해야 하는 시대다.

개발자가 할 일둘 다 해당되는 팀이라면

점검 체크리스트

DeepInfer를 시험하려면 엔비디아 SM100 또는 어센드 950 환경, CUDA 13/CANN 9.2, 파이썬 3.12가 필요하다. KV 캐시와 로드밸런서는 직접 붙여야 한다는 점을 먼저 감안한다.
배치 불변 추론과 결정적 샘플링은 현재 엔비디아에서만 된다. 재현성이 필요한 평가 파이프라인이라면 DEEPINFER_BATCH_INVARIANT=1 설정과 고정 시드를 확인한다.
미국 연방 민간기관에 납품하는 제품이라면 내부 LLM 호출 경로, 파인튜닝 기반 모델, 오픈소스 의존성에 딥시크 모델이나 코드가 있는지 점검한다.
라이선스는 엔진(Apache 2.0)과 가중치(MIT)가 다르다. 상업적 사용 자체는 막혀 있지 않지만, 고객사의 조달 규정은 별개 문제다.

자주 묻는 질문

DeepInfer란?

DeepInfer는 딥시크가 2026년 10월 20일 공개한 대규모 LLM 추론 프레임워크로, 딥시크 실서비스를 구동하는 엔진의 오픈소스판이다. 아파치 2.0 라이선스이며 현재 DeepSeek-V4.1-Flash 모델과 엔비디아 SM100 GPU, 화웨이 어센드 950 NPU를 지원한다. KV 캐시 시스템과 로드밸런서는 공개판에 포함되지 않았다.

DeepInfer는 vLLM과 어떤 관계인가?

딥시크는 README에서 DeepInfer가 원래 주로 vLLM을 기반으로 만들어졌고 SGLang과 TensorRT-LLM에서도 영감을 받았다고 밝혔다. 여기에 FlashMLA, DeepGEMM, DeepEP 같은 자체 커널과 전문가 병렬 로드밸런싱, 추측 디코딩 등을 더했다. 다른 엔진과의 직접 성능 비교 수치는 공개하지 않았다.

미국 연방기관 딥시크 사용 금지 범위는?

DHS 명령은 연방 민간기관의 IT 시스템과 조달에 적용된다. 딥시크와 계열사 제품, 딥시크 구현을 사용해 개발된 제3자 제품이 제거 대상이고 신규 구매도 막힌다. 보도에 따르면 국방부는 제외되며, 미국 내 민간 기업과 개인의 사용은 금지 대상이 아니다.

DHS 딥시크 명령은 언제 내려졌나?

서명된 명령 사본의 날짜는 2026년 7월 24일이다. 이 사실은 10월 19일 연방 관보 공개 열람으로 처음 알려졌고, 10월 20일 관보(91 FR 66346)에 정식 게재됐다. 보도에 따르면 명령은 서명 즉시 효력이 생겼고, 60일 예외 신청 기한은 공개 전에 끝났다.

DeepSeek-V4.1-Flash-1017이란?

DeepSeek-V4.1-Flash-1017은 딥시크가 10월 17일 허깅페이스에 공개한 V4.1-Flash의 소규모 업데이트 모델이다. 딥시크는 추론, 코딩, 에이전트, 시각 벤치마크 성능이 높아지고 작업 시간과 출력 길이는 줄었다고 밝혔다. MIT 라이선스이며 권장 컨텍스트 창은 100만 토큰이다.