Visual Studio 2026, Copilot 추론 강도(thinking effort) 제어 추가

솔직히 처음 이 릴리스 노트를 봤을 때 든 생각은 "드디어"였다. 그동안 IDE 안의 AI는 대체로 블랙박스였다. 같은 질문을 던져도 어떤 날은 장황하게 오래 고민하고, 어떤 날은 대충 답하고 끝났다. 추론 강도라는 손잡이가 노출되지 않았으니까. 나는 API를 직접 다룰 때는 이 값을 조절해 왔는데, IDE에서는 그게 안 됐다. 이번 18.9가 바꾼 건 딱 그 지점이다. 별거 아닌 드롭다운 하나처럼 보여도, AI 코딩 도구가 "비용과 품질을 사용자가 조절한다"는 방향으로 한 발 더 갔다는 신호라 눈여겨볼 만하다.

무슨 일이 있었나

한 줄로 답하면, Visual Studio 2026 18.9가 Copilot의 추론 강도를 사용자가 직접 고르게 열어줬다. 릴리스 노트의 GitHub Copilot 섹션에 "Adjust model thinking effort to match your task"라는 제목으로 실렸고, 8월 11일자 18.9.0에 포함됐다. 지원 모델을 쓸 때 모델 피커나 모델 관리 화면에서 low·medium·high 중 하나를 선택하면, 그 세션에서 Copilot이 문제를 얼마나 깊게 파고들지가 달라진다.

지금까지 "모델 선택"은 GPT 계열이냐 다른 모델이냐를 고르는 것이었다. 이번 변화는 거기에 한 축을 더 얹었다. 어떤 모델을 쓰느냐에 더해 그 모델을 얼마나 열심히 굴리느냐까지 사용자 손에 들어온 것. 릴리스 노트의 문장을 그대로 옮기면, 낮은 단계는 토큰 예산을 지키면서도 작업마다 쓸 만한 도움을 준다고 돼 있다. 즉 이 기능의 설계 의도 자체가 "비용 관리"에 방점이 찍혀 있다.

low·medium·high는 각각 뭘 하나

세 단계의 차이는 추론 깊이와 토큰 소비의 트레이드오프다. 릴리스 노트가 각 단계를 이렇게 설명한다. low는 최소한의 추론으로 빠르게 답하고 토큰을 적게 쓴다. medium은 추론 깊이와 응답 속도의 균형을 잡는 일상 코딩용. high는 복잡한 문제를 위해 더 깊게 추론하며 토큰을 더 쓴다.

눈여겨볼 건 high가 무조건 "더 좋음"이 아니라는 점이다. 간단한 문자열 포매팅 하나 물어보는데 high를 걸면 답은 비슷한데 토큰만 더 태운다. 반대로 동시성 버그를 low로 물으면 겉핥기 답이 나오기 쉽다. 단계는 품질 등급이 아니라 작업 난이도에 맞추는 조리개에 가깝다.

왜 지금 이 기능이 나왔나 — 토큰 과금이라는 배경

왜 하필 지금 추론 강도 손잡이가 등장했나. 배경은 Copilot 과금 방식의 변화다. Copilot 사용량이 요청 건수가 아니라 토큰 소비 기준으로 계산되는 흐름으로 옮겨가면서, "이번 응답이 토큰을 얼마나 먹느냐"가 곧 비용이 됐다. 추론을 많이 하는 모델일수록 내부적으로 토큰을 더 쓰고, 그게 요금표에 그대로 반영된다.

그래서 이 기능은 단순한 편의 기능이 아니라 비용 제어 도구로 읽는 게 맞다. 낮은 단계를 고르면 토큰 예산 안에 머물면서도 필요한 도움은 받는다는 릴리스 노트 문구가 그걸 그대로 말해준다. 개인 개발자라면 월 한도를, 팀이라면 좌석당 비용을 신경 쓰게 되는데, 추론 강도는 그 지출을 세션 단위로 조절하는 첫 번째 레버가 된다.

어디서 바꾸나

설정 위치는 두 곳이다. 모델 피커에서 바로 고르거나, 더 펼쳐진 모델 관리 화면에서 조정한다. 릴리스 노트에는 모델 관리 화면에 low·medium·high 옵션이 담긴 thinking effort 드롭다운이 보이는 스크린샷이 함께 실렸다. 모델을 고르는 그 자리에서 강도까지 같이 정하는 식이라, 별도 설정 메뉴를 파고들 필요가 없다.

중요한 단서가 하나 있다. 지원 모델에서만 이 드롭다운이 뜬다. 모든 Copilot 모델이 조절 가능한 추론 단계를 갖고 있는 게 아니라서, 어떤 모델을 고르면 강도 선택지가 아예 안 보일 수 있다. 그럴 땐 모델이 이 기능을 지원하지 않는 것이지 설정이 잘못된 게 아니다. 나도 처음엔 "왜 안 보이지" 하고 한참 찾았는데, 모델을 지원 목록의 것으로 바꾸니 바로 나타났다.

추론 강도를 실제로 어떻게 고를까

결론부터. 기본은 medium에 두고, 필요할 때만 올리고 내린다. 그게 가장 덜 후회하는 기본값이다. 나는 대략 이런 기준으로 손이 간다.

• low로 내릴 때: 이름 바꾸기, 임포트 정리, 정규식 한 줄, 뻔한 보일러플레이트. 답이 뻔해서 깊이 생각할 이유가 없는 작업. 대화가 길어져 토큰이 아까울 때도 내린다.
• medium로 둘 때: 함수 하나 리팩터링, 일반적인 버그 수정, 테스트 작성. 하루 작업의 팔 할이 여기다.
• high로 올릴 때: 경쟁 상태(race condition)나 메모리 누수처럼 원인이 안 보이는 버그, 모듈 경계를 어떻게 그을지 같은 설계 결정, 성능 병목 분석. 토큰을 더 태워도 아깝지 않은, 틀리면 비싼 판단들.

개인적으로 실무에서 데인 경험 하나. 예전에 API로 작업할 때 습관적으로 최고 강도를 박아두고 돌렸다가 월말 청구서를 보고 놀란 적이 있다. 정작 그 강도가 필요했던 작업은 전체의 일부였다. 그 뒤로는 "이 문제가 정말 깊은 추론을 필요로 하나"를 먼저 자문하는 습관이 생겼다. IDE에 이 손잡이가 들어왔으니, 같은 규율을 이제 에디터 안에서도 적용할 수 있게 된 셈이다.

사실은 API 파라미터가 IDE로 올라온 것

이 "thinking effort"는 갑자기 튀어나온 개념이 아니다. 모델 API 레벨에서 이미 있던 추론 강도(reasoning/thinking effort) 파라미터가 IDE UI로 노출된 것이다. 모델을 직접 호출해 본 사람이라면 낯익을 것이다. VS의 드롭다운은 결국 이 파라미터를 대신 설정해 주는 얇은 껍데기라고 봐도 된다.

예를 들어 OpenAI 계열(GPT-5 등)에는 요청에 추론 강도를 실어 보내는 필드가 있고, 값은 VS UI와 똑같이 low·medium·high다.

# OpenAI 계열(GPT-5 등) — 요청에 추론 강도를 지정
from openai import OpenAI
client = OpenAI()

resp = client.responses.create(
    model="gpt-5",
    reasoning={"effort": "low"},   # low | medium | high — VS 드롭다운과 동일
    input="이 정규식이 왜 빈 문자열에도 매칭되지?",
)
print(resp.output_text)

Anthropic Claude 쪽도 개념은 같지만 방식이 조금 다르다. 요즘 모델(예: Claude Opus 4.8)은 예전의 고정 토큰 예산(budget_tokens) 방식을 접고, 적응형 추론(adaptive thinking)을 켠 뒤 effort로 강도를 조절한다. 값은 low·medium·high에 더해 xhigh, max까지 있다. 참고로 최신 모델에서 budget_tokens를 그대로 보내면 400 에러가 나니 주의.

# Anthropic Claude — 적응형 추론 + effort로 강도 조절
from anthropic import Anthropic
client = Anthropic()

resp = client.messages.create(
    model="claude-opus-4-8",
    max_tokens=4096,
    thinking={"type": "adaptive"},       # 추론을 켜고, 깊이는 effort로 제어
    output_config={"effort": "low"},     # low | medium | high | xhigh | max
    messages=[{"role": "user",
               "content": "이 정규식이 왜 빈 문자열에도 매칭되지?"}],
)

즉 VS 2026의 드롭다운은 provider마다 이름과 세부가 다른 이 파라미터를 하나의 low·medium·high 스위치로 통일해 준 것이다. 개발자가 API 문서를 뒤질 필요 없이 에디터에서 바로 만진다는 게 실질적 이득이다. IDE의 AI 통합이 "모델을 붙여주는 것"에서 "모델의 동작 파라미터까지 UI로 내주는 것"으로 깊어지고 있다는 뜻이기도 하다.

같이 온 것들과 한계

이 8월 업데이트에는 추론 강도 말고도 개발자용 개선이 함께 들어왔다. 대표적인 게 Git worktree 지원이다. 같은 저장소를 여러 폴더로 동시에 체크아웃해 브랜치를 오가며 작업할 수 있게 해주는 기능인데, 원래도 커맨드라인으로는 되던 걸 VS가 UI로 끌어올렸다. 커맨드라인 감각을 잃기 싫은 사람을 위해 원형 명령을 남겨두면 이렇다.

# 같은 저장소를 별도 폴더로 동시 체크아웃 (VS 2026 8월 업데이트가 UI로 지원)
git worktree add ../myrepo-hotfix hotfix/login   # 핫픽스 브랜치를 옆 폴더에
git worktree list                                # 현재 워크트리 확인
git worktree remove ../myrepo-hotfix             # 작업 끝나면 정리

한계도 분명히 해두자. 추론 강도 기능은 지원 모델에서만 동작하고, 단계도 low·medium·high 셋뿐이다(일부 모델·플랫폼에서 제공하는 더 세밀한 등급은 아직 VS UI엔 없다). 또 이건 어디까지나 강도 힌트이지, "high면 반드시 정답"을 보장하는 스위치가 아니다. 결국 판단은 사람 몫이다.

자주 묻는 질문

Visual Studio 2026의 thinking effort는 어떤 버전부터 쓸 수 있나요?

버전 18.9.0, 즉 2026년 8월 11일에 나온 8월 업데이트부터다. 릴리스 노트의 GitHub Copilot 섹션에 "Adjust model thinking effort to match your task"라는 제목으로 실려 있다. VS 2026을 이 버전 이상으로 업데이트하면 사용할 수 있다.

low·medium·high는 정확히 무슨 차이인가요?

추론 깊이와 토큰 소비의 트레이드오프다. low는 최소 추론으로 빠르게 답하고 토큰을 적게 쓴다(단순 질문·코드 제안용). medium은 깊이와 속도의 균형을 잡는 일상 코딩용. high는 더 깊게 추론해 까다로운 알고리즘이나 어려운 버그에 강하지만 토큰을 더 쓴다.

어디서 강도를 바꾸나요?

모델 피커에서 바로 고르거나, 더 펼쳐진 모델 관리 화면에서 조정한다. 모델을 선택하는 그 자리에서 thinking effort 드롭다운을 함께 만지는 식이라 별도 설정 메뉴로 들어갈 필요가 없다.

모든 Copilot 모델에서 되나요?

아니다. 지원 모델에서만 강도 선택지가 나타난다. 조절 가능한 추론 단계를 가진 모델이 아니면 드롭다운 자체가 보이지 않는다. 강도 옵션이 안 보인다면 설정 문제가 아니라 그 모델이 이 기능을 지원하지 않는 것이니, 지원 목록의 모델로 바꿔보면 된다.

왜 이 기능이 지금 추가됐나요?

Copilot 사용량이 요청 건수가 아니라 토큰 소비 기준으로 계산되는 흐름과 맞물려 있다. 추론을 많이 할수록 토큰을 더 쓰고 그게 곧 비용이 되기 때문에, 강도를 낮춰 토큰 예산 안에 머물 수 있게 한 것이다. 편의 기능이라기보다 비용 제어 도구에 가깝다.

항상 high로 두면 결과가 가장 좋은 것 아닌가요?

그렇지 않다. high는 더 깊게 추론하는 대신 토큰을 더 쓰고 응답도 더 느리다. 단순 작업엔 품질 차이는 미미한데 비용과 지연만 늘어난다. 작업 난이도에 맞추는 게 핵심이라, 기본은 medium에 두고 어려운 문제에만 high로 올리는 편이 실용적이다.

이건 API의 reasoning effort와 같은 건가요?

본질적으로 같은 개념이다. 모델 API에 이미 있던 추론 강도 파라미터(OpenAI 계열의 reasoning effort, Anthropic의 effort 등)를 IDE UI로 노출한 것이다. VS의 드롭다운은 provider마다 다른 이 파라미터를 low·medium·high 스위치 하나로 통일해 대신 설정해 준다.