AI — 427개 용어

LLM이 한 번에 처리할 수 있는 최대 토큰 수. Claude Opus 4.7은 200K~1M, Gemini는 최대 2M.

LLM이 첫 토큰을 반환하기까지 지연. 체감 반응성의 핵심.

대형 모델 전체가 아닌 작은 어댑터 행렬만 학습해 메모리·시간을 크게 절감하는 파인튜닝 기법.

NVIDIA의 GPU 프로그래밍 플랫폼·언어. 딥러닝 프레임워크의 기반.

LLM에게 원하는 출력을 끌어내기 위한 지시문 설계 기술. Few-shot·CoT·role prompting 등 패턴이 존재한다.

사용자 입력·외부 문서에 포함된 악성 지시가 LLM의 원래 지시를 가로채는 공격. AI 에이전트 시대의 가장 큰 보안 위협.

Transformer의 Key·Value를 캐시해 재계산 회피. LLM 추론의 메모리 주범.

모델 복잡도를 제한해 과적합을 방지하는 기법 총칭. L1·L2·Dropout 등.

LLM 추론 속도 지표. 초당 생성하는 토큰 수. 사용자 체감 중요 요소.

AI에게 자연어로 지시해 대부분의 코드를 만드는 방식. Andrej Karpathy가 명명.

GPT·Llama 같은 생성 LLM의 기반 아키텍처. 인코더 없이 디코더만 사용.

텍스트·이미지·음성·영상 등 여러 종류의 입력을 함께 처리하는 모델. GPT-4o, Claude Opus, Gemini가 대표적.

LLM이 외부 함수·API를 호출하도록 하는 기능. 에이전트 구현의 핵심. MCP가 표준화 주도.

로컬에서 LLM을 Docker처럼 구동하는 도구. <code>ollama run llama3</code> 한 줄로 시작. Mac·Linux·Windows 지원.

OpenAI의 text-to-video 모델. 최대 분 단위 고품질 영상 생성.

Gradient Boosting의 최적화 구현. 테이블 데이터 Kaggle 우승의 공식.

상태 머신 기반 에이전트 프레임워크. LangChain 팀. 순환·조건 분기·휴먼인루프.

vLLM 대안 고성능 LLM 서빙. 복잡 제어 플로우에 강점.

Google이 2018년 공개한 양방향 Transformer 인코더. 분류·검색·임베딩에 강점, 현재도 NLP 백본으로 활약.

Hugging Face의 프로덕션 LLM 서빙. Docker 이미지로 즉시.

학습 단계에서 본 적 없는 작업을 예시 없이 바로 수행하는 능력. 대형 LLM의 핵심 역량.

Google DeepMind의 경량 오픈소스 LLM. Gemini 아키텍처 기반, 로컬·엣지 실행 최적화.

이미지 내 객체의 위치(bbox)와 클래스를 동시에 예측하는 CV 작업.

Google Cloud의 관리형 AI 플랫폼. Gemini·PaLM·오픈모델 통합.

RAG 파이프라인의 첫 단계. 긴 문서를 임베딩·검색에 적합한 단위로 분할.

OpenAI의 text-to-image 모델. DALL·E 3가 ChatGPT에 내장되어 대중화.

텍스트를 LLM이 이해하는 토큰 단위로 분할하는 컴포넌트. BPE·WordPiece·SentencePiece가 대표.

LLM 애플리케이션 프레임워크. 체인·에이전트·RAG 추상화를 빠르게 구현.

문법·스키마·정규식에 맞는 출력을 강제 생성. logit biasing.

가중치 업데이트 크기를 결정하는 하이퍼파라미터. 너무 크면 발산, 작으면 수렴 느림.

LLM이 최종 답 이전에 단계별 추론 과정을 명시적으로 서술하게 유도하는 프롬프트 기법. 수학·논리 문제에서 정확도를 크게 높인다.

RAG에서 top-k 결과를 더 정확한 모델로 재정렬해 품질을 끌어올리는 단계.

2023년 화제가 된 자율 에이전트. GPT-4에 목표만 주면 스스로 작업 분해·실행.

LangChain 팀의 LLM 관측·평가 플랫폼. 프로덕션 LLM 디버깅·A/B.

Microsoft의 Gradient Boosting. XGBoost보다 빠르고 메모리 효율적.

무작위 샘플로 그래디언트를 추정하는 경사 하강법. 대용량 학습의 기본.

원본 데이터를 변형·합성해 학습 데이터를 늘리는 기법. 이미지·텍스트·오디오 전반.

Anthropic이 2026년 4월 공개한 사이버보안 특화 LLM 클래스. 취약점 탐지·대규모 코드 분석·공격 체인 추론에 특화.

Vercel의 벤더 중립 LLM SDK. Next.js·React에 LLM 통합을 간편화.

하나의 질문을 여러 관점으로 재작성해 검색하는 기법. 재현율 향상.

LLM이 JSON 스키마에 100% 부합하는 응답을 생성하게 하는 기능.

llama.cpp의 양자화 모델 파일 형식. Ollama·LM Studio 표준.

LLM 입출력에 추가하는 안전·품질 검증 레이어. 민감정보 마스킹·환각 감지·토픽 제한 등.

Model Context Protocol 서버 구현. LLM에 도구·리소스를 제공.

Hugging Face의 초경량 코드 에이전트. 수백 줄로 agent 구현.

텍스트를 음성으로 변환하는 기술. ElevenLabs·Coqui·Google Cloud TTS.

GPU용 후학습 양자화 알고리즘. 4bit로 성능 손실 최소.

실시간 객체 검출 모델. 이미지 전체를 한 번에 처리해 속도 대비 성능 우수.

SWE-bench·WebArena·GAIA·AgentBench 등 에이전트 평가 표준.

대규모 데이터로 사전학습돼 다양한 downstream에 적응 가능한 범용 AI 모델.