2026년 9월 AI 업계 주요 발표 10선 — Google·OpenAI·Anthropic 최신 모델과 프레임워크 총정리

이번 달 알아두면 좋은 용어 10개

① 에이전트형 AI 프레임워크 (Agentic AI Framework)

스스로 환경을 인식하고, 계획·판단·도구 사용을 스스로 수행하는 AI 에이전트를 만들기 위한 소프트웨어 프레임워크입니다. 단순한 질의응답을 넘어 여러 모델을 묶어 자율적으로 행동하는 시스템을 뜻합니다.

② 혼합 전문가 (Mixture of Experts, MoE)

여러 "전문가" 서브네트워크를 두고, 입력 토큰마다 라우터가 관련 전문가 몇 개만 골라 활성화하는 신경망 구조입니다. 전체 파라미터가 매우 커도 실제 연산량은 작게 유지할 수 있어 학습·추론 비용이 절감됩니다.

③ 삼진 양자화 (Ternary Quantization)

모델 가중치를 -1, 0, +1 세 값만으로 표현해 메모리 사용량과 연산량을 크게 줄이는 양자화 기법입니다. 1-bit LLM·BitNet 계열의 핵심 기법이며 BF16 대비 약 10배 이상 메모리를 절감합니다.

④ 강화학습 훈련 (RL Training)

에이전트가 환경과 상호작용하면서 보상을 최대화하도록 정책을 반복 학습하는 방법입니다. 최근 LLM의 수학·코딩 등 추론 능력 향상에 핵심으로 쓰이는 사후훈련(post-training) 기법입니다.

⑤ 키-값 캐시 (KV Cache)

트랜스포머 기반 LLM의 추론 시, 매번 새로 계산하지 않고 이전 토큰들의 Key/Value 벡터를 메모리에 저장해 재사용하는 최적화 기법입니다. 추론 속도를 크게 높이지만, 시퀀스가 길어질수록 메모리 사용량이 선형으로 증가합니다.

⑥ 신스ID 워터마크 (SynthID Watermark)

Google DeepMind가 만든 AI 생성 콘텐츠 식별 기술입니다. 사람 눈에는 보이지 않지만 검출기로는 판별 가능한 디지털 워터마크를 이미지·오디오·텍스트 신호 자체에 내장합니다. 잘라내기나 재인코딩에도 비교적 강합니다.

⑦ 오픈소스 에이전트 하네스 (Open-source Agent Harness)

LLM을 "실제 작동하는 에이전트"로 만들어주는 미들웨어입니다. 제어 루프, 도구 호출, 메모리, 컨텍스트 주입 등을 담당하며, 모델 자체보다 하네스 설계가 에이전트의 성능·안정성을 좌우한다는 인식이 확산되고 있습니다.

⑧ 프롬프트 캐싱 (Prompt Caching)

LLM API에서 동일하거나 비슷한 프롬프트 접두부를 공급자 측에 저장해 두었다가 후속 요청에서 재사용해 입력 토큰 비용을 크게 할인해주는 기능입니다. 캐시 적중 시 입력 비용이 최대 90%까지 할인되는 경우가 많습니다.

⑨ 희소 활성화 (Sparse Activation)

MoE 모델에서 입력 토큰마다 전체 파라미터 중 일부 전문가만 활성화하는 메커니즘입니다. 라우터(게이팅 네트워크)가 어떤 전문가를 켤지 결정하며, 이를 통해 1조(trillion) 파라미터급 모델의 배포가 가능해집니다.

⑩ 벤치마크 성능 (Benchmark Performance)

AIME, MMLU, HumanEval 등 표준화된 평가 데이터셋으로 측정한 LLM의 정확도·추론력·코딩 능력 점수입니다. 단순 정확도뿐 아니라 사고 토큰 수, 지연시간(latency), 비용 대비 성능까지 함께 보는 추세입니다.

자주 묻는 질문 (FAQ)