AI 값 또 내려갈까? 딥시크가 줄인 ‘임시 기억’

무슨 일인가요

DeepSeek 이 2026년 9월 10일 DeepSeek-V4.1-Flash 를 공개했습니다. 글과 이미지를 함께 받아 글로 답하는 모델이고, 한 번에 100만 토큰까지 읽습니다. 가중치는 MIT 라이선스로 Hugging Face 에 올라가 있어 회사 제품에 그대로 넣어도 됩니다. 공식

눈에 띄는 것은 크기가 아니라 켜지는 양입니다. 뼈대 전체는 552B 인데, 토큰 하나를 처리할 때 실제로 계산에 참여하는 것은 입력을 읽는 단계에서 8B, 답을 쓰는 단계에서 16B 뿐입니다. 공식

AI의 임시 기억을 작게 만들었어요

모델은 앞서 읽은 문장을 매번 다시 계산하지 않으려고 중간 결과를 쌓아 둡니다. 이 임시 기억을 키·값 캐시(key-value cache, KV cache)라고 부릅니다. 대화가 길어질수록 쌓이는 양이 늘고, 그만큼 GPU 메모리를 차지합니다. 메모리가 꽉 차면 한 대의 서버가 동시에 받을 수 있는 요청이 줄어듭니다. 이 공간을 줄이면 같은 서버로 더 많은 요청을 처리할 여지가 생깁니다. 사용료에는 이 비용 외에도 계산량과 회사의 가격 정책 등이 함께 반영됩니다.

DeepSeek 은 토큰 하나당 이 임시 기억을 890바이트까지 줄였습니다. 지난 4월 V4-Flash 가 3,514바이트였으니 약 4분의 1이고, 2023년 11월 V1 의 389,120바이트와 견주면 437분의 1입니다. 공식

줄인 방법은 구조를 바꾼 것입니다. 40층을 20층 인코더와 20층 디코더로 나눈 뒤(회사는 이 구조를 Causal Encoder-Decoder 라고 부릅니다), 디코더가 쓸 임시 기억을 층마다 따로 만들지 않고 인코더의 마지막 결과에서 한 번에 뽑아 씁니다. 여기에 임시 기억을 4비트로 눌러 담는 방식을 더했습니다. 공식

값은 3분의 1 아래로

오프피크 기준이고, 피크 시간(주중 UTC 01시부터 04시, 06시부터 10시)에는 두 배를 받습니다. 이미 읽은 내용을 다시 보낼 때 붙는 캐시 히트 값은 100만 토큰에 0.003달러입니다. 공식

DeepSeek 은 V4-Pro 를 거두는 중입니다. 2026년 9월 14일부터 V4-Pro 로 보낸 요청은 Flash 로 넘어가고 Flash 값으로 청구됩니다. 공식

이긴 곳과 뒤진 곳

코드 저장소를 고치는 DeepSWE v1.1 에서 74.2점, 터미널 작업을 시키는 Terminal-Bench 2.1 에서 90.6점을 받았습니다. 같은 표의 Opus 5 는 각각 74.0점과 89.1점입니다. 프로그래밍 경진 대회 점수인 Codeforces 레이팅은 3471 로, 앞 세대인 V4-Pro 의 3348 을 넘었습니다. 이 항목에는 다른 회사 모델의 값이 실려 있지 않습니다. 데이터

여러 단계를 길게 이어 가는 작업에서는 격차가 반대로 벌어집니다. Terminal-Bench 3.0 은 30.0점으로 Opus 5 의 43.3점에 못 미치고, 4.0 은 31.2점 대 51.8점입니다. 전문가 시험 문제를 푸는 HLE 도 36.8점으로 Opus 5 의 56.3점과 차이가 큽니다. 데이터

이 기술이 다른 회사 AI도 싸게 만들었을까요?

딥시크의 효율화 방식이 다른 공개 모델로 이어진 사례는 있습니다. Moonshot의 Kimi K2 기술 보고서는 DeepSeek V3와 비슷한 구조를 사용하며, 메모리를 압축하는 다중 헤드 잠재 어텐션(Multi-head Latent Attention, MLA)을 채택했다고 명시했습니다. 오늘 나온 V4.1의 새 방식이 아니라 앞선 세대 기술의 확산 사례입니다. 논문

OpenAI와 Anthropic의 가격도 실제로 내려간 적이 있습니다. OpenAI는 2025년 6월 o3 가격을 80% 내리면서 같은 모델의 추론 실행 체계를 최적화했다고 설명했습니다. Anthropic의 Opus는 4의 입력·출력 100만 토큰당 15·75달러에서, 새 모델 4.5의 5·25달러로 가격이 낮아졌습니다. 공식 그 가격 인하가 딥시크 기술을 가져온 결과라는 공개 근거는 확인되지 않았습니다. 효율화의 확산과 가격 인하는 각각 확인되지만, 두 회사에서의 직접적인 인과관계까지 확인된 것은 아닙니다.

2025년 1월의 첫 딥시크 충격과 비교하면 어떨까요? 당시에는 “AI 경쟁에 꼭 막대한 비용이 필요한가”라는 질문 자체가 새로웠습니다. 이번 충격이 더 작을 것이라는 예상은 가능하지만, 이번 발표가 실제로 시장에 덜 충격을 줬다고 판단할 자료는 아직 확보하지 못했습니다. 추정