본문으로 건너뛰기
TAG

#추론 비용

2편 · 다른 태그 보기

전체 2편

2026년 09월 · 2편

데이터센터 서버실에서 기술자가 노트북을 켜 놓고 서버 랙의 케이블을 정리하고 있다
모델· 8분

AI 값 또 내려갈까? 딥시크가 줄인 ‘임시 기억’

딥시크 V4.1-Flash는 토큰당 KV 캐시를 이전 Flash의 약 4분의 1로 줄였습니다. 출력 100만 토큰은 오프피크 0.6달러. 이런 효율화가 다른 회사의 가격까지 바꿨을까요?

  • #DeepSeek
  • #오픈소스
  • #추론 비용
파란 조명이 켜진 데이터센터의 서버 랙 열
업계 동향· 6분

Vals 보고서 — 에이전트 작업 전력, 모델 따라 최대 75배

벤치마크 기관 Vals AI가 9월 3일 오픈 웨이트 모델 16종의 에이전트 작업 전력·탄소·물 사용량을 추정한 보고서를 냈습니다. 같은 벤치마크를 완주하는 데 드는 전력이 모델에 따라 수십 배 차이 났다는 내용입니다.

  • #환경
  • #추론 비용
  • #벤치마크