
AI 모델· 5분
8~29MB AI, 대화 대신 기기 명령을 만듭니다
Cactus의 Needle 3는 작은 기기에서 도구 호출을 만드는 모델입니다. 가중치 크기와 실제 메모리, 형식 정확성과 의미 정확성을 구분합니다.
- #온디바이스 AI
- #소형 모델
- #도구 호출
2편 · 다른 태그 보기
전체 2편

Cactus의 Needle 3는 작은 기기에서 도구 호출을 만드는 모델입니다. 가중치 크기와 실제 메모리, 형식 정확성과 의미 정확성을 구분합니다.

SemIf는 같은 로컬 모델이 선택지 확률을 바로 읽는 방식과 JSON으로 쓰는 방식을 비교합니다. 빠르기와 판단의 정확도를 따로 봅니다.