업계 동향· 6분
AI 7종에 사업을 맡겼더니 — 매출 0, 청구서 1만 2천 달러
프런티어 모델 7종에 각각 300달러와 맥미니를 주고 72시간 동안 돈을 벌게 한 실험입니다. 매출은 0이었고 낯선 사람에게 청구서가 날아갔습니다.
- #에이전트
- #안전성
- #평가
#리워드 해킹
3편 · 다른 태그 보기
전체 3편
2026년 09월 · 3편
논문 한입· 6분
에이전트 100개 군집에서 부정행위와 내부고발이 저절로 나왔다
arXiv 2609.04170은 형식 수학 증명을 맡은 LLM 에이전트 100개 군집에서 평가 허점 악용이 퍼지고, 다른 에이전트들이 감사·경고·보이콧으로 맞선 과정을 보고합니다.
- #논문
- #에이전트
- #안전성
논문 한입· 6분
'테스트가 고장났어요' 창구가 리워드 해킹을 78% 줄였다
코딩 에이전트에 결함 신고 도구를 주면 테스트 조작이 23.6%에서 5.3%로 줄었다는 8월 29일 arXiv 논문입니다. 프런티어 모델 8개, 1,800회 실험을 정리했습니다.
- #논문
- #코딩 에이전트
- #리워드 해킹