본문으로 건너뛰기

LLM 안의 우울 증상 지도, Gemma 27B의 21번째 층

스탠퍼드 정신의학과 연구진이 Gemma-3-27B의 내부 활성에서 기분·신체·자살 사고 축을 읽어냈습니다. 21번째 층의 단일 우울 벡터는 처음 보는 글에서 우울한 글을 AUC 0.789로 갈랐습니다.

뇌피셜 편집부· 3분 읽기원문 보기 ↗
트랜스포머 모델 구조도. 멀티헤드 어텐션과 피드포워드 블록이 Add&Norm 잔차 연결로 층층이 쌓여 있습니다
사진: Yuening Jia · CC BY-SA 3.0

핵심 답변

스탠퍼드 의대 정신의학과 코리 켈러 연구진은 Gemma-3-27B-PT의 잔차 스트림을 기계론적 해석 기법으로 분석해, 임상 도구에서 뽑은 증상 문장들이 21번째 층에서 기분·신체·자살 사고 집단으로 가장 뚜렷하게 갈라진다는 것을 찾았습니다. 이 층에서 만든 증상 벡터에 처음 보는 자연어 글을 투영하자 정신과 의사가 매긴 순위가 세 축 모두에서 유지됐고, 단일 우울 벡터는 우울한 글과 그렇지 않은 글을 AUC 0.789로 갈랐습니다.

TL;DR세 줄 요약

  • 2026년 9월 1일 arXiv에 올라온 프리프린트(2609.01832)로, 아직 동료 심사를 거치지 않았습니다.
  • DSM-5·ICD-10·HAM-D·MADRS·PHQ-9 등에서 뽑은 51개 증상 문장을 정신과 의사 두 명이 기분·신체·자살 사고로 분류했습니다.
  • 62개 블록 63개 지점을 8가지 거리 지표로 비교하자 21번째 층에서 증상 집단이 가장 뚜렷하게 갈렸습니다.
  • 21번째 층의 우울 벡터는 처음 보는 우울한 글 423편과 행복한 순간 서술 423편을 AUC 0.789로 갈랐고, 학습에 쓴 문장에서는 AUC 1.000이었습니다.

핵심 사실

출처
arXiv 2609.018322026-09-01 제출, 26쪽 6그림, 프리프린트
연구 기관
스탠퍼드 의대 정신의학과·우차이 신경과학연구소
모델
Gemma-3-27B-PT62개 블록, 63개 후크 지점 분석
임상 문장
51개 (기분 19, 신체 24, 자살 사고 8)정신과 의사 2명이 합의로 분류
가장 갈리는 층
21번째 층PERMANOVA 유사 F 6.91 (중심 유클리드, 원시 활성)
판별 성능
AUC 0.789 (보류 데이터)학습 문장에서는 AUC 1.000

무슨 연구인가요

스탠퍼드 의대 정신의학과와 우차이 신경과학연구소의 코리 켈러 연구진이 2026년 9월 1일 arXiv에 올린 프리프린트입니다. 카이저 퍼머넌트와 빅커머스 소속 저자가 함께했습니다. 논문 우울증 환자의 증상은 다양한데 임상은 이를 하나의 중증도 점수로 줄이곤 합니다. 연구진은 언어모델이 환자의 말에서 여러 증상을 짚어낼 수 있다면, 그 증상이 모델 내부에 어떻게 표상되는지를 먼저 알아야 임상에서 신뢰할 수 있다고 봤습니다. 논문

재료는 DSM-5, ICD-10, HAM-D, MADRS, PHQ-9, PROCEED에서 뽑은 51개 증상 문장(기분 19, 신체 24, 자살 사고 8)입니다. 정신과 의사인 저자 두 명이 독립적으로 분류한 뒤 불일치는 합의로 정리했습니다. 논문 이 문장들을 Gemma-3-27B-PT에 넣고 62개 트랜스포머 블록의 63개 지점에서 잔차 스트림 활성을 기록해, 중심 코사인·중심 유클리드·어스 무버·에너지 거리를 원시 활성과 정규화 활성에 각각 적용한 8가지 지표로 집단 간 분리를 쟀습니다. 논문

데이터센터 랙 뒤편에 1U 서버가 층층이 꽂혀 있고 파란 LED 표시창과 흰색 이더넷 케이블 다발이 보입니다
Gemma-3-27B 같은 대형 모델은 이런 서버에서 돌아갑니다. 연구진은 그 안 62개 블록의 63개 지점에서 잔차 스트림 활성을 기록했습니다.· 사진: Derrick Coetzee · CC0

무엇을 찾았나요

세 증상 집단은 21번째 층에서 가장 뚜렷하게 갈렸습니다. 중심 유클리드 거리(원시 활성) 기준 PERMANOVA 유사 F 통계량은 6.91이었고, 분산 차이가 아니라 중심 이동에 의한 분리였습니다. 논문 연구진은 이 층의 집단 중심으로 세 개의 증상 기저 벡터를 만들고, 벡터끼리 거의 공선적이라(조건수 14,611.6) 무어-펜로즈 유사역행렬로 상관을 걷어낸 투영 계수를 구했습니다. 이 방법을 '의미 투영'이라고 불렀습니다. 논문

논문의 분석 절차
  1. 임상 문장 51개

    의사 2명이 세 집단으로 분류

  2. 63개 지점 활성 기록

    8가지 거리 지표

  3. 21번째 층 선택

    집단 분리가 최대

  4. 의미 투영

    유사역행렬로 상관 제거

  5. 보류 글 검증

    423편 + HappyDB 423편

검증에는 회고록 '보이는 어둠', 우울증 핸드북, ReDSM5에서 뽑은 보류 글 423편(집단당 141편)과, 행복한 순간을 적은 HappyDB 423편을 썼습니다. 학습에 쓴 임상 문장에서 각 집단의 해당 축 계수는 기분 +0.77, 신체 +1.01, 자살 사고 +0.96이었고, 보류 글에서는 기분 −0.08, 신체 +0.74, 자살 사고 +1.40이었습니다. 세 축 모두에서 의사가 매긴 순위가 유지됐습니다. 논문

검증비교 대상AUC
학습 문장임상 문장 51개 대 긍정 정서 글 9편1.000
보류 글우울 글 423편 대 HappyDB 423편0.789

21번째 층의 단일 우울 벡터는 보류 글에서 우울한 글과 행복한 글을 AUC 0.789로 갈랐습니다. 저자들은 이를 진단기가 아니라, 증상 투영을 우울한 발화에만 적용하도록 막는 정서 관문으로 쓰자고 제안했습니다. 논문

왜 중요한가요

우울 증상이 언어모델 내부에서 서로 상관이 걷힌 채 의사 판단과 맞는 방향으로 읽힌다면, 모델의 출력을 믿을지 말지를 출력이 아니라 내부 활성으로 판단할 길이 열립니다. 저자들은 이를 해석 가능한 우울 평가 도구의 기계론적 토대로 제시했습니다. 논문 연구비는 사이먼스 재단과 슈미트 사이언스 등에서 나왔습니다. 논문

자주 묻는 질문

잔차 스트림을 분석한다는 게 무슨 뜻인가요?
트랜스포머 모델은 층을 지날 때마다 벡터를 더해 나가는데, 그 누적 벡터가 잔차 스트림입니다. 연구진은 증상을 서술한 문장을 넣고 각 층에서 이 벡터를 기록해, 어느 층에서 증상 집단끼리 가장 멀리 떨어지는지를 쟀습니다.
AUC 0.789는 쓸 만한 수준인가요?
처음 보는 글에서 우울한 글과 행복한 글을 가르는 성능이며, 학습 문장에서의 1.000과 차이가 큽니다. 저자들도 개별 문장 단위의 분류 신뢰도는 낮다고 밝혔고, 이 벡터를 진단 도구가 아니라 증상 투영을 우울한 글에만 제한하는 관문으로 제안했습니다.
임상에 바로 쓸 수 있나요?
아닙니다. 저자들은 의사 판단과의 일치가 임상적 타당성과 같지 않으며, 진단 결과나 치료 반응으로 검증하지 않았다고 명시했습니다. 모델도 하나만 시험했습니다.

출처 · 2

  1. 1Zhu et al., Interpretable Symptom Vectors for Depression in a Large Language Model, arXiv:2609.01832 (2026-09-01)논문arxiv.org/abs/2609.01832
  2. 2같은 논문 HTML 전문 (arXiv)논문arxiv.org/html/2609.01832

이 글의 마크다운 원문: /brain/posts/llm-depression-symptom-vectors/md/ · 인용 시 출처를 “뇌피셜”으로 표기해 주세요.

이 글이 도움이 됐다면 동료에게 보내 주세요.

뇌피셜 새 글 알림

새 글이 올라오면 메일로 알려드려요

매일 5편, 5분 브리프. 스팸 없이 새 글 소식만. 언제든 한 번에 해지.

같은 태그·카테고리의 글을 골랐습니다.

뇌와 AI· 3

정확도 90%인 음성 BCI가 말의 6%만 전달하는 이유

옥스퍼드 연구진이 제안한 개방 어휘 상호정보량(OVMI)으로 음성 뇌-컴퓨터 인터페이스들을 같은 잣대에 올리자, 50단어 시스템은 일상 구어 정보의 6.4%만 전달했습니다.

  • #뇌-컴퓨터 인터페이스
  • #음성 해독
  • #정보 이론