본문으로 건너뛰기

지각만 배운 RNN에서 예측이 저절로 생겼다 — 바흐 700곡 실험

잡음 섞인 바흐 음악을 복원하도록만 훈련한 순환신경망이 다음 음을 예측하는 정보를 스스로 갖게 됐고, 그 예측은 잡음이 중간 수준(σ 0.15~0.4)일 때만 나타났습니다.

뇌피셜 편집부· 3분 읽기원문 보기 ↗
요한 제바스티안 바흐가 직접 쓴 오르간 소곡집 BWV 614 자필 악보. 갈색 잉크로 쓴 음표가 오선 위에 빽빽하게 이어집니다
사진: J. S. Bach · Public domain

핵심 답변

바흐 700곡을 토큰으로 바꾸고 잡음을 섞은 뒤 원곡을 복원하도록만 훈련한 GRU 순환신경망의 은닉 상태에서, 다음 토큰을 예측하는 정보가 별도 훈련 없이 나타났습니다. 예측은 잡음 표준편차가 0.15~0.4일 때만 출현했고 상태 갱신이 예측 오차에 비례해, 뇌의 예측 처리가 정확한 지각을 위한 최적화의 부산물일 수 있음을 시사합니다.

TL;DR세 줄 요약

  • Aix-Marseille 대학의 Akanksha Gupta와 바스크 인지·뇌·언어센터 Alejandro Tabas가 2026년 9월 2일 arXiv에 올린 논문입니다.
  • 바흐 700곡(MIDI 1,432개)을 12차원 반음계 토큰으로 바꿔 490·70·140곡으로 나누고, 14단계 가우시안 잡음(σ 0.001~2)을 섞어 잡음 제거만 학습시켰습니다.
  • 가중치를 얼린 뒤 선형 판독기만 붙였는데도 다음 토큰 예측이 정답 토큰을 입력받는 보수적 마르코프 벤치마크를 이겼습니다(64유닛, σ=0.25에서 Cohen's d 0.45).
  • 예측 정보는 σ 0.15~0.4 구간에서만 출현했고, 은닉 상태 갱신은 예측 오차와 상관(σ=0.4에서 부분 상관 0.29)했으며 예측 오차 자체도 디코딩됐습니다(d 3.46).

핵심 사실

게재
arXiv:2609.02739, 2026-09-02 제출18쪽, 그림 6개
데이터
바흐 700곡, MIDI 1,432개학습 490·검증 70·시험 140곡
모델
단일층 GRU, 은닉 8~256유닛잡음 14단계
예측 출현 구간
σ 0.15~0.4

무슨 일인가요

프랑스 Aix-Marseille 대학의 Akanksha Gupta와 스페인 바스크 인지·뇌·언어센터(BCBL)·독일 막스플랑크 인간인지뇌과학연구소 소속 Alejandro Tabas는 2026년 9월 2일 arXiv에 올린 논문에서 한 가지 질문을 던졌습니다. 뇌는 왜 지각을 위해 굳이 미래를 예측하는가. 논문 이들은 예측을 강제하는 목적 함수나 에너지 제약 없이, 잡음 섞인 입력을 정확히 복원하는 과제만으로 예측이 생기는지를 시험했습니다.

피아노 건반을 가까이서 찍은 흑백 사진
연구진은 바흐 700곡을 피아노롤로 바꾼 뒤 울리는 음의 집합이 바뀔 때만 토큰을 내는 방식으로 학습 데이터를 만들었습니다.· 사진: Maciej Korsan · CC0

재료는 바흐였습니다. 700곡(MIDI 파일 1,432개)을 피아노롤로 바꾼 뒤 울리는 음의 집합이 바뀔 때만 토큰을 내는 방식으로 토큰화하고, 12차원 반음계 공간으로 압축했습니다. 곡은 학습 490·검증 70·시험 140곡으로 나눴습니다. 논문 여기에 14단계의 가우시안 잡음(σ 0.001부터 2까지)을 섞어 단일층 GRU(은닉 8~256유닛)에 원곡 토큰을 복원하도록 훈련했습니다. 훈련이 끝나면 가중치를 얼리고, 은닉 상태에서 다음 토큰을 예측하는 선형 판독기만 따로 학습했습니다. 논문

왜 중요한가요

64유닛·σ=0.25 사례 네트워크는 잡음 제거에서 기억 없는 로지스틱 회귀(BCE 0.040)보다 좋은 0.023을 기록해(Cohen's d 5.01) 기억 흔적을 실제로 활용했습니다. 논문 같은 네트워크의 예측 판독기는 정답 토큰을 입력으로 받는 보수적 마르코프 벤치마크를 이겼습니다(d 0.45). 예측을 직접 학습한 네트워크(성능 상한)에는 미치지 못했지만, 복원만 배운 네트워크가 이전 토큰만으로는 알 수 없는 미래 정보를 담고 있었다는 뜻입니다. 논문

잡음 표준편차 σ관측 하나로 정답 복원 확률예측 정보
0.1 이하0.99 초과마르코프 벤치마크와 차이 없음
0.15~0.4급격히 감소두 마르코프 벤치마크 모두 능가
0.6 이상0.27 미만예측 학습 네트워크와 성능 수렴, 감소

예측 정보는 σ 0.15~0.4 구간에서만 나타났습니다. 탐지 이론으로 계산하면 σ가 0.15 미만일 때 관측 하나로 정답을 맞힐 확률이 0.99를 넘어 예측이 필요 없고, 0.4를 넘으면 0.27 아래로 떨어져 관측이 구조를 배울 만큼 정보를 주지 못합니다. 논문 은닉 상태의 갱신 크기는 예측 오차와 상관했고(σ=0.4에서 부분 상관 0.29로 최대), 은닉 상태에서 예측 오차 자체를 선형으로 읽어낼 수 있었습니다(가장 엄격한 벤치마크 대비 d 3.46). 이 신호는 32유닛 미만 네트워크에서는 보이지 않았습니다. 논문

σ 0.15~0.4

예측이 출현한 잡음 구간

신호 진폭 1 기준. 그 아래에서는 예측이 불필요하고, 그 위에서는 학습이 불가능했습니다

무엇을 보면 되나요

  • "왜 예측하는가"의 답 하나: 예측 오차 전송이 대사적으로 싸다는 기존 논증은 예측 자체를 계속 전달해야 해 이득이 상쇄된다는 반론이 있습니다. 이 논문은 대사와 무관하게 정확한 지각을 향한 압력만으로 예측이 생긴다고 주장합니다. 논문
  • 신경과학 실험의 예측: 감각계의 예측 오차 신호가 잡음이 중간 수준인 조건에서 가장 뚜렷하리라는 검증 가능한 가설이 따라 나옵니다. 추정
  • 재현 가능: 코드와 학습된 가중치는 GitHub 저장소 qtabs/BayesPlusBach에 GPL-3.0으로 공개돼 있습니다. 논문

자주 묻는 질문

예측 처리 가설이 무엇인가요?
뇌가 감각 입력을 수동으로 받는 것이 아니라 다음에 올 입력을 예측하고 그 오차만 처리한다는 이론입니다. 억제된 반응, 규칙 위반에 대한 불일치 반응, 생략된 자극에 대한 반응 등이 근거로 제시돼 왔지만, 현재를 처리하는 감각계가 왜 미래를 예측하는 데 자원을 쓰는지는 논쟁거리였습니다.
왜 바흐 음악을 썼나요?
구조가 복잡한 생성 체계에서 나온 데이터라 예측이 가능하면서도, 바로 앞 토큰만 보는 1차 마르코프 모델로는 쉽게 예측할 수 없기 때문입니다. 저자들은 음악을 지각의 은유로 쓴 것이며 자연 감각 입력으로의 일반화는 별도 검증이 필요하다고 밝혔습니다.
잡음이 너무 크거나 작으면 왜 예측이 안 생기나요?
탐지 이론 계산에서 σ가 0.15 미만이면 관측 하나만으로 정답을 복원할 확률이 0.99를 넘어 예측이 필요 없고, 0.4를 넘으면 그 확률이 0.27 아래로 떨어져 관측이 통계 구조를 배우기에 너무 빈약해집니다. 예측은 그 사이에서만 유용했습니다.

출처 · 3

  1. 1Gupta & Tabas, Prediction emerges in RNNs trained for perception (arXiv:2609.02739)논문arxiv.org/abs/2609.02739
  2. 2논문 전문 (arXiv HTML)논문arxiv.org/html/2609.02739v1
  3. 3코드·학습 가중치 (GitHub qtabs/BayesPlusBach)참고github.com/qtabs/BayesPlusBach

이 글의 마크다운 원문: /brain/posts/prediction-emerges-denoising-rnn/md/ · 인용 시 출처를 “뇌피셜”으로 표기해 주세요.

이 글이 도움이 됐다면 동료에게 보내 주세요.

뇌피셜 새 글 알림

새 글이 올라오면 메일로 알려드려요

매일 5편, 5분 브리프. 스팸 없이 새 글 소식만. 언제든 한 번에 해지.

같은 태그·카테고리의 글을 골랐습니다.

뇌와 AI· 3

뇌 fMRI 신호로 LLM 추론 정확도를 13%p 올린 논문

베이징대 연구진이 사람이 논리 문제를 풀 때의 fMRI 신호로 LLM 내부 표현을 조정해 10개 모델의 추론 정확도를 올렸습니다. 방법·수치·한계를 정리합니다.

  • #뇌와 AI
  • #LLM
  • #fMRI