LLM 위키

컨텍스트 부패 (Context Decay)

갱신 2026-08-04

한눈에 요약

무슨 현상인가

**컨텍스트 부패(Context Decay)**는 AI가 긴 작업 중 컨텍스트 윈도우가 차오르면 일관성을 잃고 성능이 떨어지는 현상이다. 작업이 길어져 한 번에 볼 수 있는 정보량이 꽉 차면 앞에서 한 얘기를 잊어버리기 시작한다 14.

책으로 치면 한 번에 펼쳐 볼 수 있는 페이지 수가 컨텍스트 창이다. 아무리 좋은 AI도 이 창을 넘어가면 내용을 못 본다 14. 하네스 엔지니어링이 풀려는 두 핵심 문제 중 하나다. 다른 하나는 규칙·울타리 문제다.

두 가지 실패 패턴

엔트로픽 연구팀이 최전선 모델로 Claude.ai를 클론해 보라고 시켰을 때 두 가지 실패 패턴이 반복됐다 14 13:

  1. 세션 간 기억 소실 — 모든 걸 한 번에 해결하려 달려들다 컨텍스트가 바닥나 절반만 구현된다. 다음 세션에서는 어디까지 했는지 기억이 없어 처음부터 다시 파악하느라 시간을 쓴다. 엔트로픽은 "교대 근무 엔지니어가 이전 담당자가 뭘 했는지 전혀 모른 채 출근하는 것"에 비유했다 13.
  2. 조기 종료(컨텍스트 어어티) — 하나의 대화 안에서 컨텍스트가 차오르면 일관성을 잃는다. 할 일이 아직 남았는데도 "다 됐네" 하고 스스로 작업을 끝낸다 13 14.

니들 인 헤이스택 / 컨텍스트 디그라데이션

루프 엔지니어링 영상은 이 현상을 "니들 인 헤이스택(needle in a haystack)" 시절의 컨텍스트 디그라데이션 문제로 회고한다. 문맥이 꽉 차면 퍼포먼스가 낮아진다는 것이다. 200K 컨텍스트 시절에 특히 심했고, 지금은 많이 나아졌지만 여전히 유효하다 25.

그래서 랄프 루프(Ralph Loop)에서는 작업을 잘게 쪼갰다. 매번 하나의 태스크 결과만 디스크에 저장해 컨텍스트를 최소화하고, 새 에이전트를 띄워 새로운 컨텍스트 안에서 다음 작업을 하게 했다. 같은 컨텍스트 안에서 계속 작업하는 것보다 빠르고 효율적이기 때문이다 25.

이 "잘게 쪼개 새 컨텍스트로 넘기는" 발상이 ReAct 루프(Reason-Act-Observe-Decide-Repeat)와 루프 엔지니어링의 토대가 된다 25.

"신선한 컨텍스트가 비대한 컨텍스트를 이긴다"

실무에서 가장 중요한 원칙은 **"신선한 컨텍스트가 비대한 컨텍스트를 이긴다"**이다 17.

클로드에서는 주고받은 메시지, 읽은 파일, 실행한 명령어가 전부 컨텍스트에 쌓인다. 채워질수록 성능이 떨어진다. 그래서 할 일은 정보를 최대한 많이 주는 게 아니다. 정말 필요한 정보만 남기고 나머지를 쳐내는 것이다. 관련 없는 정보가 많을수록 클로드가 잘못된 방향으로 빠진다 17.

CLAUDE.md도 마찬가지다. 클로드는 약 80%만 따른다고 알려져 있어, 길수록 중요한 규칙이 무시될 가능성이 높다. 대략 150~200줄로 끝내는 게 좋다 17.

컨텍스트 부패를 막는 하네스/세션 관리

함께 읽기

이 문서를 참조하는 문서 15개