모델 메모리 벽 2/4: 당신의 똑똑한 조수에게 없는 단 하나

모델과 함께 일하는 사람들의 다섯 단계, 그리고 모두가 부딪히는 벽 (2편)

---

지난 편의 끝에서 우리는 벽 앞에 섰다. 진짜 사용자가 되어 본격적으로 프로젝트의 액셀을 밟으려는 순간, 모델이 제자리를 맴돌기 시작하는 그 지점이다.

그 맴돌기에는 이름이 있다. 맥락의 소실, 그리고 기억의 부재.

비유를 하나 들어보자. 모델에게 주어진 작업 공간은 책상이다. 넓고 훌륭한 책상이지만, 책상일 뿐이다. 당신이 자료를 펼치고 지시를 올려두면 모델은 그 위의 모든 것을 한눈에 보고 일한다. 문제는 책상에 서랍이 없다는 것이다.

대화가 길어지고 프로젝트가 깊어질수록 책상은 종이로 가득 찬다. 그리고 책상이 꽉 차는 순간, 새 작업을 올리려면 오래된 종이를 치워야 한다. 어제 함께 합의한 원칙, 지난주에 정한 설계, 세 시간 전에 고친 방향. 그것들이 책상 가장자리로 밀려나 바닥으로 떨어진다. 모델은 떨어진 종이를 줍지 못한다. 줍는 법을 모르는 게 아니라, 떨어졌다는 사실조차 모른다.

그래서 맴도는 것이다. 진행하라고 윽박지르면 진행은 한다. 하지만 방금 치운 종이에 적혀 있던 결정을 잊은 채 진행하니, 한 바퀴 돌아 같은 자리로 돌아온다. 당신이 다시 설명한다. 모델이 다시 일한다. 또 잊는다. 불안한 건 당연하다. 당신은 지금 기억상실증에 걸린 천재와 일하고 있는 셈이니까.

여기서 많은 사람이 오해한다. 프롬프트를 더 잘 쓰면 풀릴 거라고. 하지만 프롬프트는 책상 위에 종이를 더 가지런히 올려놓는 기술이다. 책상을 넓히는 일조차 아니다. 종이가 아무리 가지런해도, 서랍이 없으면 책상이 차는 순간 똑같이 무너진다. 더 잘 시키는 것으로는 이 벽을 넘을 수 없다. 빠진 것은 기술이 아니라 층이다.

이 단계에 진짜로 필요한 것은 더 긴 프롬프트도, 더 큰 책상도 아니다. 서랍. 즉 기억을 누적하고 필요할 때 다시 꺼내오는 메모리(memory)다.

지능은 이미 충분히 도착했다. 정작 빠진 것은 그 지능이 어제를 오늘로 이어 붙일 연속성이다. 도구를 다루는 능력도, 추론하는 능력도 갖춘 모델에게 단 하나 없는 것. 기억이다.

그렇다면 그 서랍은 정확히 무엇을 해야 하는가. 종이를 아무렇게나 쑤셔 넣는 상자라면 없느니만 못하다. 무엇을 남기고, 무엇을 버리며, 필요한 순간 어떻게 정확히 그 한 장을 꺼내올 것인가. 다음 편에서, 메모리 레이어가 실제로 해야 하는 일과 그것이 붙는 순간 일어나는 변화를 이야기한다.