모델 메모리 벽 1/4: AI를 잘 쓰게 되는 순간, 프로젝트가 멈춘다
모델과 함께 일하는 사람들의 다섯 단계, 그리고 모두가 부딪히는 벽 (1편)
---
처음 모델을 만난 사람의 첫인상은 대개 환멸이다.
만능을 기대했기 때문이다. 무엇이든 답해줄 거라 믿고 다가갔는데, 정작 잘 쓸 줄 모르는 상태에서 틀린 답이 돌아온다. 왜 틀렸는지 이해하지 못하니 결론은 하나로 수렴한다. "인공지능은 거짓말을 한다." 많은 사람이 여기서 발길을 돌린다. 1단계의 이탈자들이다.
이 구간을 버틴 사람은 곧 사용법을 익히기 시작한다. 그러면 재미의 구간이 온다. 모든 것을 묻기 시작한다. 점점 어려운 문제를 맡겨보고, 기가 막힌 방법이나 엄청난 효율로 풀려나가는 걸 목격한다. 그 경험이 쌓이면 자연스럽게 다음 단계로 넘어간다.
만능주의다. 모델이 제대로 못 하는 건 내가 잘못 시켜서다. 이 단계의 핵심 정서다. 책임을 모델이 아니라 자신에게 돌리기 시작한다. 사실 이건 큰 진전이다. 프롬프트를 다듬게 만드는 동력이니까. 그리고 정말로 잘 시키기 시작하면 다음 문이 열린다.
맹신이다. 이제 프롬프트도 능숙하고, 모델이 가끔 흘리는 거짓말도 "그럴 수 있는 일"로 알아보고 넘긴다. 도구를 길들였다는 자신감. 바로 이 단계에서 많은 사람이 챗봇을 넘어 에이전트로 넘어간다.
에이전트의 문턱에서 또 한 번 갈린다. 처음의 복잡함에 혀를 내두르며 챗봇으로 돌아가는 사람이 있고, 일부는 에이전트의 극히 일부 기능만 쓰며 머문다. 그렇지 않은 소수가 에이전트의 진짜 용도와 기능을 발견하고, 비로소 진짜 모델 사용자의 길에 들어선다.
여기까지 살아남은 사람은 강력하다. 그럴듯한 진행, 큰 그림, 완전해 보이는 검증 루틴. 무엇이든 해낼 수 있을 것 같은 기분. 그렇게 프로젝트가 시작된다.
그런데 프로젝트에 물이 올라 본격적으로 액셀을 밟아야 하는 지점에 이르면, 이상한 일이 벌어진다.
제자리를 맴돈다.
에이전트도 모델도 일은 열심히 한다. 그런데 진척이 없다. 진행하라고 윽박지르면 진행은 한다. 하지만 불안하다. 분명히 앞으로 가야 하는데, 어딘가에서 계속 같은 자리로 돌아온다.
맹신 단계를 거쳐 진짜 사용자가 됐던 그 자신감이, 정확히 이 지점에서 청구서로 돌아온다. 그리고 이건 당신이 못나서가 아니다. 프롬프트를 더 잘 쓴다고 풀리지도 않는다. 이건 구조의 문제다. 모델에게는 맥락(context)을 붙잡아둘 곳이, 그리고 기억(memory)을 누적할 곳이 마땅치 않다.
이 맴돌기에는 이름이 있다. 그리고 이건 개인의 실력 문제가 아니라, 지금 우리가 모델을 쓰는 방식 전체에 그어진 유리천장이다.
그 이름이 무엇이고, 왜 프롬프트로는 결코 뚫리지 않으며, 어떤 구조적 해결책이 이미 존재하는지. 다음 편에서 이야기한다.
목차 예고
- AI를 잘 쓰게 되는 순간, 프로젝트가 멈춘다
- 당신의 똑똑한 조수에게 없는 단 하나
- 무엇을 남기고 무엇을 버릴 것인가
- 기억의 표준: 메모리 레이어 표준화가 필요한 이유