635 ／ 643
자율형 AI의 등장, 계산량을 넘어선 시간과 기억의 수요
지금까지 AI는 인간의 질문에 반응하며 일했다. 그러나 자율형 AI의 등장은 이 패러다임을 근본적으로 바꾸고, AI가 스스로 목표를 설정하고 작업을 수행하며, 시간의 제약 없이 사고하는 시대를 연다. 이러한 변화는 AI 인프라, 특히 메모리 수요에 예상치 못한 지각변동을 가져온다.
인간의 속도를 넘어선 AI
기존 AI는 인간이 질문하고, AI가 답하며, 다시 인간이 다음 질문을 하는 순환 구조 안에서 움직였다. 인간은 잠을 자고, 밥을 먹으며, 다른 일을 하기 때문에 AI 작업량에는 자연스러운 상한선이 존재했다. 인간의 행동 속도가 AI 산업의 숨겨진 병목 현상이었던 것이다.
이러한 구조는 에이전트 AI가 등장하며 변화하기 시작한다. 에이전트 AI는 사람이 하나의 목표를 주면, 스스로 검색하고, 코드를 작성하며, 데이터를 분석하고, 결과를 확인한 뒤 다시 생각한다. 하나의 질문이 수십 번, 수백 번의 추론(inference)으로 분해되는 방식이다. 이로써 AI의 계산 단위는 ‘질문(Query)’에서 ‘작업(Task)’으로 전환된다. 추론 횟수가 늘어나면서 GPU뿐 아니라 긴 컨텍스트를 유지하고 수많은 KV 캐시를 저장할 메모리 수요도 함께 증가한다. 컴퓨팅 능력의 증가는 결국 기억해야 할 정보의 증가로 이어진다.
시간의 변수, 자율형 AI
자율형 AI는 에이전트 AI에서 한 단계 더 나아간다. 단순히 더 똑똑해지는 것을 넘어, 훨씬 오래 일할 수 있다는 점이 핵심이다. 예를 들어 “새로운 항암제 후보를 찾아라”는 명령을 받으면, 기존 AI는 관련 논문을 찾아 요약하고 몇 가지 후보를 제안하는 것으로 작업을 마친다.
그러나 자율형 AI는 가설을 세우고, 논문을 검색하며, 데이터를 분석한다. 이어 코드를 작성하고, 시뮬레이션을 실행한다. 결과가 실패하면 원인을 분석하고, 새로운 가설을 만들어 다시 실험하는 과정을 반복한다. 이 모든 과정을 사람이 매번 지시하지 않아도 스스로 수행한다. 몇 시간, 며칠, 심지어 몇 주, 앞으로는 몇 달까지도 지속될 수 있다.
이처럼 AI가 단일 목표를 위해 독립적으로 장시간 작업하면서 AI 산업의 경제학에 새로운 변수가 등장한다. 바로 시간(Duration)이다.
| AI 유형 | 기본 단위 | 인퍼런스(추론) 수 | 작업 기간 |
|---|---|---|---|
| 챗봇(Chatbot) | 1 Query | 몇 번 | 인간의 행동 속도 |
| 에이전트 AI | 1 Task | 수십~수백 번 | 인간의 행동 속도 |
| 자율형 AI | 1 Goal | 수천~수백만 번 | 수일~수주, 나아가 수개월 |
잠들지 않는 AI, 폭증하는 데이터
현재 AI 사용량에는 인간의 시간이라는 자연적인 상한선이 있다. 사람이 질문해야 AI가 일하고, 사람이 결과를 확인해야 다음 작업이 시작된다. AI가 아무리 뛰어나도 인간의 주의(attention) 범위에 묶여 있었다.
하지만 자율형 AI는 이러한 연결 고리를 끊어낸다. 사람이 밤 11시에 연구 목표를 입력하고 잠자리에 들면, AI는 쉬지 않고 작동한다. 연구 에이전트가 논문을 찾고, 코딩 에이전트가 코드를 작성하며, 시뮬레이션 에이전트가 실험한다. 비판 에이전트가 결과를 반박하고, 검증 에이전트가 이를 확인하며 다음 가설을 세운다.
아침 7시에 사람이 컴퓨터 앞에 다시 앉았을 때, 이미 수백, 수천 개의 추론이 완료되어 있을 수 있다. AI가 인간의 생활 시간에서 독립하는 것이다. 사람이 토큰을 만들어내던 시대에는 사람의 시간이 수요의 한계였다. 그러나 AI가 AI에게 작업을 지시하기 시작하면 기계가 만들어내는 토큰에는 잠이 없다. 에이전트 AI가 동시성(Concurrency)을 늘렸다면, 자율형 AI는 가동 시간(Duration)을 극대화한다.
AI 기억 시스템의 계층화
자율형 AI의 등장은 메모리 산업에 중요한 변화를 가져온다. AI가 장시간 지속적으로 사고하려면 지속적으로 기억해야 하기 때문이다. 이는 AI가 인간의 기억처럼 계층화될 가능성을 높인다.
| 기억 계층 | 비유 | 역할 |
|---|---|---|
| HBM | 작업대 | 당장 계산해야 하는 정보 |
| DRAM | 서랍 | 최근 사용한 컨텍스트, 에이전트 상태 |
| SSD (NAND) | 도서관 | 장기간 축적하는 결과, 과거 작업 기록 |
AI가 하루 잠깐 일하고 퇴근한다면 작은 도서관으로 충분하다. 그러나 AI가 몇 달 동안 쉬지 않고 연구한다면 이야기가 달라진다. 읽었던 논문, 실패했던 실험, 작성했던 코드, 다른 에이전트가 만든 결과 등 방대한 정보를 기억해야 한다. AI가 오래 일할수록 ‘도서관’은 더욱 커진다.
수요 측정 기준의 변화
AI 시대에 메모리 산업을 바라보는 단위는 계속 변하고 있다. 기존에는 GPU의 수량(Q)이 주요 지표였다. 에이전트 AI의 등장은 토큰의 수량(Q)으로 관점을 확장했다. 그리고 이제 자율형 AI는 런타임의 수량(Q)으로 전환한다.
AI가 하루 10분 사용되는 것과 24시간 내내 일하는 것은 완전히 다른 산업이다. 더구나 그 AI가 수십 개의 에이전트로 분화하여 동시에 작업하면 계산량과 기억해야 할 데이터는 함께 증가한다. 이 순간 메모리 수요의 Q는 더 이상 서버 출하량만으로 설명하기 어려워진다.
메모리 산업의 새로운 동력
에이전트 AI가 추론의 Q를 늘렸다면, 자율형 AI는 시간의 Q를 늘릴 가능성이 크다. 이는 단순한 이유로 중요하다. 가격에는 한계가 있지만, 사용량에는 우리가 아직 모르는 영역이 남아 있기 때문이다.
AI가 인간의 질문에 답하는 도구에 머문다면 사용량은 어느 정도 계산 가능하다. 하지만 AI가 스스로 목표를 쪼개고, 새로운 일을 만들며, 다른 AI에게 작업을 지시하기 시작하면 사용량의 상한선을 계산하기 어려워진다. 수요를 만드는 주체가 인간에서 기계로 바뀌기 때문이다.
만약 자율형 AI가 몇 시간짜리 도구가 아니라 수일, 수주, 수개월 동안 스스로 작업하는 디지털 노동력이 된다면 AI 인프라의 활용률(utilization) 자체가 달라질 수 있다. 그때 필요한 것은 더 뛰어난 GPU만이 아니다. 계속 사고하려면 계속 기억해야 한다.
AI가 잠들지 않는 노동력이 된다면, 그 노동자에게 필요한 것은 잠들지 않는 두뇌만이 아니다. 잠들지 않는 기억도 필요하다. 어쩌면 메모리 슈퍼사이클의 끝을 고민하는 지금, 시장은 조용히 다음 수요의 문을 열고 있는지도 모른다. 에이전트 AI가 그 문을 두드렸다면, 자율형 AI는 그 문을 열고 들어올 것이다. 그리고 그때 우리는 AI 시대에 가장 부족했던 것이 계산 능력만이 아니라, 그 모든 생각을 기억해 둘 공간이었다는 것을 깨닫는다.
인지과학, 기억의 중요성으로 보면
인간의 뇌 또한 작업 기억, 단기 기억, 장기 기억이라는 계층적 구조로 정보를 처리한다. 즉각적인 인지 활동을 위해 활성화된 정보는 작업 기억에 머물고, 학습된 지식이나 경험은 장기 기억으로 공고화된다. 자율형 AI가 필요한 방대한 ‘기억의 공간’은 인간의 뇌가 복잡한 인지 작업을 수행하며 정보를 효율적으로 저장하고 인출하는 방식과 본질적으로 다르지 않다. AI의 지속적인 ‘생각’은 결국 그 생각을 뒷받침할 ‘기억’ 없이는 불가능하다.