소프트웨어 3.0 시대, 에이전트 엔지니어링이란
소프트웨어 개발, 이제 코딩은 뒷전인가? AI 에이전트가 등장하면서 개발 패러다임 자체가 바뀌고, 인간은 ‘이해’에 집중해야 한다는 주장이 나온다.
뒤처지는 프로그래머, 새로운 기회
OpenAI 공동 창업자이자 Eureka Labs 설립자인 Andrej Karpathy는 자신이 프로그래머로서 뒤처지고 있다고 느낀다고 말한다. 그 이유는 최신 모델을 활용한 에이전트 기반의 코딩이 과거와는 비교할 수 없을 정도로 효율적이기 때문이다. 2023년 12월을 기점으로 AI 모델의 성능이 급격히 향상되어, 코드 작성 및 수정 과정에서 인간의 개입이 최소화되는 바이브 코딩이 가능해졌다. 그는 이제 AI를 단순한 도구가 아닌, 새로운 컴퓨팅 패러다임으로 인식해야 한다고 강조한다.
소프트웨어 3.0 시대의 도래
Karpathy는 소프트웨어 개발의 진화를 세 단계로 구분한다. 소프트웨어 1.0은 사람이 직접 코드를 작성하는 방식, 소프트웨어 2.0은 데이터셋을 기반으로 신경망을 학습시키는 방식이다. 그리고 소프트웨어 3.0은 LLM을 활용하여 프롬프트 엔지니어링을 통해 프로그래밍하는 방식이다. LLM은 문맥을 해석하고 디지털 정보 공간에서 연산을 수행하는 일종의 ‘인터프리터’ 역할을 한다. 그는 OpenCLaw 설치 과정을 예시로 들며, 과거에는 복잡한 셸 스크립트를 작성해야 했던 작업을 에이전트에게 간단한 텍스트 명령어로 해결할 수 있음을 설명한다.
메뉴젠 앱, 패러다임 전환의 증거
Karpathy는 자신이 개발했던 메뉴젠(MenuGen) 앱을 통해 소프트웨어 3.0 시대의 변화를 설명한다. 메뉴젠은 식당 메뉴 사진을 업로드하면, 메뉴 항목에 해당하는 음식 이미지를 생성해 보여주는 앱이다. 그는 Gemini에게 사진과 함께 메뉴 항목을 오버레이하도록 지시하는 것이 더 효율적이라는 것을 깨달았다. 이는 기존 앱 개발 패러다임에서 벗어나, 신경망이 더 많은 작업을 수행하고 프롬프트가 핵심적인 역할을 하는 소프트웨어 3.0 시대의 특징을 보여준다. 그는 기존의 사고방식에서 벗어나 새로운 가능성을 탐색해야 한다고 주장한다.
2026년, 무엇이 명확해질까
Karpathy는 미래에는 완전히 새로운 형태의 컴퓨터가 등장할 수 있다고 예측한다. 그는 로우 비디오나 오디오를 입력받아 신경망이 UI를 렌더링하는 뉴럴 컴퓨터를 상상한다. 과거에는 계산기와 신경망 중 어떤 방향으로 컴퓨터가 발전할지 불분명했지만, 현재는 신경망이 기존 컴퓨터의 역할을 대체할 가능성이 높다고 본다. 그는 CPU가 보조 프로세서 역할을 하고, 신경망이 주도하는 시대가 올 것이라고 전망한다.
검증 가능성과 톱니날 지능
Karpathy는 AI가 자동화하기 쉬운 영역은 결과 검증이 용이한 분야라고 말한다. 그는 AI 모델이 학습 과정에서 검증 가능한 보상을 받기 때문에, 수학이나 코딩과 같은 분야에서 뛰어난 성능을 보이는 반면, 그렇지 않은 분야에서는 부족한 모습을 보인다고 설명한다. 그는 AI 모델의 톱니날 지능(jagged intelligence) 현상을 설명하기 위해, 자동차 세차장까지 걸어가야 하는 상황에서 AI가 잘못된 판단을 내리는 사례를 제시한다. 그는 OpenAI가 체스 데이터를 프리트레이닝 데이터셋에 추가한 결과, GPT 모델의 체스 실력이 향상된 사례를 통해, 데이터셋 구성이 AI 성능에 미치는 영향을 강조한다.
창업자를 위한 조언, 자동화의 함정
Karpathy는 창업자들이 검증 가능한 영역에서 사업 아이템을 찾는 것이 중요하다고 조언한다. 그는 AI 모델이 학습할 수 있는 강화 학습 환경을 구축하면, 자체적인 파인튜닝을 통해 좋은 결과를 얻을 수 있다고 말한다. 그는 모든 것이 어느 정도 자동화될 수 있지만, 쉬운 것과 어려운 것이 있다고 덧붙인다.
바이브 코딩에서 에이전트 엔지니어링으로
Karpathy는 바이브 코딩이 소프트웨어 개발의 진입 장벽을 낮추는 데 기여했지만, 에이전트 엔지니어링은 기존 소프트웨어의 품질 기준을 유지하면서 개발 속도를 향상시키는 것을 목표로 한다고 설명한다. 그는 에이전트를 활용하여 개발 속도를 높이면서도 보안 취약점을 방지하고, 소프트웨어의 품질을 유지하는 것이 중요하다고 강조한다. 그는 에이전트 엔지니어링을 통해 10배 이상의 생산성 향상을 기대할 수 있다고 말한다.
AI 네이티브 개발자의 등장
Karpathy는 AI 도구를 최대한 활용하고, 자신만의 설정을 구축하는 것이 중요하다고 강조한다. 그는 기업들이 에이전트 엔지니어링 능력을 갖춘 개발자를 채용하기 위해, 기존의 퍼즐 풀이 방식에서 벗어나 실제 프로젝트 구현 능력을 평가해야 한다고 제안한다. 그는 지원자에게 트위터 클론과 같은 대규모 프로젝트를 구현하고, 에이전트를 활용하여 보안 취약점을 테스트하도록 하는 방식을 예시로 제시한다.
인간의 고유한 역량, 이해
Karpathy는 에이전트가 더 많은 역할을 수행할수록, 인간의 미적 감각, 판단력, 취향이 더욱 중요해진다고 말한다. 그는 에이전트가 설계한 시스템에서 사용자의 이메일 주소를 잘못 연결하는 오류를 지적하며, 인간이 시스템의 설계 및 감독 역할을 수행해야 함을 강조한다. 그는 AI 시대에도 여전히 이해가 중요하며, 정보를 종합하고 새로운 통찰력을 얻는 능력이 필요하다고 역설한다. “사고는 아웃소싱할 수 있지만, 이해는 아웃소싱할 수 없다”는 것이다.
스포츠과학·운동학습의 시선으로 보면
스포츠과학·운동학습에서는 운동 기술 습득 단계를 인지 단계, 연합 단계, 자동화 단계로 나눈다. 카파시가 제시한 소프트웨어 개발 패러다임 변화와 유사한 점이 있다. 소프트웨어 1.0은 인지 단계처럼 규칙을 명시적으로 이해하고 코드를 작성하는 단계, 소프트웨어 2.0은 연합 단계처럼 데이터셋과 신경망 구조를 조합하여 원하는 결과를 얻는 단계, 소프트웨어 3.0은 자동화 단계처럼 AI 에이전트가 알아서 코드를 생성하고 문제를 해결하는 단계로 볼 수 있다. 인간은 여전히 전체적인 설계와 문제 정의, 그리고 AI가 놓치는 미묘한 부분을 ‘이해’하는 데 중요한 역할을 수행한다.
출처
- Sequoia Capital. (2026-04-29). Andrej Karpathy: From Vibe Coding to Agentic Engineering. YouTube.