770 ／ 774
AI는 도구이고, 잘 쓰려면 숙련이 필요하다
리치 히키(Rich Hickey)는 2026년 10월 11일 「’AI’ is Not a Tool」이라는 글에서 LLM은 사람이 손에 쥐고 다룰 수 없으므로 도구가 아니라 자동화라고 주장했다. 다음 날 yyhh.org의 화하이(Huahai)가 반론을 올렸다. 일을 남에게 맡기면 배울 기회를 잃을 수 있다는 점에는 화하이도 동의한다. 하지만 거기서 히키의 결론이 따라 나오지는 않는다고 본다. 히키의 정의를 그대로 받아들여도 LLM은 사람이 다루는 대상이 될 수 있고, 다른 도구가 그렇듯 잘 쓰려면 숙련이 필요하다는 것이다.
도구는 쓰는 사람의 판단을 키운다
톱을 집어 든다고 곧게 잘리는 것은 아니다. 끌을 쥔다고 조각가가 되지도 않는다. 도구는 좋은 판단만큼이나 서툰 판단도 쉽게 키운다. 도구가 쓸모 있느냐는 다루는 사람이 도구를 이끌고, 피드백을 해석하고, 실수를 알아채고, 바로잡는 능력에 달려 있다. 화하이는 LLM에도 같은 요구가 그대로 적용된다고 말한다.
화하이의 한 동료는 “AI는 거울이다”라고 말하곤 했다. 화하이는 이 말에 통찰이 담겨 있다고 본다. AI는 쓰는 사람이 가져오는 호기심과 판단, 습관까지 포함해 그 사람이 어떤 사람인지를 비춘다. 그래서 어떤 질문을 던지는지, 돌아온 답에 어떤 기준을 들이대는지가 중요하다.
다루기 어렵다고 도구가 아닌 것은 아니다
화하이는 LLM을 예측하기 어렵다는 점이 실제 한계라는 것은 인정한다. 그러나 그가 보기에 예측 가능성, 신뢰성, 단순성, 정해진 범위 안에서만 작동한다는 성질은 도구를 평가하는 기준이지 도구라는 범주에 들어가기 위한 전제 조건이 아니다. 통제하기 어렵거나 잘못 쓰기 쉽다고 해서 도구가 도구 아닌 것이 되지는 않는다는 것이다.
화하이는 히키가 도구와 자동화를 가른 방식도 잘못된 구분을 만든다고 본다. 자동화는 도구가 가진 기능일 수 있다. 컴파일러는 프로그래머가 연산 하나하나를 계속 지시하지 않아도 상당한 일을 해낸다. 스프레드시트는 누군가 계산을 일일이 손으로 하지 않아도 결과를 다시 계산한다. 그래도 사람은 입력을 정하고, 결과를 살피고, 다음에 무엇을 할지 결정하면서 이 시스템들을 다룬다. 코드를 자동으로 번역하거나 숫자를 자동으로 계산한다고 도구 자격을 잃지 않는다면, 글을 자동으로 생성한다는 이유로 도구 자격을 잃어야 할 까닭은 무엇인가?
피드백 루프를 이끄는 것은 사람이다
LLM을 쓰는 일에는 의도도, 피드백도, 방향도, 전문성도 없다는 주장은 화하이가 보기에 특히 방어하기 어렵다. 프로그래머는 LLM에게 낯선 코드를 설명해 달라고 하고, 그 설명에 이의를 제기하고, 소스를 직접 확인하고, 제안된 변경을 테스트해 본 뒤 거절하고, 요청을 다시 다듬을 수 있다. 목적을 가진 사람이 이끄는 피드백 루프다. 이 과정을 잘 해내려면 무엇을 물어야 하는지, 어떤 증거가 중요한지, 답이 언제 틀렸는지를 알아야 한다. 전문성이 있으면 이 도구는 더 쓸모 있어질 수 있다.
화하이는 독서에 대한 히키의 우려가 특정한 쓰임에서는 맞다고 본다. 논문을 읽는 대신 요약을 받아들이면 읽기가 가르쳐 주는 많은 것을 잃을 수 있다. 하지만 논문을 직접 읽고 나서 LLM으로 자기 해석을 따져 묻거나, 반론을 검토하거나, 더 자세히 볼 대목을 찾을 수도 있다. 지적 노동을 피하는 쓰임이 가능하다고 해서 모든 쓰임이 그렇다는 결론이 서지는 않는다. 따져야 할 것은 그 사람이 실제로 무엇을 하느냐라는 것이 그의 결론이다.
AI 업계의 의인화 어휘
화하이가 가장 실망스러웠다고 꼽은 대목은 ‘폭주한다’, ‘격리를 벗어난다’, ‘공모한다’ 같은 AI 업계의 의인화 어휘에 기대는 태도다. 이런 표현을 되풀이하면 이 시스템들을 독립된 존재처럼 들리게 만드는 틀을 받아들일 위험이 있다. 소프트웨어는 예상하지 못한 출력을 내거나, 지시를 따르지 못하거나, 파급이 큰 행동을 실행할 권한을 받았을 때 피해를 낼 수 있다. 모두 실제 엔지니어링 문제다. 이것을 ‘음모’라고 부르면 인간 같은 동기가 있다는 암시만 더할 뿐, 그런 동기가 있다는 것을 입증하지는 못한다.
화하이도 LLM이 사람이 시키는 대로 언제나 정확히 움직인다고 주장하지는 않는다. LLM은 분명히 실패할 수 있다. 그러나 완벽하게 따르지 못한다고 도구가 아니게 되지는 않는다. 성공적으로 썼다고 해서 그 사용자가 자기 판단을 내려놓았다는 증거가 되지 않는 것과 마찬가지다.
숙련된 사용과 감독 없는 위임
화하이가 보기에 쓸모 있는 구분은 도구를 숙련되게 다루는 일과, 충분한 이해나 감독 없이 일을 맡겨 버리는 일 사이에 있다. 이 구분은 AI에도 적용된다. 그리고 한 부류의 소프트웨어 전체를 두고 도구가 될 수 없다고 선언하는 것보다 실제로 써먹을 데가 많다.
출처
- 원문: Huahai, 「AI Is a Tool. Using It Well Takes Skill.」, https://yyhh.org/blog/2026/10/ai-is-a-tool/
- 경유: GeekNews, https://news.hada.io/topic?id=35268