'컨텍스트 엔지니어링으로 완성하는 AI 에이전트' 읽고

"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다."

AI에게 더 좋은 질문을 던지는 게 아니라, 더 좋은 환경을 만들어 주는 기술

이 책을 읽고 나서 남은 말이 있다면, '프롬프트 잘 짜는 법을 배웠다'가 아니라 'AI를 대하는 방식이 달라졌다' 는 표현이 더 정확할 것 같습니다.

임베디드 개발을 오래 해온 입장에서, AI 도구를 쓰면서 늘 찜찜한 지점이 있었습니다. 분명 제대로 된 질문을 던진 것 같은데 결과가 엉뚱하거나, 방금 나눈 대화를 기억 못 하거나, 내 코드베이스의 맥락을 전혀 반영하지 못하는 답이 돌아오는 순간들이요. 이 책은 그 원인을 "프롬프트가 나빠서"가 아니라 "컨텍스트가 설계되지 않았기 때문" 이라고 명쾌하게 짚어줍니다.

'질문하는 기술'에서 '환경을 설계하는 기술'로

실무 경험자인 저자의 컨텍스트 윈도우의 토큰 비용, RAG의 실제 한계, 메모리 전략의 트레이드오프까지 현장 감각이 느껴지는 설명들이 꽤 인상적입니다.

책의 핵심 주장은 단순합니다. 프롬프트 엔지니어링이 AI에게 '어떻게 물어볼까'의 기술이라면, 컨텍스트 엔지니어링은 AI의 작업 기억 공간에 '무엇을 채워줄까'를 설계하는 기술이라는 것이죠. AI는 우리 생각을 대체하는 게 아니라, 우리가 넣어준 정보를 증폭할 뿐이라는 말이 책 전체를 아울러서 이야기합니다.

개발자 눈으로 특히 와닿았던 부분들

2장에서 다루는 stateless 특성의 설명은 저처럼 오래된 개발자에게 꽤 익숙한 언어로 다가옵니다. 상태 없는 함수처럼 동작하는 AI에게 기억과 지식과 상황 인식을 부여하는 과정이, 결국 우리가 시스템 설계할 때 늘 하던 일과 다르지 않다는 걸 느끼게 됩니다.

특히 밑줄 긋게 만들었던 세 가지 개념이 있었습니다.

• 기억: 이전 대화나 작업 결과를 잃지 않고 저장하고 활용하는 구조
• 외부 지식 접근: RAG를 통해 파일, DB, 웹 등 외부 정보를 실시간으로 끌어오는 방식
• 상황 인식: 현재 시간, 사용자 상태, 변화하는 목표를 AI가 파악하게 만드는 법

이걸 보면서 '아, 내가 AI한테 바라던 게 사실 이거였구나' 싶었습니다.

CoT(Chain of Thought) 파트도 흥미롭습니다. 특히 Few-shot CoT에서 AI에게 '생각의 과정 예시'를 몇 개 보여주는 것만으로 추론 품질이 달라진다는 내용은, 예전 코드 리뷰할 때 신입 개발자에게 예시 코드를 먼저 보여주는 방식과 묘하게 닮아 있어서 기억이 새록새록 합니다.

실무 에이전트 구현까지

후반부는 주니어 개발자 에이전트, 고객센터 에이전트, 의료 연구원 에이전트를 직접 파이썬으로 구현하는 실습으로 채워집니다. 특정 LLM 버전에 종속되지 않는 패턴으로 설계했다는 점이 마음에 들었습니다. 요즘처럼 모델이 빠르게 바뀌는 환경에서, 원칙이 흔들리지 않는 설계를 가르쳐주는 책이 귀하거든요.

아쉬운 점도 있습니다

파이썬 코드가 기반이라 다른 언어 중심 개발자에게는 코드 예제의 진입 장벽이 약간 있습니다. LangChain 생태계가 워낙 빠르게 변하는 탓에, 실습 코드는 깃허브 최신 버전을 병행해서 보는 게 좋을 것 같습니다. 개념의 수명은 길겠지만 코드의 수명은 좀 짧을 수 있습니다.

이제는 올바른 환경을 만들어주는것이 중요한 시대

AI를 그냥 '쓰는' 사람보다 'AI가 제대로 판단하도록 설계하는' 사람이 되고 싶은 분께 강하게 추천합니다. 저처럼 자율주행, 멀티센서 퓨전처럼 도메인 지식이 깊고 복잡한 영역에서 AI를 활용하려는 개발자라면, RAG 기반 지식 주입이나 컨텍스트 수명 주기 관리 챕터가 특히 직접적으로 와닿을 겁니다.

'AI에게 좋은 질문을 던지는 것'에서 'AI가 올바른 판단을 내리도록 환경을 만들어 주는 것'으로. 그 패러다임의 전환을 이 책은 꽤 설득력 있게 안내해 줍니다. :)