실전 AX 리포트

"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬받아 작성된 서평입니다."

https://www.hanbit.co.kr/books/%EC%8B%A4%EC%A0%84-ax-%EB%A6%AC%ED%8F%AC%ED%8A%B8?code=E2661024874

---

📌 이 책을 한 문장으로

"AI 도구를 잘 쓰는 법을 알려주는 책이 아니라, 한 회사가 AI를 전사적인 '일하는 방식'으로 바꾸기까지의 과정을 기록한 책."

요즘 기업에서 AX(AI Transformation)를 이야기하지 않는 곳을 찾기 어렵다. 생성형 AI를 도입하고, 사내 챗봇을 만들고, 업무에 코파일럿을 붙였다는 이야기도 흔하다. 그런데 막상 한 단계 더 들어가서 물어보면 애매해진다.

"그래서 직원들이 실제로 쓰고 있는가?" "기존 업무 방식은 정말 달라졌는가?" "PoC가 아니라 전사 시스템으로 확산됐는가?"

『실전 AX 리포트』는 바로 이 질문에서 시작하는 책이다.

처음에는 제목의 '리포트'라는 단어 때문에 AX 시장의 트렌드나 기업 사례를 정리한 컨설팅 보고서에 가까운 책을 예상했다. 그런데 읽어보면 성격이 조금 다르다. 이 책은 잘 정리된 성공 사례를 바깥에서 분석한 책이 아니라 실제로 기업 내부에서 AI를 도입하고 플랫폼을 만들고 조직 전체로 확산시켜본 사람들이 남긴 프로젝트 회고록에 가깝다.

상용 AI 솔루션을 도입했지만 사용률이 10%대에 머물렀던 경험, 자체 플랫폼을 만들면서 반복해서 구조를 바꿔야 했던 과정, PoC 단계에서는 잘 작동하던 프로젝트가 전사 확산 단계에서 막히는 문제, 그리고 현업 조직의 저항까지 숨기지 않는다. 이후 한 부서에서 시작한 AI가 52개 계열사와 3만5천 명 규모의 사용자에게 확산되는 과정까지 이어진다.

그래서 이 책을 읽으며 가장 많이 들었던 생각은 "AX는 결국 AI 모델의 문제가 아니라 시스템과 조직의 문제구나"였다.

API를 호출하고 RAG를 붙이고 에이전트를 만드는 것보다 훨씬 어려운 일이 그 다음에 기다리고 있었다.

 

 

📌 책의 흐름 - "AI 한번 써보자"에서 전사 AX까지

총 7개의 부로 나뉜다. 처음부터 끝까지 읽으면 한 기업의 AX가 실패 → 전략 → 플랫폼 → 확산 → 실제 적용 → 시스템 연동 → 조직 문화로 발전하는 과정을 순서대로 따라가게 된다.

 

1. 왜 AX는 대부분 실패하는가

처음부터 성공 사례를 이야기하지 않는다. 오히려 "AI를 도입했습니다"와 "AI로 일하고 있습니다"가 전혀 다른 이야기라는 데서 시작한다. PoC까지는 가지만 전사 확산으로 넘어가지 못하는 이유, 기술을 들여오는 것을 AX라고 착각하는 문제, 킬러 유스케이스 하나를 찾으면 모든 것이 해결될 것이라는 기대, 그리고 조직이 AI 도입을 거부하는 이유를 짚는다.

 

2. AX 전략을 어떻게 설계하고 경영진을 설득할 것인가

여기서부터는 전략팀이나 기획자가 특히 관심 있게 볼 내용이 많다. 톱다운과 바텀업을 어떻게 섞을 것인지, AX를 체험 → 내재화 → 혁신의 단계로 어떻게 나눌 것인지, 초기부터 ROI만 요구하면 왜 문제가 되는지, 효과를 어떤 숫자로 측정하고 그 숫자를 어떻게 경영진에게 설명할 것인지까지 다룬다. 외부 솔루션을 살 것인지 내부 플랫폼을 만들 것인지, 벤더 선정과 예산 승인을 어떻게 할 것인지도 이어진다.

 

3. 전사 AI 플랫폼은 어떻게 만들어지는가

AI 엔지니어라면 가장 익숙하면서도 흥미롭게 볼 구간이다. LLM 게이트웨이, RAG 파이프라인, 멀티 테넌시, 권한 체계, 상용,오픈소스 모델 선택, 멀티 모델 라우팅, 비용 관리, 멀티 에이전트, Tool Use와 Function Calling, MCP, 그리고 보안과 거버넌스까지 이어진다. 중요한 건 기술 목록 자체보다 플랫폼이 1.0 → 2.0 → 3.0을 거쳐 4.0을 바라보게 된 이유를 함께 보여준다는 점이다.

 

4. PoC를 어떻게 전사로 확산시키는가

책의 제목에 붙은 "1개에서 52개 계열사로"라는 문장이 본격적으로 설명되는 부분이다. 파일럿 대상을 어떻게 정할지, 계열사마다 다른 환경에 어떻게 맞출지, 3만5천 명 규모의 사용자를 어떻게 온보딩할지, 프롬프트 템플릿과 사용자 세그먼트는 어떻게 운영할지, 그리고 조직 내부에 AI 챔피언과 커뮤니티를 어떻게 만들지까지 다룬다.

 

5. 실제 업무에서는 AX를 어떻게 적용했는가

유통에서는 문화센터 강좌 개인화 추천과 육류 품질 판별, 생산,제조에서는 건설 현장 번역과 라벨 검토, Vision AI 기반 스마트팜, 서비스,인프라에서는 공항철도 혼잡도 분석과 수영장 안전 모니터링 같은 사례가 등장한다. 회의록 자동화, 자료 조사, 사내 지식 관리처럼 어느 조직에서나 적용할 만한 공통 업무 AX 사례도 함께 다룬다.

 

6. 결국 AI는 기존 시스템 속으로 들어가야 한다

개인적으로 이 책의 성격을 가장 잘 보여주는 부분 중 하나다. AI 서비스를 하나 더 만드는 데서 끝나는 게 아니라 메신저, 메일, 캘린더, 전자결재 같은 그룹웨어와 연결하고, ERP,CRM,SCM 같은 기간계 시스템에 붙이며, Microsoft 365 Copilot이나 Google Workspace AI, n8n,Make 같은 외부 플랫폼과 어떤 역할 분담을 할 것인지까지 넘어간다. 다른 독자 후기에서도 "AI 기능 자체보다 기존 시스템과 어떻게 연결해 실제 업무 안에서 작동하게 만드는지가 인상적이었다"는 평가가 있었는데, 나 역시 이 부분이 AX와 단순한 AI 도입을 나누는 중요한 경계라고 느꼈다.

 

7. 마지막 문제는 결국 조직과 문화다

AX 전담 조직을 어떻게 만들지, 중앙집중형 CoE와 분산형 조직을 어떻게 선택할지, 직무,직급별 AI 교육은 어떻게 설계할지, Small AX 워크숍과 AI 리터러시 프로그램을 어떻게 운영할지, 그리고 실패를 허용하는 실험 문화를 어떻게 만들 것인지로 마무리한다. 기술로 시작한 이야기가 조직 문화로 끝난다는 점이 의미심장하다.

 

 

📌 좋았던 점

1. 'AX를 해본 사람'이 쓴 책이라는 느낌이 강하다

이 책의 가장 큰 장점이다. 기업 AX에 대한 책이나 보고서를 보다 보면 "경영진의 강력한 의지가 필요하다", "조직 문화를 혁신해야 한다", "데이터 기반 의사결정을 해야 한다" 같은 말이 반복된다. 틀린 말은 아니지만 정작 실무자가 궁금한 것은 그 다음이다.

"그래서 실제로 어떻게 했는데?" 『실전 AX 리포트』는 그 질문에 꽤 구체적으로 답한다. 상용 솔루션을 먼저 도입했는데 왜 사용률이 오르지 않았는지, 자체 플랫폼을 만들기로 했다면 왜 그런 결정을 내렸는지, 하나의 챗봇이 왜 플랫폼 구조로 확장돼야 했는지, 사용자가 늘어나니 어떤 문제가 새롭게 발생했는지, 그리고 전사 확산 단계에서 기술 외적으로 무엇이 막혔는지를 계속 설명한다.

출판사 소개에서도 저자들은 계정만 발급한 뒤 사용률이 오르지 않았던 시기, 플랫폼을 여러 차례 뜯어고쳤던 과정, 현업의 반발에 부딪혔던 순간까지 기록했다고 설명한다.

AI 프로젝트를 직접 해본 사람이라면 이 차이가 꽤 크게 느껴질 것이다. 설계할 때는 모든 것이 깔끔해 보인다. 실제로 운영하면 예외가 나오기 시작한다. 사용자가 늘어나면 전혀 다른 문제가 생긴다.

이 책은 바로 그 '운영 이후의 이야기'가 많이 들어 있다는 점이 좋았다.

 

2. 성공 사례보다 실패한 경험이 오히려 더 참고가 된다

개인적으로 가장 좋았던 부분이다. 기업의 AI 사례 발표를 들어보면 결과적으로 잘된 이야기만 남는 경우가 많다.

"AI를 도입했다 → 생산성이 올라갔다 → 전사 확산에 성공했다."

그런데 실무자의 입장에서는 그 사이가 가장 궁금하다. 왜 처음 접근은 실패했는지, 무엇을 잘못 가정했는지, 실패한 뒤 무엇을 바꿨는지, 그리고 두 번째 시도에서는 어떤 기준을 새로 세웠는지 말이다.

이 책은 시작부터 PoC 지옥을 이야기한다. 그리고 플랫폼 아키텍처 역시 처음부터 정답을 알고 만들어낸 것이 아니라 버전이 올라갈 때마다 앞선 구조의 한계가 다음 설계에 반영되는 방식으로 설명한다.

그래서 책을 읽다 보면 완성된 시스템의 구조보다 "왜 이 구조가 되었는가"에 더 눈이 간다.

이런 경험은 특히 지금 AX 프로젝트를 시작하려는 조직에게 유용하다. 성공 사례를 그대로 베끼는 것은 어렵지만, 다른 조직이 어디에서 막혔는지를 알면 최소한 같은 실패를 반복할 가능성은 줄일 수 있기 때문이다.

결국 이 책의 핵심 자산은 기술 자체보다 시행착오의 기록에 있다고 생각한다.

 

3. 한 회사가 AX를 전사까지 확산시키는 과정을 처음부터 끝까지 볼 수 있다

이 책의 또 다른 강점은 사례가 조각나 있지 않다는 점이다.

보통 기업 사례집을 보면 A사는 고객센터 챗봇, B사는 문서 자동화, C사는 제조 Vision AI처럼 서로 다른 기업의 성공 사례가 나열된다. 다양한 사례를 볼 수 있다는 장점은 있지만 하나의 조직이 시간이 지나면서 어떻게 발전했는지는 보기 어렵다.

이 책은 반대다.

한 조직에서 출발해 플랫폼을 만들고, 현업에 적용하고, 사용자가 늘어나고, 여러 계열사로 확산되고, 기존 시스템과 연결되고, 결국 교육과 조직 문화까지 건드리는 흐름이 하나로 이어진다.

전략 → 개발 → 도입 → 실패 → 개선 → 확산 → 운영 → 조직 변화

이 전체 사이클을 한 번에 볼 수 있다는 것이 꽤 귀하다.

저자들의 이력도 이런 성격과 연결된다. 오현식 저자는 롯데이노베이트 AI혁신센터장을 거쳐 현재 롯데지주에서 그룹 AI를 총괄하고 있고, 박주혜 저자 역시 롯데이노베이트에서 NLP AI 엔지니어와 언어 AI 리더로 일한 뒤 롯데지주에서 AI/Data 거버넌스와 정책을 담당하고 있다.

그래서 이 책은 외부에서 기업 AX를 분석한 책이라기보다, 실제 프로젝트를 안에서 겪은 사람들이 시스템이 커져가는 과정을 정리한 기록이라는 느낌이 강하다.

 

4. AI 엔지니어와 전략,기획 담당자가 같은 책을 볼 수 있다

이 책에서 의외로 좋았던 부분이다.

AI 엔지니어에게 AX를 물어보면 모델,RAG,Agent,MCP,인프라 이야기가 먼저 나오기 쉽고, 전략팀에게 물어보면 ROI,조직,예산,교육,거버넌스 이야기가 먼저 나온다.

그런데 실제 기업 AX는 이 둘을 떼어놓기 어렵다.

예를 들어 멀티 모델 아키텍처를 설계하는 문제는 기술 문제이면서 동시에 비용 문제다. 외부 AI 서비스를 사용할 것인지 자체 플랫폼을 만들 것인지 결정하는 것은 아키텍처 문제이면서 동시에 투자 의사결정이다. RAG에 어떤 데이터를 넣을지는 검색 성능만의 문제가 아니라 권한과 보안의 문제이고, 좋은 서비스를 만들었다고 해도 사용자가 쓰지 않으면 결국 조직 변화의 문제가 된다.

2부에서 ROI와 예산을 이야기하다가 3부에서는 LLM 게이트웨이,RAG,Agent,MCP를 다루고, 다시 4부에서는 온보딩과 활성화 지표를, 7부에서는 조직과 교육을 이야기한다.

분야가 계속 왔다 갔다 하는 것이 아니라, 실제 AX 프로젝트가 원래 그렇게 여러 직군의 문제를 동시에 풀어야 한다는 사실을 보여준다.

그래서 AI 엔지니어가 읽으면 "내가 만든 모델 다음에 어떤 문제가 기다리고 있는지"를 볼 수 있고, 전략팀이나 기획팀이 읽으면 "우리가 결정한 전략이 기술 구조에서는 어떤 문제로 내려가는지"를 볼 수 있다.

이 점에서 AX 도입을 고민하는 실무자들에게 하나의 전체 사례를 보여주는 책으로 꽤 적합하다고 느꼈다.

 

5. 'AI를 도입하는 것'과 'AX를 하는 것'의 차이를 분명하게 보여준다

읽고 나서 가장 오래 남은 메시지는 이것이다. “AI 서비스를 하나 만드는 것 자체가 AX는 아니다.”

직원들에게 ChatGPT 계정을 나눠주거나 사내 챗봇 하나를 만든다고 조직의 일하는 방식이 자동으로 바뀌지는 않는다. AI가 보고서를 작성하는 과정에 들어가고, 사내 데이터를 가져올 수 있어야 하고, 사용자의 권한에 따라 접근 범위를 제어해야 하고, 메일과 캘린더와 전자결재에 연결되어야 하고, 실제로 사람들이 사용하는지 측정해야 하고, 새로운 업무 방식에 맞춰 교육과 조직도 달라져야 한다.

다른 독자 후기에서도 개인이 AI를 잘 활용하는 것과 회사가 AI를 체계적으로 활용하는 것은 전혀 다른 문제라는 평가가 있었고, AI를 "얼마나 많이 쓰는가"보다 AI가 존재한다는 전제에서 일하는 방식을 어떻게 다시 설계하느냐가 중요하다는 점이 강조됐다.

이 책의 7개 부가 전략부터 기술, 업무 시스템, 조직 문화까지 넓게 퍼져 있는 이유도 결국 여기에 있다.

 

 

📌 아쉬웠던 점

하나의 그룹을 깊게 파고든 것이 장점인 동시에 가장 큰 한계다. 이 책은 여러 회사의 AX 성공 사례를 모아놓은 사례집이 아니다.

하나의 대규모 그룹사가 AX를 도입하고 확산하는 과정을 처음부터 끝까지 따라가는 책이다. 그래서 과정의 연속성과 깊이는 생겼지만, 반대로 서로 다른 기업 환경을 비교하기는 어렵다.

유통,제조,서비스,인프라 등 산업별 적용 사례 자체는 꽤 다양하다. 하지만 기본적으로 하나의 그룹 생태계 안에서 나온 경험이다. 따라서 스타트업에서 AX를 한다면 어떻게 다른지, 수백 명 규모의 중견,중소기업에서는 어떤 방식이 현실적인지, 공공기관이나 금융,의료처럼 규제가 강한 조직에서는 무엇이 달라지는지 등을 비교해서 보고 싶었다면 조금 아쉬울 수 있다.

특히 계열사와 전사 플랫폼이라는 전제 자체가 상당히 큰 조직의 문제다. 규모가 작은 회사에서는 멀티 테넌시나 대규모 온보딩보다 훨씬 단순한 방식이 더 적합할 수도 있다. 그래서 이 책의 내용을 'AX의 정답'이라기보다 '대기업 그룹에서 실제로 이렇게 풀어간 하나의 매우 구체적인 사례'로 받아들이는 편이 좋다. 오히려 그렇게 보면 가치가 더 분명해진다.

또 하나는 340쪽에 22장이 들어 있고 전략, ROI, 플랫폼 아키텍처, RAG, 멀티 에이전트, 보안, 산업별 사례, ERP 연동, 교육과 조직 문화까지 모두 다룬다는 점이다. 그만큼 각각의 영역을 기술적으로 끝까지 파고드는 책은 아니다. 예를 들어 RAG 시스템 자체를 구현하는 방법이나 MCP 서버를 만드는 방법, 멀티 에이전트 아키텍처의 코드 구현을 기대한다면 별도의 기술서가 필요하다. 반대로 조직 변화 관리나 ROI 산정 방법론만 전문적으로 공부하고 싶다면 경영,조직 분야의 다른 책이 더 깊을 것이다.

이 책의 역할은 각 영역의 전문가가 되는 법을 알려주는 것이 아니라, 이 요소들이 실제 AX 프로젝트 안에서 어떻게 연결되는지를 보여주는 것에 가깝다.

 

 

📌 이런 분께 추천

✅ 회사에서 AX 전략이나 AI 도입 로드맵을 만들어야 하는 전략,기획 담당자 - 다른 조직이 무엇부터 시작했고 어디서 실패했는지를 참고하기 좋다

✅ 사내 LLM,RAG,Agent 플랫폼을 만드는 AI 엔지니어와 플랫폼 개발자 - 모델을 만든 다음 실제 조직에 확산시키려면 무엇이 필요한지 볼 수 있다

✅ PoC는 여러 번 했는데 전사 확산 단계에서 계속 막히는 조직의 담당자

✅ ChatGPT Enterprise나 Copilot을 도입했지만 "그래서 우리 회사의 일하는 방식이 무엇이 달라졌지?"라는 고민이 있는 분

✅ AI 플랫폼의 기술 구조뿐 아니라 ROI,예산,보안,거버넌스,온보딩,교육까지 전체 그림을 보고 싶은 분

✅ 경영진에게 AX를 제안하거나 실제 프로젝트를 리드해야 하는 PM,PO,DX/AX 조직 실무자

 

🚫 반대로 프롬프트 작성법이나 ChatGPT 업무 활용 팁을 빠르게 배우려는 사람에게는 맞지 않는다. 이 책은 개인 생산성 책이라기보다 기업 시스템과 조직을 바꾸는 이야기에 가깝다.

🚫 LLM, RAG, Agent, MCP 등을 코드부터 깊게 구현해보고 싶은 사람에게도 이것만으로는 부족하다. 기술 구현서라기보다 "기업에서는 이 기술을 왜, 어느 시점에, 어떤 문제를 해결하기 위해 선택하는가"를 보여주는 책이다.

🚫 다양한 회사의 AX 사례를 폭넓게 비교하고 싶은 독자라면 한 그룹의 경험에 집중되어 있다는 점도 감안할 필요가 있다.

 

 

📌 마무리

AI 프로젝트를 하다 보면 기술이 가장 어려운 문제처럼 느껴진다. 어떤 LLM을 선택할지, RAG 성능을 어떻게 높일지, 에이전트를 어떻게 설계할지, GPU 비용을 어떻게 낮출지 고민한다.

그런데 『실전 AX 리포트』를 읽다 보면 조금 다른 생각이 든다. 어쩌면 진짜 어려운 문제는 모델이 제대로 답변하기 시작한 다음부터 시작되는 게 아닐까.

서비스를 만들어도 사람들이 쓰지 않을 수 있다. PoC가 성공해도 전사 시스템으로 넘어가지 못할 수 있다. 기술적으로 좋은 구조도 비용 때문에 유지하지 못할 수 있다. AI가 답을 만들어도 기존 업무 시스템과 연결되지 않으면 직원들은 결국 원래 방식으로 돌아간다.

그리고 이 모든 것을 해결해도 조직이 새로운 방식을 받아들이지 않으면 AX는 멈춘다.

이 책이 좋은 이유는 바로 이 '그 다음의 문제'를 보여주기 때문이다.

상용 솔루션을 도입했다가 사용률이라는 벽을 만나고, 자체 플랫폼을 만들고, 구조를 다시 뜯어고치고, 현업의 저항을 겪고, 한 계열사에서 수십 개 계열사로 확산시키고, 기존 시스템과 연결하고, 마지막에는 교육과 조직 문화까지 바꿔가는 과정이 하나로 이어져 있다.

그리고 그 과정에서 성공한 것만 골라 보여주지 않는다. 무엇이 안 됐고 → 왜 안 됐다고 판단했고 → 다음에는 무엇을 바꿨는지를 함께 보여준다. 내가 이 책에서 가장 좋게 본 것도 바로 그 부분이다.

AX를 시작하려는 회사마다 규모도 다르고, 조직 문화도 다르고, 가지고 있는 데이터와 시스템도 다르다. 따라서 이 책에 나온 방법을 그대로 복사한다고 같은 결과가 나오지는 않을 것이다. 하지만 먼저 이 길을 걸어본 조직이 어디서 넘어졌고, 무엇 때문에 다시 설계했는지를 아는 것만으로도 시행착오를 꽤 줄일 수 있다.

특히 AI 엔지니어에게는 기술을 회사의 실제 업무까지 연결해서 바라보게 해주고, 전략,기획 담당자에게는 'AI를 도입하자'라는 선언 이후에 얼마나 많은 구체적인 문제가 기다리고 있는지를 보여준다.

AX를 이야기하는 자료는 많다. 하지만 "그래서 실제 회사에서는 처음부터 끝까지 어떻게 했는데?"라는 질문에 답해주는 자료는 아직 많지 않다. 그 질문을 가지고 있는 실무자라면, 『실전 AX 리포트』는 꽤 참고할 만한 하나의 실제 답안지다.

다만 정답지라기보다는, 먼저 풀어본 팀이 풀이 과정과 오답 노트까지 함께 공개한 책에 더 가깝다.