그는 다른 CIO들과 마찬가지로 AI 모델이 얼마나 빠르게 발전하는지를 주목하고 있다.

터시먼은 “AI는 조직을 어떻게 구성할지, 어떤 인재를 채용할지, 기술을 직접 개발할지 아니면 구매할지 등 거의 모든 의사결정에 큰 영향을 미친다”라고 설명했다.

구독형 비즈니스 소프트웨어 기업 주오라(Zuora)는 AI 도입을 시작한 지 약 3년이 됐다. 카르틱 차카라파니는 단순히 속도를 높이는 것이 목표가 아니라고 강조했다.

그는 “기존 프로세스를 단순히 더 빠르게 만드는 것은 의미가 없다. 그렇게 하면 혼란만 더 커질 뿐”이라며 “프로세스를 더 빠르고, 더 똑똑하게 만들면서 업무 방식 자체를 재설계해야 한다”라고 말했다.

토니 비자는 많은 CIO가 AI 도입 속도를 따라가기 위해 외부 전문가의 도움을 받을 필요가 있다고 진단했다.

그는 “아니면 CIO 스스로 AI에 대한 역량을 키워야 한다. AI는 기존 IT와 작동 방식이 매우 다르기 때문”이라고 말했다.

비자는 CIO들에게 세 가지를 조언했다. 첫째는 AI를 제대로 이해하거나 전문적인 조언을 받을 수 있는 전문가와 함께 의사결정을 내리는 것이다.

그는 “AI가 실제로 어떻게 작동하는지 이해하거나, 이를 제대로 조언해 줄 전문가를 확보한 뒤 의사결정을 해야 한다”라고 말했다.

둘째는 언제나 비즈니스 목적에 초점을 맞추는 것이다.

비자는 “AI에는 많은 기회가 있지만, 가장 중요한 질문은 ‘AI를 도입해 무엇을 이루려는가’이다”라고 설명했다.

셋째는 위험을 어떻게 관리할 것인지 미리 설계하는 것이다.

그는 “위험 자체가 반드시 나쁜 것은 아니다. 포뮬러1(F1) 경주차는 위험하지만 뛰어난 제동 시스템을 갖추고 있기 때문에 더 빠르게 달릴 수 있다”라며 “AI도 마찬가지다. 적절한 위험 관리 체계를 갖추면 기업은 부작용 없이 더 빠르게 혁신할 수 있다”라고 말했다.

차카라파니는 주오라가 지난 3년 가까운 AI 여정에서 실험 단계부터 시작해 현재는 전사 차원의 파일럿 프로젝트 12개를 실제 운영 환경으로 전환했다고 설명했다.

그는 AI 프로젝트를 평가할 때 ▲투입 노력(Effort) ▲비즈니스 가치(Value) ▲신뢰도(Confidence)라는 세 가지 기준을 활용한다고 소개했다.

차카라파니는 “투입 노력에는 보안 위험도 포함된다”라며 “보안 위험이 낮은지, 중간 수준인지, 높은지를 함께 평가한다”라고 말했다.

주오라는 비교적 단순한 과제부터 AI를 적용하기 시작했다. 초기 실험은 기대만큼 성공적이지 않았지만, 이후 프로젝트를 위한 중요한 교훈을 얻었다.

차카라파니는 “올바른 데이터, 적절한 콘텐츠와 맥락, 그리고 거버넌스가 갖춰져야 AI가 제대로 성과를 낸다는 사실을 배웠다”라고 말했다.

이후 주오라는 IT 서비스 관리(ITSM) 영역으로 AI 활용 범위를 확대했다. 이 과정에서 내부 조직과 사용자로부터 피드백을 수집하고, 보안과 거버넌스 문제를 해결하며 지속적으로 개선 작업을 이어갔다.

초기 AI 적용 분야는 마케팅과 영업, 제품 개발, 기술 조직이었다. 이를 통해 업무 처리량이 기존보다 10~25배 향상됐다. 성과는 매출 성장, 비용 절감, 고객 참여도 등 실제 비즈니스 지표를 기준으로 평가하고 있다.

이 같은 과정을 거치면서 주오라는 전사적인 AI 확산을 뒷받침하는 기반 작업도 함께 추진했다.

차카라파니는 “AI를 빠른 속도로, 그리고 대규모로 확산하려면 신뢰와 보안, 거버넌스가 먼저 갖춰져야 한다는 사실을 깨달았다”라고 말했다.

주오라는 전사 플랫폼을 통해 챗GPT를 비롯한 승인된 AI 서비스와 산업 특화 AI 도구를 조직의 정형·비정형 데이터와 연계하고 있다. 여기에 컨텍스트 계층(Context Layer)과 각종 서비스를 더해 직원들이 자체 AI 애플리케이션을 개발할 수 있도록 지원한다.

이 플랫폼은 기존 사내 로그인과 조직 정보를 그대로 활용하며, 역할 기반 접근 제어(RBAC)도 동일하게 적용한다.

차카라파니는 “AI 애플리케이션을 개발할 때 반드시 검토해야 하는 10~12개의 항목을 정리해 표준 프레임워크를 구축했다”라며 “직원이 AI 애플리케이션을 만들고 싶으면 해야 할 일과 하지 말아야 할 일이 담긴 가이드가 마크다운 파일 형태로 자동 제공된다”라고 설명했다.

주오라의 궁극적인 목표는 전사 거버넌스 플랫폼을 기반으로 IT와 인사(HR), 재무, 법무, 구매, 영업, 제품 조직 전반에서 최대 100배의 비즈니스 가치를 창출하는 것이다.

이 과정에서 IT 조직은 오케스트레이터 역할을 맡는다. 직원들이 AI 도구와 AI 에이전트에 접근할 수 있는 플랫폼을 제공하는 동시에, 각 사업 부서와 협력해 업무 프로세스를 새롭게 설계하는 역할을 수행한다.

AI 성숙도 모델

차카라파니는 AI 환경이 안전할수록 실험과 도입이 활발해지고, 궁극적으로 더 큰 비즈니스 성과로 이어질 수 있다고 본다. 주오라는 현재 조직의 AI 성숙도를 세 단계에 걸쳐 발전시켜 왔다.

1단계(Level 1)에서는 IT 조직이 AI 플랫폼과 서비스를 제공한다. 직원은 자신의 역할과 보안 권한에 따라 데이터에 접근하며, 개인용 AI 에이전트를 직접 만들 수 있다. 다만 최소한의 보안 및 컴플라이언스 기준을 충족하지 못하면 해당 프로젝트는 다음 단계로 진행할 수 없다.

2단계(Level 2)에서는 직원이 개발한 AI 에이전트가 IT 거버넌스 검토를 거친다. 중복 여부와 기능 겹침, 모델 개선 가능성, 보안 점검, 수동 검토 등을 통과하면 전사적으로 공유된다.

차카라파니는 “현재 이 과정은 잘 운영되고 있지만 자동화할 수 있는 도구가 시장에 아직 없기 때문에 상당 부분 수작업에 의존하고 있다”라고 말했다.

3단계(Level 3)에서는 조직 전체 애플리케이션에 안전한 기반을 구축해 AI를 대규모로 확장할 수 있는 수준에 도달한다. 주오라는 지난 6~8개월 동안 엔드포인트와 애플리케이션 보안을 강화하고, 모바일 기기 관리(MDM)를 의무화했으며, 직원들이 프롬프트에 어떤 데이터를 입력하는지까지 포함하는 AI 사용 모니터링 체계를 도입했다. 또한 승인되지 않은 애플리케이션에 개인 계정이나 대량 이메일 계정으로 접근하지 못하도록 구글 인증도 차단했다.

올해 초부터는 4단계(Level 4) 성숙도 달성을 위한 작업도 시작했다. 이 단계에서는 최소한의 사람 개입만으로 누구나 실제로 작동하는 AI 애플리케이션을 개발할 수 있는 환경을 목표로 한다. 다만 마지막 단계에서는 여전히 사람의 검토가 필요하기 때문에, 현실적으로는 전체 과정의 80~85% 정도를 ‘제로터치(Zero-touch)’ 방식으로 구현할 것으로 예상하고 있다.

차카라파니는 “궁극적인 목표는 조직 구성원 누구나 사람의 개입 없이 AI 애플리케이션을 만들 수 있는 제로터치 서비스를 제공하는 것”이라며 “이를 구현하면 아이디어 구상부터 프로토타입 제작, 설계, 운영 환경 배포까지 2주 이내에 완료할 수 있게 될 것”이라고 말했다.
[email protected]