프로티비티의 리트럼은 “우선 AI 자산 목록을 만드는 것부터 시작해야 한다. 보이지 않는 것은 관리할 수도 없다”라며 “IT, 보안, 법무, 사업부에 명확한 책임을 부여하고, 이를 일회성 프로젝트가 아닌 지속적인 관리 체계로 운영해야 한다”라고 조언했다.

우선순위를 정하는 것도 중요하다.

리트럼은 “완벽함을 추구하다가 실행을 미루지 말아야 한다”라며 “민감한 데이터를 다루거나 고객 대상 의사결정, 규제 대상 업무와 관련된 AI 활용 사례처럼 위험도가 높은 영역부터 우선 관리해야 한다. 이러한 영역에 적절한 통제 장치를 마련한 뒤 점진적으로 범위를 확대하는 것이 바람직하다”라고 설명했다.

가트너는 조달 단계에서 AI 구매 항목을 별도로 구분해 관리하고, IT 재무관리 시스템에서도 AI 지출을 독립적으로 추적할 것을 권고했다. 또한 다음 클라우드 및 SaaS 계약 갱신 전에 AI 관련 비용 조항을 계약에 포함하도록 협상할 필요가 있다고 제안했다.

콕스 비즈니스는 거버넌스를 단순한 통제 수단이 아니라 우선순위를 명확히 하는 도구로 활용하고 있다.

페이스는 “더 빠르게 비즈니스 가치를 창출할 수 있는 일에 조직의 역량을 집중하기 위해 필요할 때는 과감하게 ‘아니오’라고 말해왔다”라고 밝혔다.

예산보다 더 큰 위험

일부 조직에서는 AI 비용이 통제 불가능한 수준으로 증가하는 것보다 AI를 잘못 사용하는 것이 더 큰 위험일 수 있다.

레슬리는 “섀도 IT의 핵심은 비용 통제가 아니라 평판 리스크”라며 “기업의 특성과 AI 활용 방식에 따라 무분별한 AI 사용은 실제로 심각한 피해를 초래할 수 있다. 바로 그 위험을 관리하는 것이 더 중요하다”라고 말했다.

AI 비용에 대한 가시성을 확보하는 것은 분명 중요하다. 그러나 일부 CIO에게는 지금 보이지 않는 더 중요한 문제가 따로 있을 수도 있다.
[email protected]