기업이 지금 던져야 할 세 가지 질문

첫째, 우리 AI는 데이터를 더 넣기 전에 무엇을 버릴지 결정하는 기준을 갖고 있는가. 대부분의 기업은 더 많은 데이터를 연결하는 데만 집중한다. 그러나 AI 운영비와 응답 품질을 가르는 건 데이터의 양이 아니라 선택의 기준이다. 어떤 문서를 검색할 것인가. 어떤 로그를 남길 것인가. 어떤 센서 신호는 무시할 것인가. 어떤 순간엔 알림을 보내지 않을 것인가. 이 기준이 없다면 AI는 똑똑해지는 게 아니라 그저 무거워질 뿐이다.

둘째, 우리 시스템은 평균값이 아니라 개별 기준선을 알고 있는가. 고객, 환자, 장비, 공정, 객체는 모두 자신만의 기준선을 갖는다. 같은 스트레스 수치, 같은 온도 변화, 같은 클릭 행동도 누구에게서, 어떤 상황에서, 어떤 시간 흐름 속에 발생했는지에 따라 의미가 달라진다. 평균적인 정상과 개별적인 정상은 다르다. 진짜 개인화는 이 차이를 구분하는 데서 시작한다.

셋째, 우리 AI는 답을 내기 전에 의도가 불분명한 순간을 감지하고 되물을 수 있는가. AI가 항상 즉답해야 하는 건 아니다. 오히려 중요한 순간엔 질문할 수 있어야 한다. 고객의 목적이 불명확할 때, 공정 이상의 원인이 불분명할 때, 생체 신호의 해석이 모호할 때, 현장 객체의 위협도가 애매할 때 — 시스템은 곧장 결론을 내리기보다 추가 맥락을 요청해야 한다. 질문할 수 없는 AI는 사용자의 의도를 끝까지 따라갈 수 없다.