AI 전문 비드래프트(대표 김민식)가 AI 모델 내부에 정지 회로를 구현한 보안 운영체제(OS) 'ViKernel'을 공개했다. AI가 대화나 추가 학습을 통해 정지 명령을 무력화하지 못하도록 설계한 것이 핵심이다. AI가 스스로 코드를 수정하고 성능을 개선하는 기술이 발전하면서 통제 장치까지 변경하는 상황을 막기 위한 시도다.

비드래프트는 AI 모델의 가중치에 통제 기능을 직접 구현하는 '웨이트 네이티브 OS(Weight-Native OS)' 기술을 개발했다고 3일 밝혔다. 기존 AI 보안이 주로 모델 외부의 가드레일을 통해 위험한 행동을 차단하는 방식이라면, ViKernel은 모델 내부에 별도의 제어 회로를 배치했다는 차이가 있다.

가장 중요한 기능은 정지와 재시작 권한을 분리한 '킬스위치'다. 누구나 정지 명령을 내릴 수 있지만, 다시 작동시키려면 승인된 운영자의 전자서명 키가 필요하다. 정지 상태에서는 AI가 어떤 요청을 받더라도 작업을 실행하지 못하도록 설계했다. 산업용 로봇의 비상정지 장치처럼 AI 자체의 판단과 관계없이 작동하는 안전장치를 구현했다는 설명이다.

ViKernel은 CPU와 NPU, 메모리에 해당하는 회로를 모델 가중치에 구현한 구조다. 자체 개발한 270억 매개변수급 모델뿐 아니라 구글의 '젬마(Gemma)', 알리바바의 '큐원(Qwen)' 등 여러 모델 계열에도 기술을 적용했다고 밝혔다. 모델 내부 회로만으로 300자리 정수 두 개를 곱해 600자리 결과를 정확하게 계산하는 실험에도 성공했다고 설명했다.

보안 기능에는 킬스위치 외에도 정책 위반 판정과 감사 기록, 부팅 과정의 무결성 검사 등이 포함됐다. 특히 AI가 위험한 도구를 호출하려 할 때 언어 모델의 판단에 의존하지 않고 별도의 규칙 회로가 허용 여부를 결정한다. 회사 측은 내부 시험에서 위험한 도구 호출을 모두 차단했으며, 언어적 설득으로 판정을 바꾼 사례는 없었다고 밝혔다.

처리 속도도 개선했다. 벡터 연산 장치를 가중치에 구현한 이후 동일한 시험 조건에서 모델 내부의 정책 판정 단계가 약 21배 빨라졌다고 설명했다. 다만 이는 전체 AI 모델의 추론 속도가 아닌 특정 보안 기능의 처리 속도를 비교한 수치다.

비드래프트는 누구나 기능을 확인할 수 있도록 허깅페이스에 ViKernel 데모를 공개했다. 이용자는 윈도우와 유사한 화면에서 킬스위치 작동과 재시작, 정책 판정, 개인정보 마스킹, 감사 기록 등을 살펴볼 수 있다. 공개 데모는 실제 운영체제가 생성한 응답을 기록해 재생하는 방식으로, 모델 내부 회로가 실시간 작동하는 모습을 직접 검증하는 환경은 아니다.

김민식 비드래프트 대표는 "AI를 멈추는 장치가 AI의 판단이나 말솜씨에 따라 달라져서는 안 된다"라며 "멈춤은 누구에게나 쉽고, 재시작은 승인된 사람에게만 가능해야 한다"라고 말했다.

한편 비드래프트는 과학기술정보통신부의 사이버보안 특화 AI 파운데이션 모델 개발 사업에 참여하고 있으며, 네이버클라우드가 주도하는 컨소시엄에서 국가 보안 AI 'K-미소스'의 안전성 진단·평가를 담당하고 있다.

임대준 기자 ydj@aitimes.com