이스트소프트(대표 정상원)는 제주국제자유도시개발센터(JDC)의 '사내 생성 AI 언어모델(sLLM) 구축 사업'을 수주했다고 21일 밝혔다. 

향후 6개월간 진행되는 이 사업은 JDC 내부 서버에 생성형 AI 환경을 구축해 임직원의 업무 정확도와 처리 속도 제고를 목표로 추진된다.

이 회사는 외부망과 분리된 기관 내부 서버에 sLLM을 직접 구축하고, 그 위에 AI 에이전트를 결합한 업무지원 플랫폼을 구현할 계획이다. 기관 곳곳에 흩어져 있던 업무 지식을 하나로 연결, 임직원이 필요한 정보를 빠르고 정확하게 찾고 근거에 기반해 판단할 수 있도록 지원한다. 

개발사업, 면세사업, 예산, 안전관리, 계약, 인사 등 JDC의 주요 업무 영역별 특화된 업무지원 챗봇도 구축한다. 일상 질의응답에는 30B급 이상, 복잡한 장문 추론에는 120B급 이상 언어모델을 각각 적용해 업무 성격에 맞는 최적의 응답 품질을 구현할 예정이다. 

이와 함께 약 3.8TB 규모의 기관 내 문서를 임베딩해 검색증강생성(RAG) 기반 AI 문서검색 서비스를 제공하고 전사콘텐츠관리시스템(ECM) 등 기존 시스템 및 외부 데이터와 연동해 답변의 최신성을 유지한다. 

API 호출 기반의 실행형 에이전트를 구축하고, 여러 에이전트가 협업하는 업무 흐름을 직접 설계·실행할 수 있는 '에이전트 빌더'를 제공하는 등 AI 에이전트 환경도 마련한다. 

이정환 기자 ryanlee@aitimes.com