셀렉트스타(대표 김세엽)는 AI 신뢰성·안전성 관련 논문 5편이 글로벌 자연어처리(NLP) 학회 'EMNLP 2026'에 채택됐다고 28일 밝혔다.

채택 논문은 메인 컨퍼런스 1편, 파인딩스(Findings) 1편, 워크숍 3편이다. 특히 올해 메인 컨퍼런스에 제출된 1만 8000편의 논문 중 15.4%만 채택됐다는 점에서 자체 기술력을 인정받았다는 설명이다.

메인 컨퍼런스에 채택된 '정확도 일치와 불일치 관점에서의 인간–LLM 응답 정렬 진단: 대규모 집단 수준 분석'은 AI가 정답을 맞히는지를 넘어 틀린 경우에도 사람과 유사한 오답을 고르는지를 정량 평가하는 프레임워크를 제시했다.

표준화 시험에서의 사람과 대형언어모델(LLM)의 응답 분포를 비교하는 방식으로 최혜지 연구원이 공동 주저자로 참여했다. 셀렉트스타는 이를 자체 19종 AI 안전성 분류체계와 결합해 국가별 안전성 벤치마크로 확장할 계획이다.

파인딩스 논문 '기반 모델의 불확실성 상황에서 나타나는 가드 모델의 과신 현상 분석'은 유해 요청을 판별하는 가드 모델이 불확실한 상황에서도 과도한 확신으로 오판할 수 있음을 밝혀낸 연구다.

홍종현 연구원이 주저자, 정민재 연구원이 공동저자, 김민우 AI 세이프티팀 리더가 교신저자로 참여했으며, 소형언어모델(sLM) 기반 가드레일 차단 정교화 기술로 확장할 예정이다.

워크숍 논문 3편은 김민우 리더가 교신저자로 참여했다. 금융보안원과 공동 연구한 '한국어 금융 LLM 입력 가드레일을 위한 회귀 성능 저하 인지형 통계적 정책 업데이트'와 '금융 피싱 탐지를 위한 연결 페이지 추적 및 관계 중심 DOM 요약 기법'은 금융 NLP 워크숍 'FinNLP'에 채택됐다.

이화여대와 공동 연구한 'LatAm-RT: 라틴아메리카 AI 안전성을 위한 문화 적응형 레드티밍'은 'PANDORA' 워크숍에 채택됐다.

김세엽 셀렉트스타 대표는 "AI 신뢰성 평가와 안전성 연구 역량을 국제 학술 무대에서 인정받았다는 데 의미가 있다"며 "연구 성과를 평가·레드티밍·가드레일 기술과 연결해 실제 환경에서 활용할 수 있는 AI 신뢰성 검증 체계로 발전시키겠다"고 말했다.

김해원 기자 hwkim@aitimes.com