올해 셀렉트스타에 유독 경사가 잦습니다. 지난 4월, 세계 최고 권위의 학회 ICLR 2026 메인 트랙에 AI Safety팀의 논문이 채택됐다는 소식을 전해드렸는데요.
그 사이 ACL, LREC도 논문이 잇따라 이름을 올렸고, 이달 초 서울에서 열린 세계 최정상급 머신러닝 학회인 ‘ICML 2026’ 워크샵에는 셀렉트스타 AI Safety팀의 연구 논문이 무려 3편이나 동시에 채택됐습니다.
이번 ICML을 포함해 올해만 ICLR, ACL, LREC 등 톱티어 학회 4곳에 총 7편이 채택되었는데요. 글로벌이 인정한 셀렉트스타의 기술력과 연구 성과들을 정리해봤습니다.
‘ICML 2026’을 사로잡은 셀렉트스타의 AI 안전성 연구 3편
최근 생성형 AI와 에이전트형 AI가 산업 전반에 배포되면서 “이 AI를 과연 믿고 쓸 수 있는가?”를 설명할 수 있는 신뢰성 및 안전성 검증이 전 세계적인 화두로 떠올랐습니다.
셀렉트스타 AI Safety팀은 AI 안전성 검증에서 기성 영어권 중심의 데이터나 고정된 평가 기준을 넘어, 실제 사용 환경과 문화적 맥락을 반영한 ‘데이터 중심 접근법’으로 생성형 AI의 위험을 잡아내는 독창적인 방법론을 제시해 연구 성과를 인정받았습니다.
훈련에서 서빙으로 이동하는 대상의 비교. 출처: 논문.
- Reliable to Expressive: A Curriculum for Rubric-Following Safety Judges
- 한 줄 요약 : 평가 기준이 바뀌어도 흔들리지 않는 'LLM 응답 안전성 평가 모델(Safety Judge)’
- AI를 평가할 때 '무엇이 안전한가'의 기준, 즉 루브릭(rubric)은 상황과 도메인마다 달라집니다. 이 연구는 주어진 안전성 루브릭에 맞춰 AI 답변의 위험성을 검증하고 채점하는 평가 모델(Safety Judge)을 제안했는데요. 핵심은 그간 AI 안전성 분야에서는 드물게 쓰였던 '커리큘럼 러닝'입니다. 쉬운 사례부터 어려운 사례로 난이도를 차근차근 높여 학습시킨 결과, 범용 데이터로 학습한 평가 모델이 금융권 데이터처럼 처음 마주하는 도메인에서도 일관되게 우수한 평가 성능을 발휘한다는 사실을 입증했습니다.
이를 통해 도메인이 바뀔 때마다 평가 모델을 새로 학습시킬 필요 없이 보안 환경이나 기준이 달라져도 유연하게 대처가능합니다. 외부 LLM을 호출하지 않는 자체 평가 모델인 만큼, 내부 폐쇄망 환경에서도 빠르고 정확한 안전성 검증이 가능해 보안이 중요한 산업에도 바로 적용할 수 있다는 점이 강점입니다.
- Culturally-Adapted Red-Teaming Across East and Southeast Asian Contexts
- 한 줄 요약: 아시아권(한국, 캄보디아, 일본, 태국)으로 확장된 '문화 맞춤형 레드티밍 프레임워크'
- ICLR 2026 메인트랙에 채택됐던 자체 프레임워크 ‘CAGE: A Framework for Culturally Adaptive Red-Teaming Benchmark Generation(문화 맞춤형 레드티밍 벤치마크 생성 프레임워크)’를 아시아권으로 확장한 연구입니다. 기존에 한국어와 크메르어(캄보디아어)를 다뤘던 CAGE에 일본어와 태국어를 더해, 동아시아부터 동남아시아까지 4개 언어권을 비교 분석했습니다.
이번 연구는 미국 중심의 영어권 벤치마크를 단순히 번역만 해서는 특정 문화권의 법, 사회적 갈등 등 국가별·문화별 고유의 위험을 잡아내기 어렵다는 문제의식에서 시작됐습니다. 연구진은 레드티밍의 출발점이 되는 '시드'부터 각 국가의 문화적 특수성이 반영되어야 하고, 평가 데이터 역시 각 나라 사용자가 실제로 마주할 법한 위험 시나리오와 문화적 이해를 갖춰야 한다는 점을 4개 언어권 비교를 통해 제시했습니다.
- Korean Culture into LLM Alignment: Toward Cultural Coherence
- 한 줄 요약: AI 성능 저하 없이 한국의 사회규범과 법·제도를 학습시키는 정렬 데이터셋 구축 파이프라인
- LLM에 한국의 사회규범과 법·제도, 언어적 맥락을 반영한 안전 정렬 학습용 데이터셋을 만들어내는 파이프라인을 제시한 연구입니다. 보통 AI에게 안전성(안전 정렬)을 학습시키면 성능이 떨어지는 트레이드오프(trade-off)가 발생하곤 하는데요. 연구진은 AI가 답변의 근거를 스스로 추론하며 학습하도록 만들어 이 한계를 극복하고, 성능 저하 없이 한국 문화권에 적합한 안전 응답 역량을 끌어올렸습니다.
이 기술은 현재 셀렉트스타가 참여 중인 '독자 AI 파운데이션 모델' 프로젝트에도 적용되어 효용성을 입증하고 있습니다.
‘ICML 2026'에서 논문 발표 중인 임용택 셀렉트스타 연구원
글로벌 학회를 휩쓴 셀렉트스타
셀렉트스타의 기술력은 인공지능 및 자연어 처리(NLP) 분야에서 전 세계 최상위 수준인 학회에서 꾸준히 인정받고 있습니다.
[2026년 글로벌 학회에 채택된 논문 현황]
- ICLR 2026 메인 트랙 — CAGE: 문화 맞춤형 레드티밍 벤치마크 생성 프레임워크
- ICML 2026 워크샵 (3편) — 안전성 평가 모델 / 문화 적응형 레드티밍 / 한국 문화 안전 정렬
- ACL 2026
- Findings — STAR-Teaming: 그래프 기반 자동 레드티밍
- GEM 워크샵 — E-Star 12B: 한국어 산업 환경용 평가 모델
- LREC 2026 — MHTS: RAG 평가용 난이도 조절 QA 데이터셋 생성
2026년 상반기 동안 글로벌 학회에 채택된 셀렉트스타 논문
ICLR 2026 메인 컨퍼런스 — CAGE
올해의 시작을 알린 논문 성과입니다. 지난 4월 브라질 리우데자네이루에서 열린 ICLR 2026 메인 트랙에 CAGE가 채택됐습니다. ICLR은 AI 분야에서는 NeurIPS와 1·2위를 다투는 세계 최대 학회입니다. CAGE 논문에 대한 더 자세한 이야기는 블로그로 확인해 주세요!
ACL 2026
ACL은 자연어처리(NLP) 분야에서 가장 권위 있는 학회인데요. 올해는 ACL 논문집에 수록되는 Findings 트랙과 GEM 워크샵에 각각 한 편씩 이름을 올렸습니다.
Findings 트랙 — STAR-Teaming
STAR-Teaming은 AI의 취약점을 찾아내는 '자동화 레드티밍' 기술입니다. 기존 자동화 방식이 '지난번에 통했던 공격'을 그대로 반복하는 데 가까웠다면, STAR-Teaming은 통계 물리학 기반의 수학적 모델링(전략-응답 멀티플렉스 네트워크)으로 공격 전략과 모델 응답 사이의 관계를 학습해, 상황에 맞는 최적의 전략을 확률적으로 골라냅니다. 특정 전략에만 치우치지 않고 효과적인 전략을 다양하게 시도한다는 점이 특징입니다.
GEM 워크샵 — E-Star 12B
레퍼런스 없이도 다양한 루브릭에 유연하게 대응하는 한국어 평가 모델입니다. 언어가 바뀌거나 분야가 바뀌어도 일정한 평가 능력을 유지하고, 대형 AI 모델에 근접한 평가 품질을 훨씬 작은 크기로 낸다는 것이 핵심이지요. 특히 데이터 거버넌스 정책상 외부 LLM을 못 쓰는 기업의 실무 상황을 겨냥하고 있습니다. E-Star는 크기는 작지만 도메인 지식을 주입하면 gpt같은 훨씬 큰 프론티어급 모델에 준하는 평가 성능을 냈고, 실제로 금융권 프로젝트 등에 적용되어 실효성을 인정받고 있습니다.
LREC 2026 — MHTS
언어 자원·평가 분야 국제 학회인 LREC에 채택된 연구로, RAG(검색 증강 생성) 시스템을 평가할 때 필요한 QA 데이터셋을 '멀티홉 트리 구조'로 생성하되 난이도까지 조절할 수 있게 한 프레임워크입니다.
기술로 증명하는 ‘신뢰할 수 있는 AI 파트너’
셀렉트스타의 모든 연구는 단순히 논문 게재용 학술 연구에 그치지 않습니다. 연구 기획부터 구현, 검증, 게재까지 100% 내부 자체 인력으로 완수해 낸 이 핵심 기술들은 이미 국내 대기업 및 금융권의 핵심 프로젝트에 적용되어 강력한 비즈니스 효과를 내고 있습니다.
또한, 연구를 통해 증명된 기술들은 셀렉트스타의 자체 AI 신뢰성 평가 플랫폼 ‘다투모 플랫폼 (Datumo Platform)’에 적용되어 안전성 검증에 활용되고 있습니다.
AI가 우리 일상 깊숙하게 들어올수록 'AI를 어떻게 믿고 쓸 것인가'라는 질문이 뒤따릅니다. 셀렉트스타는 이 질문에 말이 아니라 연구와 제품으로 답하고 있는데요. 전 세계 최정상 학회에서 인정받은 원천 기술력, 실제 산업 현장에서 검증된 강력한 레퍼런스를 바탕으로 AI 도입부터 안전한 운영까지 지원합니다.
자동 레드티밍부터 도메인 맞춤형 안전성 평가까지, 우리 기업 AI의 성능과 보안을 완벽하게 진단하고 싶으시다면 언제든 셀렉트스타의 문을 두드려주세요!
그리고 앞으로도 세계 무대에서 활약할 셀렉트스타 AI Safety팀 연구진에게 많은 응원과 관심 부탁드립니다.
