샘 올트먼, 얼만큼 믿을 수 있을까?
최근 The New Yorker는 샘 올트먼과 OpenAI를 둘러싼 매우 긴 탐사보도를 내놓았습니다. 제목부터 강합니다. “Sam Altman May Control Our Future—Can He Be Trusted?” 직역하면 “샘 올트먼이 우리의 미래를 통제하게 될지도 모른다. 그를 믿을 수 있는가?” 정도일텐데요. AGI 혹은 그에 준하는 강력한 AI...
MWC 2026 & AI 레드팀 챌린지
지난 3월, 세계 최대 이동통신 전시회 ‘MWC 2026’이 막을 내렸습니다. 전 세계를 대표하는 통신사와 빅테크 기업들이 모인 이 거대한 무대에서 셀렉트스타는 아래 두 가지 미션을 성공적으로 수행하고 돌아왔습니다: GSMA와 ‘글로벌 AI 레드팀 챌린지’를 2년 연속 공동 주관 SK텔레콤 전시관에서 AI...
셀렉트스타, ICLR 2026 메인트랙 채택
셀렉트스타의 논문 3편이 EMNLP에 채택되었단 기쁜 소식을 전해드린지 얼마 되지 않았는데요. 올해도 벌써 경사가 생겼습니다. 바로 세계 최고 권위의 학회 중 하나인 ICLR(International Conference on Learning Representations) 2026 메인 트랙에 셀렉트스타 AI Safety팀의 논문이 채택되었다는 소식입니다! 논문 제목은 ‘CAGE(A Framework for Culturally...
엔비디아 GTC 2026 키노트
3월 16일부터 19일까지 진행되는 엔비디아 개발자 콘퍼런스 GTC(GPU Technology Conference) 2026이 한창입니다. 2009년부터 매년 열린 GTC에서 가장 화제가 되는 세션은 아무래도 ‘깐부 회동’으로 국내에도 친근한 이미지를 남긴, 엔비디아 CEO 젠슨 황의 키노트 세션인데요. 올해는 어떤 인사이트를 공유했는지, 함께 살펴볼까요? ‘토큰 공장’이...
LLM 평가를 위한 종합 가이드
LLM 기반 서비스를 만드는 많은 기업이 겪는 어려움이 있습니다. 분명 벤치마크 점수를 보고 성능이 좋은 모델을 골랐는데, 막상 운영을 시작하니 예상치 못한 문제가 발생하는 경우입니다. 도메인 지식에 대한 엉뚱한 답을 하거나, 위법적인 내용을 권유하거나, 민감한 정보를 노출하는 등, 기업의 신뢰성을...
멀티 모달 학습의 새로운 접근
피지컬 AI에 대한 기대가 커지면서 뛰어난 멀티모달 모델에 대한 연구 또한 활발해지고 있습니다. 지금까지는 주로 성능이 좋은 LLM에 이미지 이해나 생성 기능을 붙이는 방식으로 멀티모달 AI를 만들어왔는데요. 최근 메타(Meta)와 뉴욕대학교(New York University) 연구진은 텍스트와 시각을 처음부터 함께 학습하는 멀티모달 사전학습...
국가별 문화·법 맥락을 반영한 ‘레드티밍 벤치마크’를 자동 생성하는 방법
[ICLR 2026 Conference 채택 – 셀렉트스타 AI Safety팀] AI 서비스가 실제로 사용될 때 성능만큼 중요한 것이 바로 안전성입니다. 아무리 똑똑한 AI라도 특정 국가의 법규를 어기거나 문화적 금기를 건드린다면 치명적인 리스크가 될 수 있기 때문입니다. 문제는 안전성을 점검하는 벤치마크가 주로 영어권...
트럼프 대통령이 앤트로픽을 내쫓은 이유
2026년 3월 4일, 셀렉트스타 뉴스레터 <Select Digest>로 발행된 글입니다. 연휴 사이에 무거운 뉴스가 보도됐습니다. 미국과 이스라엘이 이란을 공습했다는 소식인데요. 이번 공습에서는 미국의 트럼프 대통령이 사용 금지 명령을 내렸음에도 불구하고, 앤트로픽의 클로드가 활용됐다고 합니다. 정부가 대통령의 명령에 따르지 않았다니, 어찌된 영문일까요?...
![AI토피아: 셀렉트스타, ‘궤도’에 오르다 [2편]](https://selectstar.ai/wp-content/uploads/2026/03/th1.png)
AI토피아: 셀렉트스타, ‘궤도’에 오르다 [2편]
셀렉트스타 김세엽 대표가 과학 커뮤니케이터 궤도와 함께 KBS Life ‘AI 토피아’ 2편에 출연해, AI 신뢰성 검증의 현실과 이를 해결하는 평가 자동화·통합 관리 방식에 대해 이야기했습니다. 이번 편은 특히 “AI 신뢰성 검증이 끝나면 모델은 완성되는가?”라는 질문에서 출발해, AI는 서비스에 배포된 이후에도 지속적으로...
![AI토피아: 셀렉트스타, ‘궤도’에 오르다 [1편]](https://selectstar.ai/wp-content/uploads/2026/02/Screenshot-2026-02-25-at-5.21.55-PM.png)
AI토피아: 셀렉트스타, ‘궤도’에 오르다 [1편]
셀렉트스타 김세엽 대표가 과학 커뮤니케이터 궤도와 KBS Life <AI 토피아>에서 만났습니다. 김세엽 대표는 AI 신뢰성을 결정짓는 핵심 요소인 데이터와 평가 체계에 대한 인사이트를 나누는 ‘지식텔러’로 함께 했는데요. 이번 방송은 “왜 어떤 AI는 정확한 답을 내놓고, 어떤 AI는 엉뚱한 답을 할까?”라는...