AI, 창의력은 별로지만 도움이 되는 이유
누군가로부터 ‘수염이 난 것처럼 주둥이 주변이 거무스름한 강아지 그림을 그려줘’라는 요청을 받았다고 상상해 보겠습니다. 어느 정도 상세한 요청이지만, 막상 그리려고 하면 여러 가지 결정을 내려야 합니다. 귀가 쫑긋 서 있는 강아지인지, 주둥이가 긴 강아지인지, 주둥이를 제외한 털은 무슨 색인지 등 말이지요....
셀렉트스타, SOC2 Type 2 인증 획득
셀렉트스타의 다투모 플랫폼은 기업의 AI가 얼마나 안전하고 신뢰할 수 있는지를 평가하는 플랫폼입니다. 그렇다면 그 평가를 수행하는 셀렉트스타 자체는 얼마나 안전하고 신뢰할 수 있을까요? 위 질문은 셀렉트스타의 이번 SOC 2 Type 2 보고서 취득으로 답할 수 있는데요. 셀렉트스타는 AI 신뢰성을 기술적...
‘하네스(Harness) 엔지니어링’이란?
‘하네스(harness)’라는 말, 들어보셨나요? 강아지를 산책시킬 때 목줄 대신 몸통, 특히 가슴 쪽을 감싸는 형태의 줄을 흔히 하네스라고 부르는데요. 본래는 말이나 짐승에 채워 일을 하게 하는 장구를 가리키는 뜻으로 널리 사용되었습니다. 단순히 무언가를 묶는 도구가 아니라, 힘을 실어 전달하고 움직임을 안정적으로...
샘 올트먼, 얼만큼 믿을 수 있을까?
최근 The New Yorker는 샘 올트먼과 OpenAI를 둘러싼 매우 긴 탐사보도를 내놓았습니다. 제목부터 강합니다. “Sam Altman May Control Our Future—Can He Be Trusted?” 직역하면 “샘 올트먼이 우리의 미래를 통제하게 될지도 모른다. 그를 믿을 수 있는가?” 정도일텐데요. AGI 혹은 그에 준하는 강력한 AI...
MWC 2026 & AI 레드팀 챌린지
지난 3월, 세계 최대 이동통신 전시회 ‘MWC 2026’이 막을 내렸습니다. 전 세계를 대표하는 통신사와 빅테크 기업들이 모인 이 거대한 무대에서 셀렉트스타는 아래 두 가지 미션을 성공적으로 수행하고 돌아왔습니다: GSMA와 ‘글로벌 AI 레드팀 챌린지’를 2년 연속 공동 주관 SK텔레콤 전시관에서 AI...
셀렉트스타, ICLR 2026 메인트랙 채택
셀렉트스타의 논문 3편이 EMNLP에 채택되었단 기쁜 소식을 전해드린지 얼마 되지 않았는데요. 올해도 벌써 경사가 생겼습니다. 바로 세계 최고 권위의 학회 중 하나인 ICLR(International Conference on Learning Representations) 2026 메인 트랙에 셀렉트스타 AI Safety팀의 논문이 채택되었다는 소식입니다! 논문 제목은 ‘CAGE(A Framework for Culturally...
엔비디아 GTC 2026 키노트
3월 16일부터 19일까지 진행되는 엔비디아 개발자 콘퍼런스 GTC(GPU Technology Conference) 2026이 한창입니다. 2009년부터 매년 열린 GTC에서 가장 화제가 되는 세션은 아무래도 ‘깐부 회동’으로 국내에도 친근한 이미지를 남긴, 엔비디아 CEO 젠슨 황의 키노트 세션인데요. 올해는 어떤 인사이트를 공유했는지, 함께 살펴볼까요? ‘토큰 공장’이...
AI 신뢰성 평가는 왜 필요한가요?
LLM 기반 서비스를 만드는 많은 기업이 겪는 어려움이 있습니다. 분명 벤치마크 점수를 보고 성능이 좋은 모델을 골랐는데, 막상 운영을 시작하니 예상치 못한 문제가 발생하는 경우입니다. 도메인 지식에 대한 엉뚱한 답을 하거나, 위법적인 내용을 권유하거나, 민감한 정보를 노출하는 등, 기업의 신뢰성을...
멀티 모달 학습의 새로운 접근
피지컬 AI에 대한 기대가 커지면서 뛰어난 멀티모달 모델에 대한 연구 또한 활발해지고 있습니다. 지금까지는 주로 성능이 좋은 LLM에 이미지 이해나 생성 기능을 붙이는 방식으로 멀티모달 AI를 만들어왔는데요. 최근 메타(Meta)와 뉴욕대학교(New York University) 연구진은 텍스트와 시각을 처음부터 함께 학습하는 멀티모달 사전학습...
국가별 문화·법 맥락을 반영한 ‘레드티밍 벤치마크’를 자동 생성하는 방법
[ICLR 2026 Conference 채택 – 셀렉트스타 AI Safety팀] AI 서비스가 실제로 사용될 때 성능만큼 중요한 것이 바로 안전성입니다. 아무리 똑똑한 AI라도 특정 국가의 법규를 어기거나 문화적 금기를 건드린다면 치명적인 리스크가 될 수 있기 때문입니다. 문제는 안전성을 점검하는 벤치마크가 주로 영어권...