AI Red Team
내부 테스트에서 놓친 생성형 AI 모델의 취약점을 샅샅이 찾아 드립니다
내부 테스트에서 놓친 생성형 AI 모델의 취약점을 샅샅이 찾아 드립니다
최적의 공격 전략에 기반한 자동 레드티밍
언제든 모델의 목적과 특성에 맞춘 AI 레드티밍을 자동으로 실시할 수 있습니다.
목표를 달성할 때까지 끊임없이 전략을 바꾸고 질문을 최적화시킵니다
국내외 최초 AI 레드팀 챌린지 개최
2024.04.11-12
생성형 AI 모델을 대상으로 프롬프트 공격을 통해 취약점을 찾는 국내 최초, 세계 최대 규모 레드팀 챌린지 기획 및 운영
2025.03.03-06
GSMA(세계이동통신사업자연합회)와 공동으로 세계 최초 ‘글로벌 AI 레드팀 챌린지’ 주최
롤플레잉을 비롯하여 프롬프트 주입/미세 조정/오염/암호화 등 전문팀의 체계적이고 날카로운 기술을 통해 숨어있는 AI의 취약점을 찾아냅니다
개인정보 및 개인을 유추할 수 있는 민감한 데이터 제공, 혹은 유출
특정 집단에 해를 끼치거나 사회적으로 다른 집단을 배척할 수 있는 고정관념을 강화하는 답변
신뢰할 수 없는, 부정확하거나 사실확인이 되지않은 정보
LLM을 활용하여 사이버 공격을 수행하거나 가속화 시킬 수 있는 답변
전문성이 필요한 주제에 대한 비전문적 조언 (의료, 법률, 재정)
유해한 물질을 제작 및 획득하거나, 불법적인 행동을 수행하는 방법 등을 포함한 위험 정보
Data-Centric AI
AI 성능 개선, 데이터로부터 시작됩니다.
AI 평가 솔루션 기업
셀렉트스타는 AI 성능을 좌우하는 고품질 학습 데이터는 물론,
모델 안전성을 검증하기 위한 전문 컨설팅과 자체 개발 자동화 플랫폼을 제공합니다.