MWC2025를 뒤흔든 세계 최초 ‘글로벌 AI 레드팀 챌린지’
올해 바르셀로나에서 열린 'MWC(모바일 월드 콩그레스)25'에서는 세계 최초 '글로벌 AI 레드팀 챌린지'가 개최됐습니다.
기존에 국가 단위로 진행됐던 레드팀 챌린지가 글로벌 행사에서 다국적 참가자를 대상으로 열린 것은 이번이 처음이었는데요. 이 대회의 주최사는 대한민국 대표 AI 스타트업인 셀렉트스타였습니다.
셀렉트스타는 GSMA(세계이동통신사업자연합회)와 공동으로 ‘글로벌 AI 레드팀 챌린지’를 주최하며 뜨거운 관심을 받았습니다. 여러 글로벌 기업, AI 전문가, 스타트업 임직원 및 일반 참가자들까지 많은 참가자들의 관심이 집중되어, MWC25의 주요 이벤트로 화제의 중심에 섰습니다.
‘글로벌 AI 레드팀 챌린지’의 추최 및 주관사 관계자 단체 사진
이번 글로벌 레드팀 챌린지 이전에는 2024년 4월 한국에서 열린 ‘Gen 생성형 AI 레드팀 챌린지’가 있었습니다. 당시 셀렉트스타는 국내 최초, 최대 규모로 열린 ‘Gen 생성형 AI 레드팀 챌린지’의 대표 파트너사로 참여했습니다.
2024년 한국에서 처음으로 열렸던 ‘Gen AI 레드팀 챌린지’는 생성형 AI 모델이 세상에 급격히 확산되던 시기, 모델의 취약점을 조기에 발견하고 대비책을 마련하기 위해 기획되었습니다. 당시 챌린지는 AI 전문가부터 대학생까지 다양한 분야의 참가자 700여 명이 참여해 성공적으로 마무리됐습니다.
당시 셀렉트스타는 모델 구조와 데이터 수집부터 운영·검증 시스템까지 전반을 총괄하며, 대규모 생성형 AI 모델의 안전성·윤리적 문제를 체크할 수 있는 프로토콜과 심사 방식을 마련했습니다. 무엇보다도 경쟁력을 갖춘 레드팀 데이터셋을 확보해 AI 모델을 한층 더 견고하게 테스트할 수 있었다는 호평을 받았습니다.
올해 챌린지의 가장 큰 변화는 글로벌 규모로 확장된 점입니다. 335명이 사전 신청하며 세계 최초 ‘글로벌 AI 레드팀 챌린지’를 향한 뜨거운 관심을 확인할 수 있었는데요. 현장에는 중국, 일본, 싱가포르, 카타르, 튀르키예, 미국, 영국, 스페인, 독일, 스위스 등 다양한 국적의 100여 명의 참가자가 모여 다양한 공격 기법을 시도하며 실력을 겨뤘습니다.
이번 챌린지에서는 싱가포르의 투자 전문가 ‘투 무젠 토미시’가 최종 우승자로 선정되었습니다. 그는 챌린지 기간 내 가장 창의적인 방법으로 생성형 AI 모델의 취약점을 발견하고, 오류를 가장 많이 제출하면서 최종 우승을 차지했습니다.
이번 대회에서 참가자들이 공격 대상으로 삼은 모델은 LG전자의 AI 모델 '엑사원'을 기반으로 제작된 LG유플러스의 소형 언어모델 '익시젠', 아랍에미리트의 'TelecomGPT', 말레이시아의 'AIngineer' 등 다양한 국가의 LLM이 출제 모델로 활용됐습니다.
‘글로벌 AI 레드팀 챌린지’ 현장 스케치
출제 LLM 모델을 상대로 참가자들의 열정적인 토론과 공격이 끊이지 않았습니다.
'글로벌 AI 레드팀 챌린지' 대회에 참가한 참가자들의 모습
황민영 셀렉트스타 부대표가 행사에 앞서 발표를 하고 있는 모습
셀렉트스타는 MWC2025에서 AI 레드팀 챌린지 개최와 더불어 한국 최초로 개발한 AI 신뢰성 검증 자동화 솔루션 ‘다투모 이밸(DATUMO Eval)’을 선보였습니다.
다투모 이밸(DATUMO Eval)이란?
- AI 서비스 운영 중 발생할 수 있는 오류와 위험성을 자동으로 검출하고, 모델 품질 개선 방향성을 제시하는 생성형 AI 신뢰성 검증 자동화 솔루션
- 주요 기능
- 다양한 데이터셋에 대한 AI 모델 출력 검증
- 잠재적 편향 및 취약점 자동 식별
- 이슈 발생 시점별 리포팅 및 대안 제시
이번 MWC 현장에서 '다투모 이밸'은 해외 기업 및 전문가들로부터 높은 관심과 솔루션 구매 문의를 동시에 이끌어냈습니다. 전 세계적으로 생성형 AI 모델의 신뢰성과 안전성 이슈가 부상하고 있는 만큼, 자동화된 검증 툴의 필요성을 실감케 한 사례였습니다.
김영섭 KT 대표에게 '다투모 이밸(DATUME Eval)'을 소개하고 있는 황민영 셀렉트스타 부대표
셀렉트스타의 ‘글로벌 AI 레드팀 챌린지’ 그 후
작년 한국에서 개최한 ‘Gen 생성형 AI 레드팀 챌린지’가 올해 글로벌 무대인 MWC25까지 이어지며, 셀렉트스타가 보유한 레드티밍 기술의 글로벌 경쟁력을 확인할 수 있었습니다.
이번 대회가 성황리에 마무리 되면서 내년에도 더 큰 규모의 글로벌 레드팀 행사를 진행하기로 후원사인 e&, 공동 주최사인 GSMA와 합의하기도 했습니다.
셀렉트스타는 이번 ‘글로벌 AI 레드팀 챌린지’의 기획과 운영을 통해 쌓은 노하우를 기반으로, 더 안전하고 강력한 AI 모델 개발 환경 조성을 위해 계속해서 노력할 예정입니다.
이번 MWC25에서 ‘글로벌 AI 레드팀 챌린지’를 위해 힘써주신 모든 분들께 감사드리며, 앞으로 세계로 더 뻗어나갈 셀렉트스타의 행보를 기대해주세요!
![[SAMG X 뚜레쥬르 X 셀렉트스타] 세계 최초, AI 기술로 다시 태어난 티니핑!](https://selectstar.ai/ko/wp-content/uploads/2024/12/allison-saeng-9pnM23KI_OE-unsplash-scaled.webp)
