안녕하세요, <셀렉트 다이제스트> 에디터 정인영입니다.

지난주 뉴스레터를 포함해, 3주 동안은 저희 셀렉트스타 동료들의 이야기를 들려드릴 예정이라고 말씀드렸는데요. '독자 AI 파운데이션 모델 프로젝트'를 다룬 1편에 이어, 오늘은 'K-콘텐츠 AI 혁신 선도 프로젝트'에 참여한 동료들의 이야기를 들려드리고자 합니다!

아기 상어, 뚜루루뚜루-🦈

혹시 속으로 노래를 따라 부르진 않으셨나요? 전국, 아니 전 세계 어린이를 흥분시킨 아기상어 IP를 보유한 더핑크퐁컴퍼니가 주관기관으로 참여한 '2025 K-콘텐츠 AI 혁신 선도 프로젝트'에 셀렉트스타가 참여기관으로 함께하게 되었습니다.

'K-콘텐츠 AI 혁신 선도 사업'은 국내 콘텐츠 산업에 AI 기술을 접목해 혁신을 촉진하는 국가 주도 사업인데요. 콘텐츠 기획과 제작 자동화, 번역 및 더빙, 그리고 IP 기반 AI 서비스의 글로벌 확산을 지원함으로써 K-콘텐츠의 경쟁력을 강화하고 새로운 산업 가치를 창출하려는 시도입니다. 자세한 이야기는 실무자들에게 들어볼까요?

1. 준비하며

'2025 K-콘텐츠 AI 혁신 선도 사업' 프로젝트 책임자 정세엽(왼쪽)과 프로젝트 매니저 김창익(오른쪽)

Q. 안녕하세요, 간단한 자기소개 부탁드려요!

[세엽] K-콘텐츠 AI 혁신 선도 사업 프로젝트 책임자를 맡고 있는 정세엽이라고 합니다.

[창익] 플랫폼 프로젝트 소속의 프로젝트 매니저 김창익이라고 합니다. AI 콘텐츠 평가를 맡고 있습니다.

Q. 셀렉트스타는 K-콘텐츠 AI 혁신 선도 사업에서 정확히 어떤 역할을 담당하나요?

[세엽] 셀렉트스타는 더핑크퐁컴퍼니 컨소시엄의 참여기관으로서 프로젝트에 들어가는 핵심 AI 기술 개발을 담당합니다. 크게 세 가지 기술을 제공한다고 볼 수 있습니다.

(1) 첫 번째는 AI에 기반한 음성 인식 및 발화 기술입니다. 캐릭터가 사용자의 음성을 정확히 인식하고, 다양한 환경에서도 자연스럽게 반응할 수 있도록 맞춤형 AI 학습 데이터셋을 구축했습니다.

(2) 두 번째는 실시간 상호작용을 위한 AI를 구현하는 기술인데요. 사용자의 말과 행동에 즉각 반응하는 대화형 AI 아바타 및 실감형 인터랙티브(interactive) 기술 개발에 참여합니다.

(3) 마지막은 AI 신뢰성과 안전성을 확보하는 일입니다. 캐릭터의 세계관과 어긋나는 발화나 부적절한 표현을 사전에 차단해 어린이를 동반한 가족 모두가 안심하고 즐길 수 있도록 AI 기술을 적용했습니다.

Q. 업무를 맡으셨을 때, 어떤 생각이 들었나요?

[세엽] 대화를 자연스럽게 만드는 부분은 어떻게든 해낼 수 있겠다고 생각했습니다. 다만 가장 크게 신경 쓰였던 건 AI의 안전성과 신뢰성이었어요. 어린이와 가족을 대상으로 하는 서비스에서는 작은 오류도 큰 문제로 이어질 수 있기 때문에, 기술적인 완성도만큼이나 안전성을 가장 중요하게 생각했습니다.

[창익] 셀렉트스타의 강점이라 안심하는 동시에, 너무 중요해서 가장 우려했던 부분이 바로 AI 안전성 평가였습니다. 그 동안은 챗봇이나 텍스트 기반이 많았는데, 이번에는 오프라인에서도 구현되는 서비스가 필요했습니다. 따라서 텍스트, 음성, AI 인식률 등 모든 것이 원활해야 했기에 도전적인 프로젝트였습니다. 하지만 그만큼 저희의 역량을 보여드릴 수 있는 기회라고도 생각했습니다.

2. 기획하며

Q. AI가 사용자의 말에 반응하는 기술이다 보니, 신경 쓸 게 많을 것 같아요. 그 중 가장 중요하게 여기는 건 어떤 게 있을까요?

[세엽] 대고객이자 대국민 서비스이다보니, 기대도, 과제 규모도 역대급으로 큽니다. 그렇다보니 AI가 들어간 서비스가 안전하고 안정적으로 운영되도록 만드는 게 가장 중요하죠. 그런데 또 안전하기만 하면 안되고 콘텐츠 특성상 재미도 있어야 하니까, 그 균형에 집중하고 있습니다.

또, 글로벌 사용자도 워낙 많은 IP라서, 언어 및 문화의 장벽을 부수고 자연스럽게 사용자와 소통할 수 있는지 확인하는 게 중요하다고 생각합니다.

Q. 안전하면서 재밌는 AI라… 사람으로 치면 적당히 점잖으면서 유머도 있어야 하는 거잖아요. 그러기 위해서는 타협해야 하거나 할 수 없는 부분들이 있었을 것 같아요.

[세엽] 절대 타협할 수 없었던 지점은 AI가 콘텐츠의 세계관과 안전 기준을 벗어나지 않는다는 원칙이었습니다. 아무리 재미있는 연출이라도 예측 불가능한 발화나 오해를 낳을 수 있다면 과감히 배제했습니다.

반대로 타협한 지점이 있다면, 모든 기능을 한 번에 보여주려 하기보다 사용자가 직관적으로 즐길 수 있는 경험에 집중하며 일부 기술적 욕심은 내려놓았다는 점이에요. 이번 과제에서는 ‘많은 기능’보다는 ‘안전하고 재미있는 경험’을 우선순위에 두었습니다.

가장 빠른 AI 뉴스

가장 빠른 AI 뉴스 구독하기

3. 진행하며

Q. 셀렉트스타는 정확히 어떤 평가를 하는 건가요?

[창익] 인터랙티브한 AI를 위해서는 크게 STT, LLM, 그리고 TTS 기능이 필요합니다. 사용자가 발화하면 AI는 글자로서 발화문을 인식해서 대답을 어떻게 할지 판단하죠. 그렇게 완성된 답변 텍스트는 캐릭터의 행동과 말로서 출력이 돼야 합니다. 각 단계에서 답변 인식 및 제공 안전성, 세계관 일치성, 그리고 페르소나 일관성 등을 평가합니다.

그 중 가장 중요한 부분은 LLM입니다. 이번 프로젝트는 일반 챗봇에다가 LLM을 통해서 일종의 자아를 부여하는 개념인데요. 설정한 자아 내에서 대답할 수 있는 내용의 기준을 정하고, 제대로 응답을 하는지 평가를 하는 게 중심이 되기 때문에 LLM 평가가 가장 핵심이라고 볼 수 있습니다.

Q. 셀렉트스타가 이 프로젝트에 어떤 강점을 갖고 있는지 궁금해요.

[창익] LLM 평가는 셀렉트스타가 주력으로 삼는 신뢰성 사업 모델이기 때문에 굉장히 준비가 잘 돼 있는 상태여서 작업이 비교적 수월했습니다. STT나 TTS는 일반적인 정량 평가 지표들이 있는 반면, LLM 같은 경우에는 세계관이나 페르소나에 관련된 일정한 기준들이 커스터마이징이 되어서 들어가기 때문에 셀렉트스타의 다투모 이밸을 사용해서 평가했습니다.

예를 들어서 평가 기준 중에 ‘세계관 일치’가 있다고 하면 세계관 일치를 측정하기 위한 기준들을 텍스트로 프롬프팅해서, 그 평가 지표에 맞게 점수를 산정하고 결과물을 대시보드로 보여줍니다. 또 평가를 자동화 시킬 수도 있어서 편리하죠.

Q. 프로젝트를 진행하면서 아기상어 세계관 중 정이 든 캐릭터가 있다면 알려주세요!

[창익] 저는 주인공인 올리가 좋습니다. 누구든 알아보는 익숙한 얼굴이잖아요.

[세엽] 저는 윌리엄이요. 이 친구는 아기상어 올리의 친구인데, 사실 물고기거든요. 귀여워요. 현실 세계에서 상어의 친구이기는 어렵겠지만요. 전 주인공 옆에 있는 친구 캐릭터를 좀 좋아하는 편입니다.

윌리엄(왼쪽)과 올리(오른쪽). 출처: 더핑크퐁컴퍼니

4. 돌아보며

Q. ‘AI 안전성 평가가 굳이 필요할까?’ 궁금해하시는 분들께 해드릴 답변이 있을까요? 또, 왜 셀렉트스타가 AI 안전성 평가에 제격인지도 알려주세요.

[창익] 저희 프로젝트를 단편적인 예로 들어보겠습니다. AI에 자아를 부여하고 기능을 구현하기 위해서는 어떤 캐릭터에 어떤 자아를 어떻게 부여하고, 또 어디까지 평가할지도 다 정해야 합니다. ‘굳이 이렇게까지? 그냥 캐릭터 성격 간단히 입력하면 되는 거 아닌가?’라고 생각하실 수도 있겠지만, 제품의 완성도를 높이기 위해서는 다양한 지표가 안전성과 직결될 수 있습니다. 그런 평가 지표를 정하는 것부터 측정하는 기준을 세우는 것까지 모두 전문가의 지식과 경험, 그리고 기술이 필요합니다.

[세엽] AI 서비스는 결국 확장이 될 거고, 확장을 하기 위해서는 완전히 커스터마이징이 된 AI가 필요할 텐데요. 이런 커스터마이징을 안전하게 하려면 내부적으로 해결하기에 어려운 부분이 많습니다. 셀렉트스타는 이 평가를 내재화할 수 있는 플랫폼을 보유하고 있고, 또 AI 안전성 사업을 선도적으로 해오면서 쌓은 노하우가 있습니다. 저희 플랫폼은 개발자는 물론 기획자들 또한 염두에 두고 개발을 하기 때문에 사용하기 더욱 편리하다는 장점도 있죠.

Q. 셀렉트스타를 대표해서 각오 한 마디 들려주세요!

[세엽] 이번 프로젝트를 통해 AI가 콘텐츠 경험을 얼마나 안전하게 확장시킬 수 있는지를 분명히 보여드리고 싶습니다. AI 안전성 확보라는 게 흔히들 생각하시는 화려한 일은 아닐 수 있지만, 보이지 않는 곳에서 콘텐츠를 비롯한 다양한 서비스 속 AI를 안전하게 지탱하는 지지대 같은 역할이라고 생각합니다. 그만큼 중요하죠. K-콘텐츠가 글로벌 무대에서 더 오래, 더 넓게 사랑받을 수 있도록 AI 안전성 기준을 만드는 것이 이번 프로젝트의 목표입니다.

[창익] 무탈하게 잘 마무리되도록 끝까지 최선을 다하겠습니다. AI를 접목한 콘텐츠 사업은 계속 나올 텐데, 이번 프로젝트를 잘 완수해서 셀렉트스타의 경쟁력을 입증하겠습니다.

셀렉트스타는 국내 최초이자 세계 최대 규모 AI 레드팀 챌린지를 열고, 국내 최초로 생성형 AI 신뢰성 검증 자동화 솔루션인 다투모 이밸(Datumo Eval)을 개발하는 등, AI의 안전성을 확보하고 증명하기 위해 매일 치열하게 고민하고 있습니다. 안심하고 사용할 수 있는 인공지능을 위한 최고의, 최선의, 그리고 최적의 선택이 될 수 있도록 늘 최선을 다하겠습니다.

목록으로 돌아가기