안녕하세요, <셀렉트 다이제스트> 에디터 정인영입니다.

저희 셀렉트스타가 최근 205억 규모의 시리즈B 투자를 성공적으로 마무리하며, 누적 투자유치액 379억원을 달성했습니다!

저희 뉴스레터는 매주 AI 업계 및 기술 소식을 보내드리고 있는데요. 오늘만큼은 셀렉트스타 콘텐츠를 읽어주시는 여러분께 저희가 꿈꾸는 미래와, 해결하려는 문제를 공유드리고 싶습니다.

1. 깨달음

이번 투자가 더 큰 의미로 다가오는 이유는, 저희가 여기까지 오는 데 순탄치만은 않았기 때문입니다. 2년 전 챗GPT가 등장하면서 전세계 수많은 기업과 스타트업이 휘청거렸습니다. 사실 '휘청'이라는 표현은 실체에 비해 약한 표현이지요. 저희 또한 영향을 크게 받았습니다. 자세한 이야기는 김세엽 대표의 말로 전해 드립니다.

셀렉트스타 김세엽 대표

"파운데이션 모델이 본격화되며 맞이한 현실은 데이터 레이블링의 수요가 물리적으로 줄었다는 것이었다. 100% Supervised 학습이 진행됐던 딥러닝 모델과 달리 파운데이션 모델 학습의 대다수는 대규모 Corpus 데이터를 통한 self-supervised pre-training이 차지하였고, 레이블링이 필요한 영역은 post-training으로 국한되었다.

이 위기를 넘기기 위해, 수많은 구루들이 얘기하신 '기본으로 돌아가라'를 다시 마음에 새겼다. 고객의 목소리에 집중했다. 현재 주력 사업 중 하나인 Pre-training용 데이터 공급 사업은 빅테크 임원 분과 티타임 도중 '고품질 웹 데이터가 고갈되고 있고 라이선스 이슈가 큰 페인 포인트'임을 포착하며, 그리고 핵심 미래 사업인 AI 서비스 특화 신뢰성 검증 사업은 주요 금융사와의 미팅 중 LLM의 범용 벤치마크 성능과 금융 도메인/서비스에 적용했을 때의 성능 간극에 ‘질렸다’라는 말씀에서 착안했다."

2. 기회

생성형 AI는 초고속으로 발전하고 있습니다. 최근 한 주만 해도 엄청난 소식들이 쏟아져 나왔지요. 매일 생성형 AI에 기반한 새로운 서비스가 출시되고 있습니다. 하지만 서비스와 상관없이, LLM을 활용하는 모든 기업이 해결해야 하는 중요한 문제가 있습니다.

AI가 생성하는 결과물의 신뢰성과 안전성을 어떻게 보장할 것인가?

LLM은 하루가 다르게 성능과 정확도가 좋아지고 있지만, 여전히 치명적인 위험을 수반합니다.

환각(Hallucination)과 사실 오류
편향되거나 윤리적으로 문제가 될 수 있는 응답
저작권 침해
의도치 않은 법적, 평판적, 사회적 파장

체계적이고 자동화된 평가 프로세스가 없다면, 이러한 위험은 사용자 신뢰를 훼손하고 브랜드 신뢰도를 떨어뜨리며, AI 도입 속도를 늦출 수 있지요. 게다가 한 번 손상된 브랜드 이미지는 다시 끌어올리기 무척 어려운데요. 이 문제를 해결하기 위해 등장한 솔루션이 바로 데이터셋 스토어와 Datumo Eval(다투모 이밸)입니다.

가장 빠른 AI 뉴스

가장 빠른 AI 뉴스 구독하기

3. 해결

데이터셋 스토어

셀렉트스타의 데이터셋 스토어는 저작권이 해결된 고품질 데이터셋을 대규모로 판매하고 있습니다. 게다가 종류도 다양합니다!

위 카탈로그 외에도, 필요한 데이터셋에 대한 추가적인 수집이나 가공도 지원하고 있습니다. 명확한 규제나 판례가 생기기 시작하면서 데이터의 저작권을 해결하기가 점점 까다로워지고 있는데요. 셀렉트스타 데이터셋 스토어에서 구매하시는 데이터는 아무 걱정 없이 안심하고 바로 사용하실 수 있습니다.

다투모 이밸

다투모 이밸은 생성형 AI 서비스의 신뢰성 평가를 자동화하는 플랫폼입니다. AI 모델을 배포하기 전에 위험을 미리 감지하고 완화할 수 있게 도와주죠. 빠르게 변화하는 AI 세계에 정량적인 수치로 객관적인 품질 및 안전 보증 체계를 제공합니다.

다투모 이밸 UI 화면

주요 기능을 살펴볼까요?

맞춤형 평가 기준: 사용자의 필요와 선호도에 맞춰 최적화된 평가 지표와 질문을 자동 생성합니다.
대규모 질문 생성: 다양한 사용자 발화 패턴을 포괄하기 위해 최대 100만 개 이상의 질문을 생성할 수 있습니다.
자동 응답 평가 및 분석: 객관적 벤치마크(MMLU, GSM8K 등), 사람 검수, 모델 기반 응답 비교를 결합해 LLM 성능을 평가합니다. 유창성, 일관성, 유용성 등 정성 평가와 정량 점수를 통합해 더 나은 응답을 판별합니다.
AI 레드팀: 배포 전 잠재적 취약점을 찾기 위해, 안전하지 않거나 유해한 출력을 적극적으로 탐지합니다.

특히 레드팀의 경우, 셀렉트스타는 국내 최초, 세계 최대 규모의 레드팀 챌린지를 다수 기획하고 운영한 경험이 있다는 점, 알고 계신가요?