LLM 기반 서비스를 만드는 많은 기업이 겪는 어려움이 있습니다. 분명 벤치마크 점수를 보고 성능이 좋은 모델을 골랐는데, 막상 운영을 시작하니 예상치 못한 문제가 발생하는 경우입니다. 도메인 지식에 대한 엉뚱한 답을 하거나, 위법적인 내용을 권유하거나, 민감한 정보를 노출하는 등, 기업의 신뢰성을...
셀렉트스타 김세엽 대표가 과학 커뮤니케이터 궤도와 KBS Life <AI 토피아>에서 만났습니다. 김세엽 대표는 AI 신뢰성을 결정짓는 핵심 요소인 데이터와 평가 체계에 대한 인사이트를 나누는 ‘지식텔러’로 함께 했는데요. 이번 방송은 “왜 어떤 AI는 정확한 답을 내놓고, 어떤 AI는 엉뚱한 답을 할까?”라는...