오픈AI가 AI 운영의 핵심 원칙으로 삼아온 프라이버시(Privacy), 자유(Freedom), 청소년 보호(Teen Safety) 사이의 충돌과 그에 따른 선택을 공개적으로 설명했습니다. 이는 단순한 기술 정책이 아니라, 앞으로 AI가 우리 삶과 사회에 어떤 방식으로 뿌리내릴지 보여주는 중요한 시그널입니다.
1. 프라이버시 - 가장 비밀스런 대화
AI와의 대화는 단순한 검색 기록이나 SNS 피드와 다릅니다. 사람들은 점점 더 개인적이고 민감한 이야기를 AI에게 털어놓습니다. 마치 의사에게 건강 문제를, 변호사에게 법률 문제를 상담하듯, AI 대화 역시 특권적이고 보호받아야 하는 정보라는 관점이 등장한 이유지요.
이에 따라 오픈AI는 오픈AI 직원조차도 볼 수 없도록 강력하게 보안 기능을 개발 중이라고 말합니다. 다만, 예외적으로 생명을 위협하고 타인에게 입힐 피해를 계획하거나, 대규모 사이버 공격 같은 사회적 재난 수준의 위험이 감지되면 자동화된 시스템이 개입하고, 필요한 경우 인간 검토로 이어질 수 있다고 말합니다.
2. 자유 - 성인은 성인으로
오픈AI는 AI 활용의 자유를 가능한 넓게 보장하려 합니다. 원칙은 단순합니다:
"성인을 성인으로 대하자."
기본적으로 모델은 연애적 대화나 과도한 친밀감 표현에는 소극적이지만, 성인이 명확히 원한다면 허용하지요. 조금 민감하고 판단이 어려운 시나리오도 있습니다. 바로 프롬프트에 스스로 목숨을 끊는 내용이 들어있는 경우입니다. 기본적으로, 자살 방법 안내는 금지됩니다. 그러나 사용자가 챗GPT를 원하는 방식대로 사용하길 바란다는 오픈AI는 성인이 소설 창작을 위해 자살 장면 묘사를 요청한다면 지원할 수 있어야 한다고 말합니다.
즉, AI는 실제 위험을 초래하지 않는 선에서 창의적 자유를 돕는 조력자로서 기능해야 한다는 입장입니다.
3. 청소년 보호 - 프라이버시 전에, 안전
하지만 같은 원칙이 미성년자에게는 적용되지 않습니다. 오픈AI는 청소년에게는 프라이버시나 자유보다, 안전을 우선한다고 못 박습니다. 이에 따라 앞으로 청소년 보호를 위해 진행하고자 하는 개발의 방향성을 밝힙니다.
- 연령 판별:
대화 패턴을 분석하는 연령 예측 시스템을 도입하고, 불확실한 경우에는 보수적으로 미성년자로 간주한다. 일부 국가에서는 신분증 확인 절차를 추가할 수도 있다. - 규칙 차별화:
청소년 계정에서는 연애적 대화 금지, 자살 및 자해 관련 대화도 원천 차단된다. 창작 목적이라 하더라도 예외는 없다. - 위기 대응:
자살 징후가 발견되면 부모에게 연락을 시도하고, 실패 시 당국에 긴급 알림을 보낸다.
이처럼 청소년을 보호하기 위해 성인 사용자보다 훨씬 더 강한 안전 장치가 마련될 예정입니다.
가장 중요한 건, 안전
결국 오픈AI는 ‘완벽한 해답은 없다’고 강조합니다. 프라이버시를 지키되, 생명 위협 상황에는 개입해야 하고, 성인의 자유를 존중하되, 미성년자의 자유는 제한해야 하지요. 또한 위험을 감지하는 건 맥락에 대한 인지도 필요하기 때문에 단정적으로 막기에는 한계가 있습니다.
AI가 우리 삶에서 차지하는 비중이 커질수록, 안전성 검증 체계와 관리 기준은 더 엄격해질 수밖에 없습니다. 실제로 전 세계 기업과 연구자들이 AI 안전성 확보 경쟁에 속도를 내는 이유도 바로 여기에 있는데요.
셀렉트스타의 다투모 이밸(Datumo Eval)은 다양한 맞춤형 지표를 통해 생성형 AI의 품질과 신뢰성을 다각도로 평가하고 관리합니다. 다투모 이밸은 복수의 AI 에이전트가 분업화하여, LLM을 평가할 수 있는 날카로운 질문을 생성합니다. 또한 그 질문에 따른 답을 면밀히 검수해, ‘문제를 일으키지 않는 AI’가 될 수 있도록 돕습니다.
