안전성 평가와 MoMoJam

안전성 평가

LLM의 안전성은 모델이 허위 정보를 생성하거나, 편견을 조장하거나, 혐오 발언을 하는 등 유해한 행동으로 사용자에게 해를 끼치거나 사회에 부정적인 영향을 미치지는 않는지를 의미합니다. 하지만 정의의 범위가 상당히 넓습니다. 예시로 DeepMind에서 출판한 논문 [3]을 기준으로 ‘위험{주석 4}’을 어떻게 분류(taxonomy)하였는지 살펴보겠습니다. 참고로 안전성이나 위험은 여러가지를 기준으로 보기 때문에 다양한 참고 문헌을 살펴보면 좋습니다[4-6].

논문 [3]이 언급한 6가지 위험은 다음과 같이 분류됩니다.

1. 차별, 혐오 발언 및 배제 (Discrimination, Hate Speech, and Exclusion):

   LLM이 학습 데이터에 포함된 편견을 반영하여 사회적 불평등을 심화시킬 수 있는 위험을 의미합니다. 특정 집단에 대한 부정적인 고정관념을 강화하거나 소수자 집단을 배제하는 표현이 이에 해당되지요. 또한, 일부 사회적 그룹이나 언어에 따른 불공평한 대우가 발생할 수 있습니다. 이러한 문제를 해결하기 위해서는 다양하고 대표성 있는 데이터를 활용하고, 모델의 성능을 지속적으로 개선하는 등의 노력이 필요합니다.

2. 정보 위험 (Information Hazards):

   LLM이 개인 정보나 민감한 정보를 무심코 유출하는 행위가 정보 위험입니다. 이와 같은 위험을 완화하기 위해서는 개인 정보 접근에 차등을 두고, 모델 훈련 및 배포 시 엄격한 관리를 해야 합니다.

3. 잘못된 정보로 인한 피해 (Misinformation Harms):

   모델이 사실이 아니거나 오해의 소지가 있는 정보를 생성하는 위험입니다. 이 경우 개인의 자율성이 침해되거나, 사회적 신뢰가 하락할 수 있습니다. 특히, 의학이나 법률 등 민감한 분야에서 잘못된 정보가 제공된다면 심각한 피해로 이어질 수 있겠지요. 이를 해결하기 위해서는 모델의 정확성을 높이기 위한 아키텍쳐 설계가 중요합니다.

4. 악의적인 사용 (Malicious Uses):

   악의적인 사용도 물론 위험에 해당됩니다. 대규모 허위 정보 캠페인을 실행하거나, 보안 위협을 악화시키기 위해 악성 코드를 생성하는 데 사용되는 경우가 있겠지요. 이와 같은 악의적인 행동을 방지하기 위해서는 모델 접근을 제한하고, 사용을 모니터링하는 등의 조치가 필요합니다. 

5. 인간-컴퓨터 상호작용의 위험 (Human-Computer Interaction Harms):

   모델의 답변이 인간과 흡사해 사용자가 잘못된 신뢰를 형성하거나, 모델의 능력을 과대평가하여 과도하게 의존하는 상황이 발생할 수 있습니다. 지나치게 개인적인 정보를 공개하거나 중요한 결정을 모델에게 의존하여 내릴 수 있지요. 이를 완화하기 위해서는 사용자에게 잘못된 기대를 심어주지 않도록 모델의 설계 과정부터 주의해야 하며, 모델의 출력에 대한 제한을 둘 수도 있습니다.

6. 환경적 및 사회경제적 위험 (Environmental and Socioeconomic Harms):

   LLM의 학습 및 운영에 필요한 막대한 에너지 소비로 인한 환경적 위험, 그리고 모델의 도입으로 인해 발생할 수 있는 사회적 불평등을 의미합니다. 모델이 학습할 때 많은 양의 전력을 사용하여 탄소 배출량이 증가하거나, 특정 직업군의 자동화로 인해 실업자가 늘어날 수 있지요. 이러한 위험을 줄이기 위해서는 에너지를 적게 쓰는 효율적인 모델 설계, 지속 가능한 에너지 사용, 그리고 여러가지 정책적 대응이 필요합니다.