[25.08.14.9AM 웨비나] 시티은행 AI 총괄이 말하는 AI로 금융산업을 이끄는 방법

RAG

RAG

RAG(Retrieval-Augmented Generation)은 생성형 AI 모델(예: 대형 언어 모델)의 성능을 향상시키기 위해 외부 지식 소스를 통합하는 기법입니다. 사전학습된 데이터에만 의존하지 않고, 실시간으로 데이터베이스, 문서, API 등에서 관련 정보를 검색하여 그 맥락을 활용해 보다 정확하고 신뢰도 높은 응답을 생성합니다.

 

작동 방식:

 

컨텍스트 검색(Context Retrieval)
사용자의 질문이 입력되면, 시스템은 지식베이스나 검색 엔진을 통해 관련 문서나 정보 조각을 검색합니다.

• 입력 증강(Augmented Input)
검색된 정보는 사용자의 원래 프롬프트와 결합되어, 모델에 더욱 풍부한 문맥을 제공합니다.

• 지식 기반 응답 생성(Knowledge-Driven Generation)
이렇게 보강된 입력을 바탕으로 모델은 더 정확하고 최신 맥락에 맞는 응답을 생성합니다.

 

주요 특징: 

 

동적 지식 통합
정적인 학습 데이터만 사용하는 기존 모델과 달리, 실시간으로 외부 정보를 통합합니다.

• 정확도 향상
모델이 사실과 다른 내용을 만들어내는 현상(=hallucination)을 줄이고, 출처 기반 응답을 생성합니다.

• 도메인 확장성
연구, 고객지원, 콘텐츠 제작 등 다양한 분야에 적용 가능하며, 출력의 품질과 신뢰도를 높입니다.

 

중요성

 

RAG는 생성형 AI의 실용성과 신뢰성을 높이는 진일보한 기술입니다.
외부 정보에 기반한 응답을 통해 부정확성을 줄이고, 도메인 특화된 질문에도 대응할 수 있으며, 변화하는 정보 환경 속에서도 항상 최신의 응답을 제공할 수 있습니다. 결과적으로, RAG는 AI가 보다 현실적이고 실용적인 의사결정 도구로 진화하는 데 핵심적인 역할을 합니다.