셀렉트스타가 2월에 공개한 2025 AI Trends <Singularity>에서 R&D팀은 요즘 대부분 LLM 앱이 RAG(Retrieval-Augmented Generation) 방식에서 MAS(Multi-Agent System) 방식으로 변화했다고 말했습니다. 앞으로는 AI의 신뢰성을 평가할 때 'MAS 평가'가 트렌드로 자리잡을 것이란 예측도 했는데요.
오늘은 MAS가 무엇인지, 그리고 RAG와 어떻게 다른지 알아보겠습니다.
RAG 먼저 알아보기
Multi-Agent System(MAS)이란?
Multi-Agent System(MAS)은 다수의 자율적인 에이전트들이 공유된 환경 안에서 상호작용하며 복잡한 문제를 해결하거나 목표를 달성하기 위해 협력, 경쟁, 조정하는 분산형 컴퓨팅 프레임워크입니다.
에이전트는 독립적인 존재로서 자신의 목표, 지식, 환경 인식을 바탕으로 스스로 의사결정을 내리는데요. MAS는 단일 에이전트로는 다루기 어려운 문제를, 여러 에이전트가 분산하여 해결하기 때문에 확장성, 유연성, 견고성을 확보할 수 있습니다.
MAS의 핵심 특성
MAS는 아래와 같은 특성 때문에 복잡하고 동적인 시스템 설계에 매우 적합합니다.
싱글 에이전트 시스템은 하나의 에이전트가 환경과 상호작용하며 필요할 때 도구를 호출하고, 작업을 수행합니다. 반면 MAS는 다수의 에이전트가 함께 존재하며, 서로의 목표, 기억, 계획을 모델링하고 고려합니다. 이 과정에서 에이전트 간 직/간접적인 커뮤니케이션이 필수인데요. 다수의 에이전트들은 필요에 따라 협력하거나 경쟁하여 문제를 해결합니다.
Multi-Agent Reinforcement Learning (MARL)
MAS에서는 다른 에이전트도 환경의 일부이기 때문에, 학습과 조정이 훨씬 복잡해집니다.
에이전트들이 스스로 학습하는 경우, Multi-Agent Reinforcement Learning(MARL)을 사용하는데요. MARL은 여러 에이전트가 공유된 환경 안에서 동시에 강화학습을 진행하여, 이를 통해 최적의 정책을 학습하는 방법입니다.
예를 들어, 드론 군집에서 드론마다 수색 전략을 학습한다면, 다른 드론들의 이동이나 행동 역시 환경 변화로 간주해야 하는데요. 각 에이전트는 독립적으로 정책 학습(policy learning)을 하고 보상을 받아 자신의 행동 정책을 개선해 나갑니다.
중요한 점은, 다른 에이전트들도 동시에 환경에 영향을 주기 때문에, 환경이 고정(stationary)되어 있지 않습니다.
MARL의 주요 도전 과제:
Non-Stationarity: 환경(다른 에이전트들)이 끊임없이 변하기 때문에, 에이전트가 학습해야 할 대상이 고정되어 있지 않음
Credit Assignment Problem: 팀 전체 성공 시, 각 에이전트의 기여도를 개별적으로 평가하기 어려움
Partial Observability: 에이전트가 환경 전체를 볼 수 없고, 부분적인 정보만으로 행동해야 함
FAQ (자주 묻는 질문)
Q. MAS는 꼭 여러 개의 실제 물리적 로봇이 있어야 하나요?
A. 아닙니다. 소프트웨어 에이전트(프로그램)로 MAS를 구성할 수도 있으며, 대부분 초기 개발은 시뮬레이션 환경에서 이루어집니다.
Q. MAS는 중앙통제가 없으면 에러를 제어하기 힘들지 않나요?
A. 맞습니다. 따라서 MAS 설계 시 에이전트 간 오류 감지 및 복구 메커니즘을 반드시 포함해야 합니다.
Q. MAS를 적용하려면 어떤 기술이 필요할까요?
A. 에이전트 기반 모델링 지식, 네트워크 통신 프로토콜 이해, 강화학습 기초(특히 MARL 이해), 보안 설계 능력이 필요합니다.
Q. MAS를 빠르게 실험해보려면 어떤 툴을 쓰나요?
A. Python 기반 Mesa, Java 기반 JADE 등이 가장 많이 쓰이는 MAS 프레임워크입니다.
