[스탠포드 황승진 교수님 칼럼] 멀티 에이전트 LLM이 만드는 글로벌 물류의 변화

수천억 개에 달하는 파라미터를 바탕으로 비즈니스 판도를 바꾼 LLM. 이제 LLM을 어떻게 활용하느냐에 따라 기업의 업무 효율이 크게 달라지고 있습니다.

실리콘밸리 기업들은 단일 LLM 모델을 넘어서 여러 개의 LLM 모델을 함께 사용하며, 혁신적인 멀티 에이전트 LLM 시대를 열어가고 있는데요.

복잡한 문제일수록 멀티 에이전트 LLM을 활용해 글로벌 물류의 새로운 지평을 넓혀가는 실리콘밸리의 모습을, 한국인 최초 스탠포드 종신 교수이자 현재 스탠포드 경영 대학원 명예교수인 황승진 교수님의 칼럼을 통해 소개해 드립니다.

글로벌 물류와 멀티 에이전트 LLM

Global Logistics Company(가상의 회사, GL)는 중국의 한 도시에 상당한 고객 기반을 가지고 있다. 이 도시에는 100개 이상의 고객 기업이 있으며, 대부분은 가구 또는 건축 자재 제조업체다. 

이들은 전 세계에 흩어져 있는 고객에게 제품을 배송한다. 각 제조업체는 제품을 "크레이트"라는 나무상자에 담아 포장하고 보호한다. 

매달 GL는 수십 또는 수백 개 크레이트의 배송 주문을 받는다. 지금까지 운영은 요청이 도착할 때마다 즉흥적으로 실행되었다. 최적화하는 개념은 없었다. 

비용 절감의 많은 기회를 놓치고 있었다. 더 나아가, 이러한 주먹구구식 관행은 수많은 비준수 사례로 이어졌다. 

비준수는 고객과의 계약 조건 또는 규정 위반을 의미하며, 이는 페널티와 신뢰도 손실로 이어진다.

GL은 지금보다 더 잘할 수 있다. 예로, 크레이트를 개별적으로 배송하는 대신, 서로 가까운 목적지(예, 북가주)로 향하는 수십 개의 크레이트를 모아 풀 컨테이너로 지역별 물류기지로 일단 옮긴 후 작은 트럭으로 최종 목적지까지 배송하는 것이 비용 면에서 더 효율적일 것이다. 

그러나 오랜 기다림으로 인해 약속된 배송 시간 미준수로 이어질 수 있다. 

따라서, 바라는 바는, 가능한 한 빨리 크레이트를 배달하고 규정 및 계약의 모든 준수 사항을 충족하면서 비용을 최소화하는 것이다. 

이를 비용, 시간, 준수로 구성된 삼각형 모델로 요약할 수 있다. 이 모델을 수학적으로 푸는 것은 불가능하다. 이제 AI가 풀어볼 찬스가 왔다.

3개의 멀티 AI 에이전트가 만드는 물류 최적화 전략

GL은 AI 에이전트 모델로 이 삼각형 모델을 접근할 수 있다. 한 명의 마스터 에이전트와 비용, 시간, 준수를 각각 담당하는 세 명의 에이전트를 만든다. 

비용 에이전트는 2개월 이내에 배송하되 비용을 최소화하는 10개 계획을 찾아 마스터 에이전트에게 추천한다. 

시간 에이전트는 주어진 예산 내에서 배송 시간을 최소화하는 10개 계획을 찾아 마스터 에이전트에게 추천한다. 

마스터 에이전트는 이러한 20개 계획을 받아, 준수 에이전트에게 준수(Compliance) 여부를 확인하도록 시킨다. 계약과 규정을 준수하는 계획만 통과된다. 끝으로 인간 사용자가 최선의 계획을 선택한다.

왜 이것이 새로운 것일까? '준수 검사의 자동화'다. 최적화 문제는 목적함수, 결정 변수, 그리고 제약조건으로 이루어졌다. 예로, 다음과 같이 생겼다.

maxx f(x)

s.t. Ax<=b.

여기서 끝 줄에 나온 제약조건 혹은 준수 조항은 이렇게 깔끔하게 수학 방정식으로 표현하기가 힘들다. 

더욱이 준수 조항은 규정, 계약, 고객 요청, 내부 정책 및 절차, 보험 정책 및 노동 계약의 형태로 많은 문서에 흩어져 있다. 

LLM 이전에는 이 문서 더미에서 어떤 문장이 내 결정과 관련이 있는지 몰랐기 때문에 계획의 준수 여부를 눈과 손으로 체크해야 했다. 

이제 준수 에이전트는 전체 라이브러리를 뒤져 관련된 내용만 추출할 수 있다. LLM 덕분에 '텍스트' 검색이 가능해져 더 넓은 응용 분야에서 강력한 도구가 되었다.

멀티 에이전트 LLM으로 펼쳐지는 새로운 AI 세계

우리는 숫자와 텍스트에 대해 최적화할 수 있다. 이는 최적화 분야에서 커다란 진보를 뜻한다. 텍스트를 포함하는 수많은 문제가 이 기회를 기다리고 있었다. 

예로 법학, 지배 구조, 금융 분야가 큰 수혜자가 된다. 특히 준수는 규제 기술(Regulation Technology, RegTech)이란 새로운 AI 응용분야를 만들었다. 심지어 compliance.ai라는 기업까지 생겼다.

또한 이 물류 사례를 통해, 멀티 에이전트 LLM 모델을 생각해 본다. 여기서는 마스터 에이전트와 다른 에이전트 간에 많은 워크플로가 일어난다. 

일의 분담, 개별 작업, 결과 보고, 에이전트 간 조율, 그리고 종합과 정리가 필요하다. 에이전트에는 다음과 같은 종류가 있다.

• LLM 기반 에이전트: 이러한 에이전트는 LLM의 기능을 활용하여 정보를 처리하고, 텍스트를 생성하고, 결정을 내린다.
•  도구 기반 에이전트: 이러한 에이전트는 제한된 기능을 가지고 웹 검색, DB 액세스, 계산 실행과 같은 특정 작업을 수행하기 위해 외부 도구 또는 API와 상호 작용한다.
• 인간 에이전트: 경우에 따라 인간 에이전트를 그래프에 통합하여 인간과 상호 작용할 수 있다.

워크플로 작업을 지원하기 위해 에이전트는 정보를 공유하는 통신 메커니즘이 필요하다. 이를 위해 LangGraph는 "상태(state)" 변수를 유지하고, 또 기록을 기억하는 메모리를 가지고 있다. 

상업용 멀티 에이전트 프레임워크로는 CrewAI, LangGraph, N8N, Magentic-One, Agentforce 등이 있다.

그러나 내가 아는 실리콘밸리의 한 개발자는 멀티 에이전트 모델을 기피한다. 웬만하면 하나의 에이전트로 가능하고, 멀티는 괜히 복잡하다고 한다. 

큰 시스템의 경우 성능도 별로라고 한다. 결국 중국의 스타트업 매너스(Manus)에게 기회를 주었다.

이는 웹이나 SSN과 같은 여러 개의 앱을 멀티 에이전트에 아예 포함하여 ‘수평형’ 에이전트를 만들었다. 멀티에 관련된 골치 아픈 설치 문제나 성능 문제를 단 칼에 해결했다. 

물론 나 자신의 정보나 시스템을 연결 못 하는 한계가 있지만, 이것 역시 소켓으로 연결 가능하게 함으로써 해소했다. 

이 간단한 아이디어를 왜 실리콘밸리나 한국의 기업가가 생각 못 했는지 의아스럽다.

황 승 진

한국인 최초의 스탠포드 석좌교수 

스탠포드 경영 대학원 잭디프 로시니 싱 명예교수

'알토스벤처'와 ‘길리아드’ 등 20여 개 기업의 어드바이저 역임

[한국인 최초 스탠포드 종신 교수, 황승진의 인공지능 칼럼]

'멀티 에이전트 LLM이 만드는 글로벌 물류의 변화’는 한국인 최초로 스탠포드 경영 대학원 석좌 명예교수로 임명된 황승진 교수님의 인공지능 칼럼 '글로벌 물류와 멀티 에이전트 LLM’를 이랜서에서 재편집한 글입니다. 황승진 교수님의 인공지능 칼럼은 총 20회에 걸쳐, AI 혁신과 비즈니스 변화를 심층적으로 다룹니다.