출장 소프트웨어 기업 Navan은 NVIDIA의 Nemotron 3.5 Super VL 모델을 조정하고 얼리 액세스를 받은 지 3주 만에 배포해, 현재 AI 에이전트에 실제 운영 환경에서 사용하고 있다. Navan은 2026년 10월 16일 발표에서 이 모델이 고객과의 상호작용을 더 낮은 비용으로 처리하고 있다고 밝혔다.
주요 내용
- 이번 배포는 NVIDIA 모델의 시험 도입 계획이 아니라 완료된 배포다.
- Navan은 자체 평가에서 여행 업무 수행 능력이 향상됐다고 보고했지만, 실제 운영 환경에서의 비용 절감액은 수치로 제시하지 않았다.
- 자체 호스팅을 통해 Navan은 배포를 관리하면서 모델을 맞춤화하고 교체할 수 있다.
목차
Navan AI 에이전트, 단순 질의응답을 넘어 업무 수행
Navan의 기술 발표에 따르면 이 시스템은 단순히 대화형 답변을 생성하는 것이 아니라 여행 관련 업무를 수행하도록 설계됐다. 항공편이 취소되면 실시간 좌석 현황을 검색하고, 대안을 설명하며, 회사 정책을 확인하고, 호텔이나 렌터카 예약 변경을 조율해야 할 수 있다.
Nemotron 실제 운영 배포에 관한 Navan의 설명에 따르면, Navan은 오케스트레이터와 호텔·항공편·렌터카·열차 전문 에이전트로 구성된 다섯 에이전트의 통합 경험을 활용해 하나의 모델을 조정했다. 각 에이전트는 자체 도구와 의사결정에 대한 책임을 유지하면서 여행 일정 전반에 걸쳐 정보를 공유한다.
이러한 설계에서는 업무 완료 여부가 통합의 실질적인 성과 지표가 된다. 시스템이 예약 도구를 제대로 사용하거나 여행객의 제약 조건을 따르지 못한다면 빠른 응답만으로는 충분하지 않다.
| 항목 | 세부 내용 |
|---|---|
| 모델 규모 | 약 1,200억 개의 파라미터이며, 단계별로 약 120억 개가 활성화된다. |
| 파인튜닝 방식 | NVIDIA NeMo AutoModel 오픈 라이브러리를 이용한 LoRA 파인튜닝. |
| 최종 학습 정보 | 약 1,000만 토큰. |
| 검증 | 최종 학습 세트에 검증 테스트 약 2,000건 포함. |
내부 테스트에서 응답 효율성과 품질 비교
Navan은 기존 자체 호스팅 운영 기준 모델인 Qwen 3.8-27B를 주요 비교 대상으로 삼았다. 동일한 프롬프트, 도구, 여행 시나리오 및 채점 체계를 사용해 모델을 테스트했다.
Navan의 평가에서 파인튜닝된 Nemotron 모델은 7개 지표 가운데 6개에서 경쟁 모델을 앞서거나 동률을 기록했다. 회사는 도구 사용, 업무 완료, 실제 정보에 근거한 답변, 대화 품질을 강점으로 꼽았다.
이는 회사가 보고한 테스트 결과이며, 독립적으로 검증된 성능 결과는 아니다. 모델이 다른 입력 유형도 지원하지만, 평가는 텍스트 기반 여행 업무에 초점을 맞췄다. Navan은 배포 모델이 비용을 절감했다고 밝혔으나, 절감 비율이나 금액은 공개하지 않았다.
자체 호스팅으로 모델 선택의 유연성 유지
Navan은 모델의 맞춤화, 테스트, 배포 및 업데이트 방식을 직접 관리하므로 자체 호스팅을 통해 속도, 비용, 신뢰성을 더 잘 통제할 수 있다고 밝혔다. 또한 전체 시스템을 새로 구축하지 않고도 모델을 교체할 수 있다.
따라서 이번 통합은 모든 업무 흐름에 적용할 영구적인 단일 모델을 확정하기보다 Navan의 모델 포트폴리오를 확대한다. 회사가 밝힌 접근 방식은 여행 업무의 구체적인 요건을 기준으로 모델을 평가하고, 문제가 발생했을 때의 복구 능력을 포함해 실제 도구를 사용하는 전체 어시스턴트를 테스트하는 것이다.
결론
확인된 성과는 고객과의 상호작용을 처리하는 실제 운영 환경에 모델을 배포했다는 점이다. Navan의 발표는 업무 수행 능력이 향상됐다는 내부 근거를 제시했지만, 실제 운영 환경에서의 비용 절감 규모는 공개하지 않았다.
더 많은 뉴스 읽기
면책 조항
이 FinanceVelix 기사는 일반적인 정보를 제공하며, 개인 맞춤형 금융·투자·법률·세무 자문이 아닙니다. 시장 가격, 금리 및 경제 여건은 변할 수 있으며 투자에는 손실 위험이 따릅니다. 사실은 게시 시점에 이용 가능한 자료를 반영하며 이후 변경될 수 있습니다. 중요한 정보는 독립적으로 확인하고 필요할 경우 자격을 갖춘 전문가와 상담하십시오. 자산, 기업 또는 서비스의 언급은 추천을 의미하지 않습니다.
