새로운 엔비디아 NIM 마이크로서비스는 소프트웨어 도구 모음인 엔비디아 네모 가드레일(NeMo Guardrail)의 일부다. 새로운 마이크로서비스는 기업이 에이전트 AI 애플리케이션의 정확성, 보안 및 제어 기능을 개선할 수 있도록 지원함으로써 이 기술과 관련한 주요 우려 사항을 해결하는 것을 목표로 한다.
네모 가드레일은 개발자가 거대 언어 모델(large language model, LLM) 애플리케이션에 AI 가드레일을 통합하고 관리할 수 있도록 지원한다. 업계 선두 기업인 암독스(Amdocs), 세렌스 AI(Cerence AI), 로우즈(Lowe’s)는 AI 애플리케이션을 보호하기 위해 네모 가드레일을 사용하고 있다.
엔비디아의 엔터프라이즈 AI 모델, 소프트웨어, 서비스 담당 부사장인 카리 브리스키는 지난 15일 기자회견에서 “이미 10개 기업 중 1개 기업이 이미 AI 에이전트를 사용하고 있으며, 80% 이상의 기업이 향후 3년 이내에 AI 에이전트를 도입할 계획”이라며, “이는 단순히 작업의 정확성을 위해 에이전트를 구축하는 것이 아니라, 보안, 데이터 프라이버시, 거버넌스 요건을 충족하기 위해 AI 에이전트를 평가해야 한다는 것을 의미한다”라고 말했다.
