AWS는 고객이 서울, 도쿄, 뭄바이, 싱가포르, 시드니, 스톡홀름, 프랑크푸르트, 아일랜드, 파리 리전의 교차 리전 추론(Cross-Region Inference)을 이용해 이 모델을 사용할 수 있다고 설명했다. 교차 리전 추론은 고객이 요청을 보낸 소스 리전을 우선적으로 활용하면서 여러 리전에 걸쳐 아마존 노바에 대한 요청을 자동으로 라우팅할 수 있도록 지원한다. 이를 통해 지연 시간을 최소화하고, 추가 라우팅 비용 없이 소스 리전 기준으로만 요금이 부과되어 비용 효율성을 극대화할 수 있다는 설명이다.
사용 가능한 모델은 다음과 같다. 아마존 노바 마이크로(Amazon Nova Micro)는 텍스트 전용 모델로, 가장 낮은 지연 시간의 응답을 매우 저렴한 비용으로 제공한다. 아마존 노바 라이트(Amazon Nova Lite)는 이미지, 비디오, 텍스트 입력을 처리하여 텍스트 출력을 생성하는 매우 저렴한 멀티모달 모델이다. 아마존 노바 프로(Amazon Nova Pro)는 광범위한 작업에 대해 정확성, 속도, 비용의 최적의 조합을 제공하는 고성능 멀티모달 모델이다. AWS는 이 모델들이 200개 이상의 언어를 지원하며, 텍스트 및 영상 미세 조정을 지원한다고 설명했다. 또한, 아마존 베드록(Amazon Bedrock)의 다양한 기능, 예를 들어 아마존 베드록 날리지 베이스(Amazon Bedrock Knowledge Bases)를 활용해 조직의 자체 데이터 및 애플리케이션과 쉽게 통합할 수 있도록 지원한다고 전했다.
아마존 인공 일반 지능(AGI) 수석부사장 로힛 프라사드는 “아마존 내부적으로 약 1,000개의 생성형 AI 애플리케이션이 개발 진행중이며, 애플리케이션 개발자들이 여전히 고민하고 있는 문제들을 전반적으로 파악하고 있다. 새로운 아마존 노바 모델은 내부 및 외부 개발자들의 이러한 과제 해결을 돕고, 지연 시간, 비용 효율성, 맞춤화, 검색 증강 생성(RAG), 에이전트 기능에서 의미 있는 진전을 이루면서 강력한 인텔리전스와 콘텐츠 생성을 제공하고자 한다”라고 말했다.
AWS에 따르면 모든 아마존 노바 모델은 빠르고 비용 효율적이며 고객의 시스템 및 데이터와 쉽게 사용할 수 있도록 설계됐다. AWS는 아마존 노바 마이크로, 아마존 노바 라이트, 아마존 노바 프로가 아마존 베드록의 각 인텔리전스 등급의 최고 성능을 보이는 모델들과 비교해 최소 75% 더 저렴하며, 아마존 베드록의 각 인텔리전스 등급에서 가장 빠른 모델이라고 설명했다.
아마존 노바 모델은 또한 선도적인 AI 기업들과 아마존의 고성능 FM을 단일 API를 통해 사용할 수 있게 해주는 완전 관리형 서비스인 아마존 베드록과 통합돼 있다. AWS는 고객들이 아마존 베드록을 사용해 아마존 노바 모델과 다른 FM들을 쉽게 실험하고 평가하여 애플리케이션에 가장 적합한 모델을 결정할 수 있다고 언급했다.
이 모델들은 맞춤형 미세조정을 지원해, 고객들이 정확도를 높이기 위해 레이블이 지정된 자체 데이터의 예시들을 모델에 지정할 수 있다. 아마존 노바 모델은 고객의 자체 데이터(텍스트, 이미지, 비디오 포함)에서 핵심 요소를 학습하고, 그 후 아마존 베드록이 맞춤형 응답을 제공할 수 있는 개인 미세조정 모델을 훈련시킬 수 있다..
AWS에 의하면 아마존 노바 모델은 미세조정뿐만 아니라, 더 큰 고성능 ‘교사 모델(teacher model)’에서 더 작고 효율적인 모델로 특정 지식을 전달할 수 있는 증류(distillation)도 지원한다. 이를 통해 모델의 정확도를 유지하면서도 실행 속도를 높이고 비용을 절감할 수 있다고 AWS는 설명했다.
AWS는 아마존 노바 모델이 아마존 베드록 날리지 베이스와 통합돼 있으며, 조직의 자체 데이터에 기반하여 응답의 정확도를 보장할 수 있는 RAG에서 탁월한 성능을 보인다고 전했다. 또한 다단계 작업을 실행하기 위해 여러 API를 통해 조직의 자체 시스템 및 데이터와 상호 작용해야 하는 에이전트 애플리케이션에서 쉽고 효과적으로 사용할 수 있도록 최적화됐다고 언급했다.
AWS 파트너와 고객들은 이미 아마존 노바 모델의 기능과 가격 대비 성능을 활용하고 있다. SAP는 SAP AI 코어 인프라의 생성형 AI 허브 기능에 아마존 노바 모델을 포함시켰다. SAP 고객과 파트너는 자동화, 개인화, 전략적 재무 의사 결정과 같은 솔루션을 위해 아마존 노바 모델의 멀티모달 인텔리전스 및 콘텐츠 제작 기능에 액세스할 수 있다.
AWS의 전략적 파트너인 딜로이트(Deloitte)는 AI 솔루션과 FM이 모든 상황에 획일적으로 적용될 수 없다는 것을 알고 있으며, 아마존 노바 모델의 고급 맞춤화 기능과 향상된 보안이 전 세계 고객들에게 탁월한 가치를 제공하는 혁신을 촉진할 것이라고 보고 있다.
팔란티어 테크놀로지스(Palantir Technologies)는 아마존 노바 프로의 고급 추론 기능이 팔란티어의 AI 플랫폼(AIP) 내의 온톨로지 시스템(Ontology System)과 통합되어 40개 이상의 산업에 걸쳐 새로운 운영 효율성과 의사결정 워크플로우를 주도할 것으로 보고 있다. 예를 들어, 통합은 엔드투엔드 재할당 프로세스를 조율하는 공급망 에이전트와 복잡한 정책 요청을 처리하는 보험 에이전트의 효율성을 향상시키는 동시에 전문가의 판단이 필수적으로 유지되도록 보장할 수 있다.
AWS에 따르면 아마존 노바 모델은 통합된 안전 조치와 보호 장치로 구축됐다. AWS는 아마존 노바를 위한 AWS AI 서비스 카드(AWS AI Service Card)를 출시해 사용 사례, 제한 사항, 책임 있는 AI 사례에 대한 투명한 정보를 제공한다.
dl-ciokorea@foundryco.com
