엔비디아에 따르면 손바닥만 한 크기의 새로운 젯슨 오린 나노 슈퍼 개발자 키트는 상업용 AI 개발자부터, 취미로 AI를 다루는 사람, 학생에 이르기까지 모두에게 생성형 AI 기능과 성능을 제공한다. 동시에 가격은 기존 499달러에서 249달러로 인하됐다.
이 제품은 이전 모델에 비해 생성형 AI 추론 성능이 1.7배 향상됐고, 성능은 67 INT8 TOPS로 70% 증가했으며, 메모리 대역폭은 102GB/s로 50% 증가했다. 이를 통해 검색 증강 생성(RAG) 기반의 거대 언어 모델(LLM) 챗봇 생성, 시각적 AI 에이전트(AI agent) 구축, AI 기반 로봇 배포 등에 이상적인 솔루션을 제공한다고 엔비디아는 설명했다.
또한 새로운 젯슨 오린 나노 슈퍼에 제공되는 소프트웨어 업데이트는 이미 젯슨 오린 나노 개발자 키트를 보유하고 있는 사용자의 생성형 AI 성능도 향상시킬 수 있다.
젯슨 오린 나노 슈퍼는 생성형 AI, 로보틱스, 컴퓨터 비전 기술 개발에 관심이 있는 사람들에게 적합하다. AI 업계가 작업별 모델에서 파운데이션 모델로 이동함에 따라 아이디어를 현실로 전환할 수 있는 접근 가능한 플랫폼도 제공한다.
개발자 키트는 젯슨 오린 나노 8GB 시스템 온 모듈(SoM)과 레퍼런스 캐리어 보드로 구성됐다. 엣지 AI 애플리케이션 프로토타입을 위한 이상적인 플랫폼이 될 수 있다는 설명이다.
엔비디아에 따르면 이 SoM은 텐서 코어가 포함된 엔비디아 암페어(Ampere) 아키텍처 GPU와 6코어 Arm CPU를 갖추고 있어 여러 개의 동시 AI 애플리케이션 파이프라인과 고성능 추론을 용이하게 한다. 또한, 최대 4개의 카메라를 지원할 수 있으며, 이전 버전보다 더 높은 해상도와 프레임 속도를 제공한다.
엔비디아 젯슨 AI 랩은 오픈 소스 커뮤니티에서 이러한 최첨단 모델에 대한 즉각적인 지원을 제공하며, 사용하기 쉬운 튜토리얼을 제공한다. 아울러 개발자는 광범위한 젯슨 커뮤니티의 폭넓은 지원을 받으며, 개발자가 만든 프로젝트에서 영감을 얻을 수 있다.
젯슨은 로보틱스를 위한 엔비디아 아이작(Isaac), 비전 AI를 위한 엔비디아 메트로폴리스(Metropolis), 센서 처리를 위한 엔비디아 홀로스캔(Holoscan)을 비롯한 엔비디아 AI 소프트웨어를 실행한다. 합성 데이터 생성을 위한 엔비디아 옴니버스 리플리케이터(Omniverse Replicator)와 NGC 카탈로그에서 사전 훈련된 AI 모델을 미세 조정하기 위한 엔비디아 타오 툴킷(TAO Toolkit)을 사용하면 개발 시간을 단축할 수 있다.
젯슨 생태계 파트너는 추가적인 AI와 시스템 소프트웨어, 개발자 도구, 맞춤형 소프트웨어 개발을 제공할 방침이다. 또한, 카메라와 기타 센서, 캐리어 보드, 제품 솔루션을 위한 설계 서비스도 지원 가능하다.
또한 엔비디아는 1.7배의 생성형 AI 성능을 향상시키는 소프트웨어 업데이트를 젯슨 오린 NX와 오린 나노 시리즈 시스템 모듈에서도 사용할 수 있다고 밝혔다.
dl-ciokorea@foundryco.com
