레드햇(Red Hat)이 생성형 AI 성능 엔지니어링, 모델 최적화 알고리즘, 고성능 GPU 및 CPU 추론 서비스 분야의 전문 기업인 뉴럴매직을 인수한다고 13일 발표했다.
2018년 MIT에서 분사한 뉴럴매직은 생성형 AI 추론 워크로드를 가속화하는 소프트웨어와 알고리즘을 제공한다. 레드햇에 따르면 대규모 언어 모델(LLM) 규모가 커지면서 컴퓨팅 자원 소모가 증가하는 상황이기 때문에, 기업들은 이미 사용 중인 하드웨어를 보다 비용 효율적으로 활용할 수 있는 기술을 필요로 하고 있다. 뉴럴매직이 보유한 LLM 최적화 전문성과 레드햇의 하이브리드 클라우드 기반 모델 지원 역량이 만나 더 많은 기업이 생성형 AI를 쉽게 활용할 수 있게 될 것이라는 설명이다.
레드햇은 어디서나 실행 가능한 오픈소스 라이선스 모델을 통해 AI 기술을 널리 보급하려는 목표를 갖고 있다. 이를 통해 기업은 언어 모델을 자체적으로 조정하고, 인프라를 효율적으로 운영하기 위해 추론 성능 엔지니어링을 활용할 수 있다. 또한 오픈소스 생태계 내에서 협력하며 더 폭넓은 하드웨어와 칩 아키텍처 선택권을 확보할 수 있다.
