골드만삭스(NASDAQ:GS)가 투자한 스타트업 스펙트로 클라우드(Spectro Cloud)가 화요일(4일) 인공지능 분야의 가장 큰 과제 중 하나인 ‘약 70%의 컴퓨팅 파워가 종종 유휴 상태로 남아있는 문제’를 해결하기 위해 엔비디아(NASDAQ:NVDA)와 전략적 파트너십을 체결했다고 발표했다. 스펙트로 클라우드의 기업 가치는 약 7억 5천만 달러로 평가된다.
스펙트로 클라우드는 엔비디아 통합 기능이 탑재된 ‘팔레트AI(PaletteAI)’ 플랫폼을 공개했다. 이 플랫폼은 그래픽 처리 장치(GPU) 효율을 30%에서 60%로 높여 기업들의 인프라 비용을 수백만 달러 절감할 수 있을 것으로 기대된다고 비즈니스 인사이더(BI)가 보도했다.
스펙트로 클라우드의 공동 창립자이자 CEO인 텐리 푸(Tenry Fu)는 BI와의 인터뷰에서 “AI 인프라 비용이 엄청나게 비싸다”며 대부분의 기업들이 GPU 활용률을 30% 수준에서만 유지하고 있다고 덧붙였다. 그는 “이렇게 비싼 하드웨어를 활용하는 최선의 방법이 아니다”라고 지적했다.
기업들, GPU 70% 가동률로 수백만 달러 손실
BI에 따르면 많은 조직이 엔비디아 하드웨어와 소프트웨어에 막대한 비용을 지출하지만, 여전히 관리상의 문제로 인해 상당한 컴퓨팅 파워를 활용하지 못하고 있다.
BI 보도에 따르면, 팔레트AI는 스펙트로 클라우드의 최고기술책임자(CTO) 사드 말릭이 “접착제 층”이라 부르는 역할을 수행한다. 이 플랫폼은 서로 다른 하드웨어 및 소프트웨어 구성 요소를 연결해 마찰 없이 협업할 수 있도록 지원한다.
스펙트로 클라우드에 따르면, 이 시스템은 엔비디아 AI 엔터프라이즈 소프트웨어 및 엔비디아 네모(NeMo), 엔비디아 NIM 같은 도구와 통합된다. 엔비디아 기술을 위해 설계되었지만, 팔레트AI는 개방적이고 유연해 기업들이 다른 기술 공급업체의 제품도 연결할 수 있다.
엔비디아 엔터프라이즈 부문 수석 디렉터 앤 헥트는 스펙트로 클라우드의 성명에서 “모든 산업에서 AI 채택이 증가함에 따라 데이터 센터와 에지를 연결하는 확장 가능하고 적응력 있는 인프라가 필요하다”며 “스펙트로 클라우드의 풀스택 엔비디아 AI 통합은 기업이 성능, 효율성, 신뢰성을 갖춘 AI 팩토리를 구축하고 운영할 수 있도록 지원한다”고 말했다.
예상치 못한 복잡성 위기를 해결하는 원클릭 배포
스펙트로 클라우드 최고 수익 및 마케팅 책임자 데이브 코프는 비즈니스 인사이더(BI)와의 인터뷰에서 기술 변화의 속도가 완전히 새로운 차원에 도달했다고 전했다.
그는 “우리는 지금 정말 흥미로운 시대에 살고 있다. AI 덕분에 모든 것이 동시에 빠르게 변화하는, 아마도 사상 처음이자 유일한 시기”라고 말하며, AI가 비즈니스의 여러 영역을 동시에 변화시켜 지속적인 적응 압박을 창출하고 있다고 덧붙였다.
코프는 이러한 급속한 진화가 혁신을 늦추고 도입을 지연시킬 수 있는 “엄청난 복잡성”을 추가한다고 BI는 보도했다.
팔레트AI는 스펙트로 클라우드가 “원클릭 배포”라고 설명하는 AI 시스템 배포 방식으로 이 과제를 해결한다. 이 플랫폼은 거버넌스와 보안을 관리하는 관리 팀과 실험과 새로운 솔루션 구축의 자유가 필요한 AI 전문가 간의 역할을 분리한다.
GPU 활용률 30%에서 60%까지, 몇 주가 아닌 몇 시간 만에
팔레트AI는 엔비디아 블루필드 데이터 처리 유닛을 활용한 고급 보안 기능을 제공하며, 제로 트러스트 접근을 가능하게 하고 연방 정보 처리 표준 준수를 지원한다. 스펙트로 클라우드에 따르면 이 플랫폼은 클라우드, 데이터 센터, 엣지 환경 전반에 걸쳐 설정, 프로비저닝, 관리를 자동화한다.
스펙트로 클라우드는 기업이 며칠이 아닌 단 몇 시간 만에 엔비디아 인프라를 활용해 완전한 AI 환경을 구축할 수 있다고 설명했다. 이 시스템은 블랙웰 GPU, 그레이스 중앙처리장치(CPU), 블루필드-3 및 블루필드-4 데이터 처리 장치를 포함한 최신 엔비디아 기술을 지원한다.
스펙트로 클라우드는 관리 팀이 정책 제어 기능을 통해 감독을 수행하는 동안 AI 실무자들은 승인된 템플릿을 기반으로 작업함으로써 모든 배포 환경에서 효율적이고 안전하며 일관된 환경을 조성한다고 밝혔다.
사진: 셔터스톡
Benzinga Pro의 독점 뉴스 및 도구로 수익률을 높이세요.
독점 속보 및 스캐너와 같은 Benzinga Pro의 강력한 도구 세트로 다른 트레이더보다 우위를 점하세요. 여기를 클릭하여 14일 무료 체험을 시작하세요.
