클라우드네트웍스가 미국 애플리케이션 성능 자동화(APA) 플랫폼 기업 캐스트AI(Cast AI)와 파트너십을 체결했다. 회사는 캐스트AI의 클라우드 비용·리소스 최적화 플랫폼을 국내 공급할 계획이다.
캐스트AI는 △워크로드의 실제 사용량을 실시간 분석해 CPU와 메모리 할당량을 자동 조정하는 오토스케일링(Autoscaling) △수요에 맞춰 노드를 즉각 증설 혹은 제거하는 사이즈 최적화(Rightsizing) △중단 위험이 있는 저렴한 '스폿 인스턴스'에서 가용성 문제 발생 시 온디맨드 인스턴스로 자동 복구해주는 스폿 인스턴스 자동 관리(Spot Instance Automation) △노드 내 리소스 파편화를 제거하고 컨테이너를 밀집 배치해 사용되지 않는 불필요한 노드를 최소화하는 빈 패킹(Bin Packing) 등의 기능을 제공한다.
특히 올해 초 여러 클라우드에 흩어진 GPU 자원을 코드 변경 없이 통합 관리할 수 있는 '옴니 컴퓨트(OMNI Compute)'를 출시했다. 캐스트AI의 기존 제품이 단일 클라우드 내에서 쿠버네티스 비용을 최적화하는 데 집중했다면, 옴니 컴퓨트는 이를 멀티 클라우드. 멀티 리전으로 확장했다.
예를 들어 AWS의 메인 클러스터에 GPU 자원이 부족할 경우 코드 변경 없이 마이크로소프트 애저나 구글 클라우드 등의 GPU 자원을 끌어와 동일한 클러스터 내 노드처럼 사용할 수 있다는 것으로, 이 기능은 캐스트AI의 통합 컴퓨팅 제어판(Unified Compute Control Plane)에 의한다.
또 특정 리전에 원하는 GPU(예: H100) 재고가 없을 때, 전 세계 리전을 실시간으로 탐색해 가용한 자원을 자동 연결해주며 외부 리소스의 네이티브 노드 통합도 자동으로 구현된다. 캐스트AI의 설명에 따르면 애플리케이션의 아키텍처를 수정하거나 인프라를 재설정할 필요 없다.
이에 따라 기업은 △전 세계 클라우드 공급업체의 GPU 재고를 실시간 모니터링해 AI 워크로드 중단 없이 자원을 할당할 수 있는 실시간 가용성 확보 △여러 리전의 스폿 인스턴스 가격을 비교해 가장 저렴한 위치에 노드를 프로비저닝함으로써 비용 최적화 △외부 리전이나 타 클라우드에서 끌어온 노드들도 기존 쿠버네티스 관리 환경에서 표준 노드와 동일하게 통합 관리 등의 효과를 얻을 수 있다.
특히 LLM(거대언어모델) 추론 시 발생하는 급격한 트래픽 변화에 맞춰 인프라를 유연하게 확장하는 데 특화돼 있다. 캐스트AI는 옴니 컴퓨트의 GPU 최적화 기능을 통해 기업의 AI 추론 비용을 최대 70%까지 절감할 수 있다고 주장하고 있다.
클라우드네트웍스는 캐스트AI 제품이 GPU·LLM·데이터베이스 최적화까지 아우르는 애플리케이션 성능 자동화 플랫폼으로, 수천 개의 클러스터와 실제 워크로드 데이터를 학습한 머신러닝 엔진을 통해 이러한 기능을 제공한다고 설명했다. 특히 기존 유사 솔루션들이 단순 모니터링이나 권고에 그치는 데 비해, 사람의 개입 없이 클라우드 자원을 자율적으로 분석·최적화하는 것을 캐스트AI 플랫폼의 차별점으로 내세우고 있다.
클라우드네트웍스는 이번 파트너십을 통해 국내 대기업들의 클라우드 비용·리소스 최적화 수요를 겨냥한다. 클라우드 비용 절감과 AI 인프라 운영 효율화를 동시 제안하면서 AI 보안·관측·인증까지 아우르는 AI 통합 거버넌스 사업을 본격화한다는 계획이다.
한편, 캐스트AI는 올 1월 PAV(Pacific Alliance Ventures)로부터 전략적 투자를 유치하며 기업 가치 10억달러(약 1조4000억원)의 유니콘 기업으로 등극했다. PAV는 우리나라 신세계그룹의 미국 현지 벤처투자 법인(CVC)이다.
또 지난해 4월 소프트뱅크 비전 펀드2와 G2 벤처 파트너스가 주도한 1억800만달러 규모의 시리즈 C 라운드를 포함해 누적 2억달러 이상의 투자를 유치했다. 주요 고객사로는 BMW, 시스코, 아카마이, 삼성전자 등이 있다.
캐스트AI에 따르면 삼성전자는 캐스트AI를 통해 아마존 EKS의 인프라 최적화를 자동화했으며, 운영 부담을 줄이는 동시에 애플리케이션 효율성과 비용 관리를 실시간으로 개선하고 있다. 캐스트AI의 2021년 시리즈 A 투자에 삼성전자 넥스트(NEXT. 삼성전자 산하 벤처투자, 스타트업 육성 전문 조직)가 참여한 바 있다.
출처 : 디일렉(THE ELEC)(https://www.thelec.kr)
