클라우드네트웍스가 글로벌 응용프로그램 인터페이스(API)·인공지능(AI) 연결성 기업 콩(Kong)과 파트너십을 체결하고 콩 AI 게이트웨이의 국내 공급을 시작한다고 18일 밝혔다.
콩 AI 게이트웨이는 기업의 AI 트래픽을 단일 관문에서 통합 관리하는 AI 게이트웨이다. 이번 파트너십은 생성형 AI와 거대언어모델(LLM) 활용이 실제 업무로 확산되면서 AI 호출 통제와 거버넌스 수요가 커지는 가운데, 국내 기업의 AI 운영 체계 구축을 지원하기 위해 추진됐다.
기업의 AI 도입이 실험 단계에서 서비스 운영 단계로 들어서면서, AI 호출을 어떻게 통제하고 관측할 것인지가 새로운 운영 과제로 떠오르고 있다.
LLM 호출 역시 API 형태로 이뤄지기 때문에 인증, 보안, 모니터링이 가능한 중앙 관문의 필요성이 커지고 있다. 여기에 여러 LLM 공급자, 검색증강생성(RAG), 모델 컨텍스트 프로토콜(MCP), 에이전트 간 호출이 얽히면서 기존 API 게이트웨이만으로는 AI 트래픽을 일관되게 관리하기 어려운 환경이 형성되고 있다.
콩은 API 및 AI 연결성 기술을 개발하는 글로벌 기업으로, 오픈소스로 널리 사용되는 콩 게이트웨이 기반으로 API 관리 플랫폼을 제공해 왔다. 최근에는 API 관리 영역에서 LLM, MCP, 에이전트 간(A2A) 트래픽까지 관리 범위를 넓히고 있으며, 콩 AI 게이트웨이가 이 가운데 AI 트래픽 관리를 담당한다.
콩 AI 게이트웨이는 기존 API 게이트웨이 개념을 확장해 LLM과 생성형 AI API 호출을 중앙에서 제어, 보안, 관측할 수 있도록 설계됐다. 콩 게이트웨이와 동일한 런타임을 기반으로 하며, 여러 LLM 공급자의 호출을 단일 표준 인터페이스로 관리한다.
주요 기능 측면에서 콩 AI 게이트웨이는 인증·인가, 사용량 제한, 감사 로그 등 기존 API 보안 정책을 AI 호출에도 동일하게 적용한다. 또한 개인식별정보(PII) 제거, 프롬프트 통제, 의미 기반 캐싱, 트래픽 관측 등 AI 특화 기능을 게이트웨이 계층에서 제공해, 애플리케이션마다 개별로 구현하던 보안·정책을 공통 운영 계층으로 표준화할 수 있도록 지원한다.
AI 활용이 서비스 운영 단계로 접어들수록 기업은 모델 성능뿐 아니라 호출 경로에 대한 통제, 비용 관리, 감사 체계를 함께 설계해야 하는 상황에 놓이고 있다. 클라우드네트웍스는 콩 AI 게이트웨이의 국내 공급과 함께 고객 환경에 맞는 아키텍처 설계, 구축, 연계, 기술 지원을 제공한다. 이를 통해 게이트웨이 계층의 통제 체계를 기존 AI 운영 환경과 연결하고, AI 거버넌스 포트폴리오를 확장한다는 방침이다.
정흥균 클라우드네트웍스 대표이사는 "생성형 AI가 실제 업무에 적용되면서 기업은 모델 성능뿐 아니라 AI 호출을 어떻게 통제하고 관측할지 함께 고려해야 하는 상황에 놓여 있다"며 "클라우드네트웍스는 AI 운영 환경 구축 경험을 바탕으로 콩 AI 게이트웨이를 공급하며 국내 기업의 AI 거버넌스 체계를 지원하겠다"고 말했다.
데이비드 칼리스(David Carless) 콩 아시아태평양·인도·일본 지역 부사장은 “올해는 금융, 제조, 유통 등 국내 주요 기업을 중심으로 콩 AI 게이트웨이 도입이 본격화되는 중요한 시점이다”며 “클라우드네트웍스의 성숙한 AI 기술 역량과 폭넓은 사업 기반을 바탕으로 기업들이 안정적인 AI 거버넌스 체계를 구축할 수 있도록 협력을 더욱 강화해 나갈 것이며, 콩도 이를 지속적으로 지원하겠다”고 말했다.
출처 : IT조선(https://it.chosun.com)
