LLM·MCP·에이전트 호출 통합 관리 ··· 인증·사용량 제한·감사 로그 적용
고객 환경 맞춤 구축·연계·기술지원 제공 ··· AI 거버넌스 포트폴리오 확대
클라우드네트웍스(대표 정흥균)가 글로벌 API·AI 연결성 기업 콩(Kong)과 파트너십을 체결하고 ‘콩 AI 게이트웨이(Kong AI Gateway)’의 국내 공급을 시작한다고 18일 밝혔다.
콩 AI 게이트웨이는 기업의 AI 트래픽을 단일 관문에서 통합 관리하는 AI 게이트웨이다. 이번 파트너십은 생성형 AI와 LLM 활용이 실제 업무로 확산되면서 AI 호출에 대한 통제와 거버넌스 수요가 커지는 가운데 국내 기업의 AI 운영 체계 구축을 지원하기 위해 추진됐다.
기업의 AI 도입이 실험 단계에서 서비스 운영 단계로 들어서면서 AI 호출을 어떻게 통제하고 관측할 것인지가 새로운 운영 과제로 떠오르고 있다. LLM 호출 역시 API 형태로 이뤄지는 만큼 인증과 보안, 모니터링이 가능한 중앙 관문의 필요성이 커지고 있다.
여기에 여러 LLM 공급자와 RAG, MCP, 에이전트 간 호출이 복잡하게 얽히면서 기존 API 게이트웨이만으로 AI 트래픽을 일관되게 관리하기 어려운 환경이 형성되고 있다.
콩은 API 및 AI 연결성 기술을 개발하는 글로벌 기업으로, 오픈소스로 활용되는 ‘콩 게이트웨이’를 기반으로 API 관리 플랫폼을 제공해 왔다. 최근에는 기존 API 관리 영역에서 LLM과 MCP, 에이전트 간(A2A) 트래픽으로 관리 범위를 확대하고 있으며, 콩 AI 게이트웨이가 AI 트래픽 관리를 담당한다.
콩 AI 게이트웨이는 기존 API 게이트웨이 개념을 확장해 LLM과 생성형 AI API 호출을 중앙에서 제어·보안·관측할 수 있도록 설계됐다. 콩 게이트웨이와 동일한 런타임을 기반으로 여러 LLM 공급자의 호출을 단일 표준 인터페이스에서 관리한다.
주요 기능으로는 인증·인가와 사용량 제한, 감사 로그 등 기존 API 보안 정책을 AI 호출에도 동일하게 적용한다. 개인정보(PII) 제거와 프롬프트 통제, 의미 기반 캐싱, 트래픽 관측 등 AI 특화 기능도 게이트웨이 계층에서 제공한다.
이를 통해 애플리케이션별로 개별 구현하던 보안과 정책을 공통 운영 계층으로 표준화할 수 있도록 지원한다.
AI 활용이 서비스 운영 단계로 확대될수록 기업은 모델 성능뿐 아니라 호출 경로에 대한 통제와 비용 관리, 감사 체계를 함께 설계해야 한다.
클라우드네트웍스는 콩 AI 게이트웨이의 국내 공급과 함께 고객 환경에 맞는 아키텍처 설계와 구축, 연계, 기술지원을 제공한다. 이를 통해 게이트웨이 계층의 통제 체계를 기존 AI 운영 환경과 연결하고 AI 거버넌스 포트폴리오를 확대한다는 방침이다.
정흥균 클라우드네트웍스 대표는 “생성형 AI가 실제 업무에 적용되면서 기업은 모델 성능뿐 아니라 AI 호출을 어떻게 통제하고 관측할지 함께 고려해야 하는 상황에 놓여 있다”며 “AI 운영 환경 구축 경험을 바탕으로 콩 AI 게이트웨이를 공급하며 국내 기업의 AI 거버넌스 체계를 지원하겠다”고 말했다.
데이비드 칼리스(David Carless) 콩 아시아태평양·인도·일본 지역 부사장은 “올해는 금융과 제조, 유통 등 국내 주요 기업을 중심으로 콩 AI 게이트웨이 도입이 본격화되는 중요한 시점”이라며 “클라우드네트웍스의 AI 기술 역량과 사업 기반을 바탕으로 기업들이 안정적인 AI 거버넌스 체계를 구축할 수 있도록 협력을 강화하고 콩도 이를 지속적으로 지원할 것”이라고 밝혔다.
출처 : 데이터넷(https://www.datanet.co.kr)
