LLM·MCP·AI 에이전트 호출 단일 관문에서 통제·관측
인증·사용량 제한·감사 로그 적용…AI 거버넌스 구축 지원
클라우드네트웍스(대표 정흥균)가 글로벌 API·AI 연결성 기업 Kong(콩)과 파트너십을 체결하고 ‘Kong AI Gateway’의 국내 공급에 나선다고 밝혔다.
Kong AI Gateway는 기업에서 발생하는 LLM(대규모언어모델), MCP(Model Context Protocol), AI 에이전트 등 다양한 AI 호출을 하나의 게이트웨이에서 통합 관리할 수 있도록 지원하는 솔루션이다.
최근 기업의 생성형 AI 활용이 테스트 단계를 넘어 실제 서비스와 업무 환경으로 확대되면서 AI 호출에 대한 인증과 접근통제, 사용량 관리, 모니터링, 감사 체계를 어떻게 구축할지가 새로운 과제로 떠오르고 있다.
특히 여러 LLM과 RAG(검색증강생성), MCP, AI 에이전트가 서로 연계되는 환경에서는 호출 경로가 복잡해지면서 기존 API 관리 방식만으로 일관된 보안 정책과 운영 체계를 적용하기 어려워지고 있다.
LLM·MCP·에이전트 트래픽까지 게이트웨이에서 관리
Kong은 오픈소스 Kong Gateway를 기반으로 API 관리 플랫폼을 제공해 온 기업이다. 최근에는 기존 API 관리 영역을 LLM과 MCP, 에이전트 간 통신(A2A)까지 확대하고 있다.
Kong AI Gateway는 기존 API 게이트웨이 개념을 AI 환경으로 확장한 제품으로, LLM과 생성형 AI API 호출을 중앙에서 제어하고 보안·관측할 수 있도록 설계됐다.
여러 LLM 공급자에 대한 호출을 단일 인터페이스에서 관리할 수 있으며, 기존 Kong Gateway와 동일한 런타임을 기반으로 운영된다.
인증·인가와 사용량 제한, 감사 로그 등 기존 API 보안 정책을 AI 호출에도 적용할 수 있다. 개인정보(PII) 제거, 프롬프트 통제, 의미 기반 캐싱, AI 트래픽 관측 등 AI 환경에 특화된 기능도 제공한다.
이를 통해 각 애플리케이션에서 별도로 구현하던 AI 보안과 운영 정책을 게이트웨이 계층에서 공통으로 적용할 수 있다는 것이 회사 측 설명이다.
클라우드네트웍스, 구축·연계·기술지원까지 제공
클라우드네트웍스는 Kong AI Gateway 공급과 함께 국내 고객 환경에 맞춘 아키텍처 설계와 구축, 기존 시스템 연계, 기술 지원을 제공할 계획이다.
기업의 AI 활용이 확대될수록 모델 자체의 성능뿐 아니라 어떤 사용자와 시스템이 어떤 모델을 호출했는지 파악하고, 사용량과 비용을 관리하며, 정책 위반 여부를 추적할 수 있는 통제 체계의 중요성도 커지고 있다.
클라우드네트웍스는 이번 파트너십을 기반으로 기존 AI 운영 환경과 게이트웨이 계층의 통제 기능을 연계하고 AI 거버넌스 관련 사업을 확대한다는 방침이다.
정흥균 클라우드네트웍스 대표는 “생성형 AI가 실제 업무에 적용되면서 기업은 모델 성능뿐 아니라 AI 호출을 어떻게 통제하고 관측할지도 함께 고려해야 한다”며 “AI 운영 환경 구축 경험을 바탕으로 Kong AI Gateway를 공급해 국내 기업의 AI 거버넌스 체계 구축을 지원하겠다”고 말했다.
데이비드 칼리스(David Carless) Kong 아시아태평양·인도·일본 지역 부사장은 “금융, 제조, 유통 등 국내 주요 기업을 중심으로 Kong AI Gateway 도입이 본격화되는 시점”이라며 “클라우드네트웍스와 협력을 강화해 기업들이 안정적인 AI 거버넌스 체계를 구축할 수 있도록 지원하겠다”고 밝혔다.
출처 : 데일리시큐(https://www.dailysecu.com)
