클라우드네트웍스는 글로벌 API 및 AI 연결성 전문 기업 Kong(콩)과 파트너십을 체결하고 ‘Kong AI Gateway’의 국내 공급을 시작한다고 18일 밝혔다.

이번 파트너십은 기업 내 생성형 AI와 거대언어모델(LLM) 활용이 확대됨에 따라 증가하는 AI 트래픽 통제 및 거버넌스 수요에 대응하기 위해 추진됐다.

기업의 AI 도입이 서비스 운영 단계로 진입하면서 LLM 공급자, 검색증강생성(RAG), 모델 컨텍스트 프로토콜(MCP), 에이전트 간(A2A) 트래픽이 복잡해지는 추세다. 이에 따라 개별 애플리케이션 수준을 넘어 일관된 인증, 보안 정책 적용 및 비용·모니터링 관리가 가능한 중앙 관리 관문의 필요성이 부각되고 있다.

Kong AI Gateway는 기존 오픈소스 기반 Kong Gateway의 런타임을 바탕으로 생성형 AI 및 LLM API 호출을 중앙에서 통합 제어·보안·관측하도록 설계됐다. 여러 LLM 공급자의 호출을 단일 표준 인터페이스로 관리할 수 있는 것이 특징이다.

주요 기능으로는 기존 API 수준의 인증·인가, 사용량 제한, 감사 로그는 물론 개인식별정보(PII) 마스킹, 프롬프트 통제, 시맨틱(의미 기반) 캐싱, 트래픽 관측 등 AI 특화 기능을 게이트웨이 계층에서 제공한다. 이를 통해 기업은 애플리케이션마다 개별 구축하던 보안 정책을 공통 계층으로 표준화할 수 있다.

클라우드네트웍스는 솔루션 공급과 함께 고객 환경에 맞춘 아키텍처 설계, 구축, 시스템 연계, 기술 지원을 종합 제공해 AI 거버넌스 포트폴리오를 확장할 계획이다.

정흥균 클라우드네트웍스 대표이사는 “생성형 AI의 실무 도입에 맞춰 호출 통제와 관측 체계 구축이 중요해졌다”며 “자사의 구축 경험을 바탕으로 Kong AI Gateway를 공급해 국내 기업의 안정적인 AI 거버넌스 체계를 지원하겠다”고 말했다.

데이비드 칼리스(David Carless) Kong 아태·인도·일본 지역 부사장은 “금융, 제조, 유통 등 주요 산업군을 중심으로 AI 게이트웨이 도입이 활성화되는 시점”이라며 “클라우드네트웍스와의 협력을 통해 국내 기업들이 안정적인 AI 거버넌스 체계를 마련할 수 있도록 지원을 강화해 나갈 것”이라고 전했다.

출처 : 서울경제TV(https://www.sentv.co.kr/)