기업 개발 조직에서 AI 코딩 에이전트와 추론 워크로드 사용이 늘어나면서, 사용량이 증가할수록 비용을 예측하고 통제하기 어려워지는 문제가 함께 나타나고 있습니다. 외부 모델 API를 그대로 호출하는 방식에서는 개발자별, 팀별로 발생하는 AI 사용 비용을 사전에 파악하기 어렵고, 작업 성격과 무관하게 동일한 고비용 모델을 사용하는 경우도 많습니다. 여기에 프롬프트와 코드가 외부 모델 제공사로 전달되는 구조에서는 데이터가 조직 경계 밖으로 나가는 데이터 주권 문제도 함께 검토해야 합니다.

캐스트 AI(Cast AI)는 클라우드 네이티브 및 AI 워크로드 자동화 플랫폼 기업으로, 이러한 문제를 다루는 AI 코딩·추론 솔루션을 김치(Kimchi)라는 이름으로 제공합니다. 이 글에서는 김치가 대응하는 과제와 주요 기능을 정리합니다.

☑️ 김치(Kimchi)란 무엇인가

김치(Kimchi)는 오픈소스 모델을 고객 자체 인프라 안에서 실행하면서, 작업별 모델 라우팅과 거버넌스, 비용 통제를 함께 관리할 수 있도록 지원하는 캐스트 AI(Cast AI)의 자율형 멀티모델 코딩 에이전트입니다. 터미널 기반 코딩 에이전트이자 AI 어시스턴트로 동작하며, 캐스트 AI 추론 클라우드에서 서버리스로 실행하거나 고객의 AWS, GCP, Azure, 온프레미스 환경 내부에 배포할 수 있고 완전한 에어갭 환경도 지원합니다.

☑️ AI 코딩 도구 확산이 만든 비용과 데이터 과제

기업들이 AI 코딩 도구를 확대 도입하면서 비용과 데이터 통제라는 두 가지 운영 과제가 함께 부각되고 있습니다. 서버리스 방식으로 외부 모델 API를 호출하는 구조에서는 개발자별, 팀별로 분산된 AI 사용 비용을 사전에 파악하기 어렵고, 기획·추론·코드 생성·테스트처럼 성격이 다른 작업에 동일하게 고비용 모델을 사용하면 비용 효율이 떨어집니다. 또한 프롬프트와 코드가 외부로 전달되는 과정에서 데이터 주권 문제가 발생할 수 있고, 규제가 강한 환경에서는 컴플라이언스 요건 대응도 함께 검토해야 합니다.

김치(Kimchi)는 오픈소스 모델을 고객의 클라우드 계정 내부에서 직접 실행하는 방식으로 이 문제에 접근합니다. 프롬프트와 완성 결과, 코드가 고객의 클라우드 밖으로 나가지 않는 구조이며, 조직 내 모든 코딩 에이전트 요청은 김치 프록시(Kimchi Proxy)를 거쳐 예산과 정책, 필터링이 적용된 뒤 모델에 전달됩니다. 기존에 사용하던 AI 코딩 도구의 엔드포인트를 자동으로 감지해 마이그레이션할 수 있도록 설계되어 있어, 도구 환경을 바꾸지 않고 도입을 검토할 수 있습니다.

☑️ 김치(Kimchi)의 주요 기능 및 활용 포인트

데이터 주권(Data Sovereignty)

오픈소스 모델이 고객의 AWS, GCP, Azure 클라우드 계정 내부에서 실행되며, 프롬프트와 완성 결과, 코드가 외부로 전송되지 않습니다. 데이터가 조직 경계 밖으로 나가지 않아야 하는 규제 환경에서 데이터 주권(Data Sovereignty) 요건 대응에 활용할 수 있는 구조입니다.

거버넌스·가드레일

조직 내 모든 코딩 에이전트 요청은 김치 프록시(Kimchi Proxy)를 통과하며, 예산 제한, PII 필터링, 사용량 모니터링, 승인된 스킬 레지스트리가 모델 호출 이전 단계에서 적용됩니다. 승인되지 않은 코드 병합이나 시크릿 유출, 통제되지 않은 지출을 예방하는 방향으로 설계되어 있습니다.

비용 가시성

개발자별, 팀별, 모델별, 태그별로 AI 사용 비용을 실시간으로 추적할 수 있습니다. 지출 규모를 확장 이전에 예측할 수 있어, 월말 청구서를 받고서야 비용을 확인하는 방식의 운영 리스크를 줄이는 데 활용할 수 있습니다. API 키 단위부터 조직 전체 단위까지 지출 한도를 설정할 수 있으며, 통제를 벗어난 에이전트 반복 실행을 자동으로 종료하는 기능도 제공됩니다.

하이브리드 모델 라우팅

추론이 필요한 작업에는 고성능 모델을, 코드 생성이나 실행 중심 작업에는 상대적으로 비용이 낮은 자체 호스팅 오픈소스 모델을 자동으로 배분합니다. 김치의 오케스트레이션 레이어가 각 작업을 분류해 가장 적합한 모델에 할당하며, 가장 어려운 작업에만 고성능 모델을 사용하는 방식으로 비용을 관리합니다.

간편한 마이그레이션

Claude Code, Cursor, Continue, VS Code, Windsurf 등 기존에 설치된 AI 코딩 도구를 자동으로 감지하고 엔드포인트를 마이그레이션합니다. OpenAI 호환 API를 제공해 코드 변경 없이 전환할 수 있으며, 서버리스 방식으로 시작한 뒤 컴플라이언스나 비용 요건에 따라 자체 호스팅으로 전환하는 방식도 지원합니다.

이 외에도 김치는 깃허브(GitHub), 깃랩(GitLab), 지라(Jira), 컨플루언스(Confluence), 슬랙(Slack), 리니어(Linear), PostgreSQL/MySQL, S3/GCS/Azure, 옥타(Okta), 볼트(Vault), 데이터독(Datadog)·스플렁크(Splunk) 등과의 연동을 지원해, 개발 조직이 이미 사용하고 있는 도구 환경 안에서 AI 코딩 워크플로우를 운영할 수 있도록 구성되어 있습니다.

☑️ 배포 방식과 컴플라이언스

김치(Kimchi)는 고객의 쿠버네티스 클러스터 내부에서 오퍼레이터 형태로 실행되며, 오토스케일링과 하이버네이션, 모니터링은 자동으로 관리됩니다. 아이덴티티, 네트워크, 하위 노드 관리는 고객사가 담당합니다.

컴플라이언스 표기는 공식 자료에 따라 항목에 차이가 있습니다. 김치 엔터프라이즈 페이지에는 SOC 2 Type II 인증 보유, GDPR과 DORA 요건 설계 반영, HIPAA 대응 아키텍처(요청 시 BAA), FedRAMP Moderate 진행 중으로 표기되어 있습니다. 미니맥스 M3 보도자료에는 SOC 2, GDPR, ISO 27001, PCI-DSS 대응으로 표기되어 있습니다. 두 자료의 항목이 다르므로, 도입 검토 시에는 최신 공식 자료를 통해 확인하는 것이 필요합니다.

또한 캐스트 AI(Cast AI)는 김치의 코딩 에이전트 제품인 김치 코딩(Kimchi Coding)이 미니맥스 M3(MiniMax M3)에 접근할 수 있는 최초의 자율형 코딩 에이전트가 되었다고 발표했습니다. M3는 김치 오케스트레이션 레이어의 기본 빌더 모델로 적용되며, 캐스트 AI 발표에 따르면 실제 깃허브 이슈 기반 벤치마크인 SWE-bench Pro에서 59% 점수를 기록했습니다. 이 기능은 얼리 액세스 프로그램을 통해 단계적으로 제공되고 있습니다. 캐스트 AI는 상용 모델만 사용하는 기준과 비교한 자체 섀도 모드 평가에서 김치가 비용을 2.5배 낮추면서 사양 일치율과 테스트 통과율에서 동등하거나 그 이상의 결과를 보였다고 밝혔습니다.

☑️ 자주 묻는 질문

자체 호스팅 방식이 규모가 커지면 정말 더 저렴한가요?

월 AI 추론 비용이 약 3,000~5,000달러 수준에 도달하는 시점부터 자체 호스팅 방식이 비용 효율적으로 전환됩니다. 개발자 50명 이상 규모의 기업 대부분이 이 구간에 해당하며, 그 이하 규모에서는 서버리스 방식이 더 유리합니다.

오픈소스 모델과 상용 모델의 품질 차이는 어떤가요?

코드 생성, 리팩터링, 테스트 작성, 임베딩과 같은 실행 중심 작업에서는 오픈소스 모델이 실제 업무 환경에서 상용 모델과 동등하거나 그 이상의 성능을 보입니다. 기획이나 복잡한 추론이 필요한 작업에서는 하이브리드 라우팅을 통해 상용 모델을 함께 사용할 수 있습니다.

어떤 컴플라이언스 프레임워크를 지원하나요?

SOC 2 Type II 인증을 보유하고 있으며, GDPR과 DORA 요건은 설계 단계에서 반영되어 있습니다. HIPAA 대응 아키텍처는 요청 시 BAA를 통해 지원되고, FedRAMP Moderate 인증은 진행 중입니다. 고객별 개별 감사도 지원합니다.

운영 부담은 어느 정도인가요?

김치는 고객 쿠버네티스 클러스터 내부에서 오퍼레이터 형태로 실행되며, 오토스케일링과 하이버네이션, 모니터링은 자동으로 관리됩니다. 아이덴티티, 네트워크, 하위 노드 관리는 고객사가 담당하며, 대부분의 고객사가 운영에 월 1 SRE 근무일(SRE-day) 미만을 사용합니다.

에어갭(폐쇄망) 환경도 지원하나요?

폴백 모델을 포함한 모든 모델이 고객 인프라 내부에서 실행되는 완전한 에어갭 환경을 지원합니다. 외부 호출이나 원격 측정, 고객 승인 없는 모델 업데이트가 발생하지 않으며, 서명된 단일 번들 형태로 배포할 수 있습니다.

서버리스에서 자체 호스팅으로 어떻게 전환하나요?

기본 URL(base URL)을 자체 도메인으로 변경하는 설정만 조정하면 되며, API와 SDK, 코드는 동일하게 유지됩니다.

☑️ 마무리

김치(Kimchi)는 AI 코딩과 추론을 고객의 클라우드 계정 내부에서 실행하면서, 모델 라우팅과 거버넌스, 비용 관리를 함께 지원하는 캐스트 AI(Cast AI)의 코딩 에이전트입니다. 데이터 주권과 비용 통제, 컴플라이언스 대응이 함께 필요한 조직이라면 도입 검토 과정에서 참고할 수 있는 구조입니다.

클라우드네트웍스는 캐스트 AI(Cast AI)의 국내 파트너로서 고객 환경에 맞는 도입 검토를 지원하고 있으며, 서버리스와 자체 호스팅 중 적합한 배포 방식, 데이터 주권 요건, 비용 구조, 기존 AI 코딩 도구와의 연동 방향을 함께 검토할 수 있습니다. 도입 방향이 궁금하시다면 클라우드네트웍스에 문의해 주시기 바랍니다.

▶ Cast AI 자세히보기

[출처 : Cast AI, "Kimchi.dev - Enterprise AI coding and inference", Cast AI, "Cast AI's Kimchi Coding Becomes the First Autonomous Coding Agent to Offer MiniMax M3, Delivering Frontier Open-Weight Performance at a Fraction of the Cost"]