AI 도입이 빠르게 확산되면서, 기업 보안 담당자들의 고민도 깊어지고 있습니다. 속도를 늦추면 경쟁에서 뒤처지고, 그렇다고 검증 없이 달리다 보면 보안 사고가 터집니다. 문제는 기존 보안 솔루션이 AI 환경에 맞게 설계되지 않았다는 점입니다. 프롬프트 인젝션, 데이터 유출, 모델 조작처럼 AI에 특화된 위협은 기존 도구로는 탐지조차 되지 않습니다.

Cisco AI Defense는 이 간극을 메우기 위해 만들어진 솔루션입니다. AI 자산 탐색부터 취약성 검증, 런타임 보호까지 AI 애플리케이션 전체 라이프사이클을 하나의 체계로 보호합니다. 이번 글에서는 Cisco AI Defense가 어떤 문제를 해결하고, 어떤 방식으로 작동하는지 살펴보겠습니다.

☑️속도, 보안, 안전성: AI 도입 경쟁에서 승리하기

보안 리더로서, 여러분은 광속으로 전개되는 AI 혁명에 직면해 있습니다. AI는 이제 경쟁 우위를 위한 필수 요소가 되었고, 이로 인해 여러분은 미묘한 균형을 유지해야 하는 상황에 놓여 있습니다. 빠르게 움직이지 않으면 뒤처지지만, 그렇다고 보안과 안전성을 희생해서도 안 됩니다.

AI 팀들은 새로운 AI 기반 애플리케이션 배포를 서두르고 있습니다. 그 결과, 여러분의 IT 인프라는 멀티 클라우드, 멀티 모델, 다중 이해관계자 AI 생태계로 진화하고 있으며, 이를 안전하게 보호해야 할 필요성도 함께 커지고 있습니다.

☑️AI 보안에는 새로운 접근 방식이 필요합니다

AI는 기존의 보안 모델을 뒤흔들고 있습니다. 정적인 소프트웨어와 달리, AI는 비결정론적(non-deterministic)인 특성을 가지며, 예상치 못한 동작으로 민감한 데이터를 노출시키거나 유해한 정보를 생성할 수 있습니다. 이러한 변화하는 행동 양식은 데이터 포이즈닝(data poisoning), 모델 조작(model manipulation), 적대적 공격(adversarial attack) 등 AI에 특화된 위협을 만들어내며, 기존 보안 통제 수단으로는 이를 탐지하기 어렵습니다. AI 환경에서는 보안(예: 프롬프트 인젝션 방어), 프라이버시(예: 의료정보[PHI] 유출 방지), 그리고 안전성(예: AI가 자해를 조언하는 상황 방지) 모두가 동등하게 중요합니다. 이처럼 빠르게 변화하는 환경 속에서, 보안 팀이 직면하는 세 가지 핵심 과제가 있습니다.

• 1. 가시성 공백(Visibility gaps): 여러 클라우드 환경 전반에서 운영 중인 모든 AI 애플리케이션, 모델, 데이터셋을 명확하게 파악해야 합니다. 멀티 클라우드 보안의 다른 영역과 마찬가지로, AI 역시 이러한 공유 환경을 모니터링하고 관리하기 위한 전문 서드파티 솔루션을 필요로 합니다.
• 2. AI 모델 및 애플리케이션 취약성(AI model and application vulnerabilities): 컴플라이언스를 유지하고 리스크를 관리하기 위해서는 다양한 안전·보안 위협에 대해 AI 모델과 애플리케이션이 얼마나 취약한지를 지속적으로 평가해야 합니다.
• 3. 새롭게 등장하는 적대적 AI 위협(Emerging adversarial AI threats): AI 시스템은 런타임 애플리케이션을 겨냥한 새로운 공격 벡터(예: 프롬프트 인젝션, 탈옥[jailbreaking])에 취약합니다. 기존 사이버 보안 수단은 이러한 위협을 인식조차 하지 못하는 경우가 많습니다.

Cisco® AI Defense는 이러한 과제들을 선제적으로 해결함으로써 여러분과 보안 팀이 안전하고 보안성 있는 AI 도입을 실현할 수 있도록 지원합니다. 기존 네트워크 가시성 및 실행 제어 기능을 기반으로, AI Defense는 업계가 인정하는 선도적인 AI 및 사이버 보안 기술을 내장하여 AI를 개발하고, 배포하고, 활용하는 전 과정에서 보안, 안전성, 속도를 희생하지 않고도 필요한 감독, 보호, 보안 기능을 제공합니다.

☑️Cisco AI Defense

주요 이점

• · 알고리즘 기반 AI 레드 팀을 통한 모델 및 자산의 실시간 검증으로 안전하고, 프라이버시가 보호되며, 보안성 있는 AI 기반 앱 개발을 지원합니다.
• · 선도적인 위협 인텔리전스와 AI 가드레일로 민감한 데이터 유출 및 고도화된 적대적 위협을 방어합니다.
• · 모든 AI를 위한 단일 관리 플레인과 Cisco Security Cloud와의 원활한 통합으로 가치를 빠르게 실현합니다.

주요 활용 사례

• · Discover(탐색): 클라우드 트래픽(인바운드, 아웃바운드, 이스트-웨스트)의 AI 관련 흐름에 대한 지속적인 가시성을 유지하면서, 모델 및 에이전트와 같은 AI 자산을 자동으로 탐색합니다.
• · Detect(탐지): 오픈소스 및 독점 AI 모델 전체를 사전에 테스트하고 검증하여 취약점을 조기에 발견하고 AI 환경을 지속적으로 보호합니다.
• · Protect(보호): 에이전트 기반 AI 워크플로우 및 검색 증강 생성(RAG) 애플리케이션을 포함한 AI 인프라를 악성 프롬프트, 데이터 유출, 적대적 공격으로부터 보호합니다.

핵심 구성 요소 및 기능

AI를 보호하기 위해서는 기업의 AI 기반 애플리케이션을 종합적으로 보호하는 총체적인 접근 방식이 필요합니다. AI가 기업 전반에 확산되면서 기존의 레거시 솔루션은 위협 행위자가 악용할 수 있는 심각한 보안 공백을 남기고 있습니다. AI 리스크를 완화하려면 보안 전략이 포괄적이고, 확장 가능하며, AI의 고유한 과제를 위해 설계되어야 합니다.

그림에서 보여주듯, 총체적인 AI 보안 및 안전 프로그램은 AI 애플리케이션 개발 전반에 걸쳐 AI 리스크에 대응합니다.

AI 발자국 전반의 보안, 프라이버시, 안전성을 보장하는 통합 AI 보안·프라이버시·안전 솔루션은 가시성 공백, AI 모델 취약성, 그리고 새로운 AI 위협 환경을 모두 다뤄야 합니다. 이를 위해 AI Defense는 주요 활용 사례에 대응하는 AI Cloud Visibility, AI Model and Application Validation, AI Runtime Protection 세 가지 핵심 구성 요소를 제공합니다.

Cisco AI Defense로 기업 AI 보호하기

AI Defense 관리 콘솔은 리스크 대시보드를 통해 다음과 같은 실시간 인사이트를 제공합니다.

• · 기업 AI 애플리케이션의 사용 현황, 맥락(context), 리스크
• · AI 모델, 에이전트 및 관련 자산(예: 리포지토리)의 탐색, 검증, 평가
• · 보안, 안전성, 프라이버시 가드레일을 적용한 런타임 방어

AI 애플리케이션 보호를 위한 탐색·탐지·보호 적용

AI Defense 구성 요소는 AI 애플리케이션의 전체 라이프사이클에 걸쳐 탐색, 탐지, 보호 기능을 원활하게 통합하여 작동합니다.

지속적인 적대적 위협 방어 실현

Cisco의 AI 위협 연구 팀은 MITRE의 인공지능 시스템 적대적 위협 환경(ATLAS), OWASP, NIST 및 기타 프레임워크에 기반한 최신 적대적 공격 데이터를 AI Defense에 지속적으로 업데이트함으로써 탐색·탐지·보호 활동을 지원합니다.

☑️AI를 위한 Cisco 보안

Cisco는 수십 년간 쌓아온 네트워킹 및 사이버 보안 분야의 리더십을 토대로, 신속한 AI 혁신과 강력한 AI 보안을 위한 길을 열어가고 있습니다. Cisco가 다루는 영역은 다음과 같습니다.

• · 기업이 직접 구축한 AI 앱: Cisco AI Defense는 AI 애플리케이션 개발 및 배포 과정에서 발생하는 안전·보안 위험으로부터 기업을 보호합니다.
• · 서드파티 GenAI 앱 또는 섀도우 AI: Cisco는 Cisco Secure Access를 통해 서드파티 AI 애플리케이션이 초래하는 보안 위험으로부터 조직을 보호하며, 위협과 민감한 데이터 유출을 방지하고 승인되지 않은 도구에 대한 직원 접근을 제한합니다.
• · AI 공급망 및 리스크 관리: Cisco는 Cisco Secure Access, Cisco Secure Endpoint, Cisco Email Threat Defense를 통한 네트워크 기반 실행으로, 악성 코드 스캐닝, 소프트웨어 라이선스 컴플라이언스, 지정학적 출처 리스크 등을 검토하여 악성 AI 모델 파일이 기업 내부로 유입되는 것을 방지합니다.

☑️AI의 속도로 안전하게 혁신하기

AI는 빠르게 발전하고 있으며, 여러분의 조직도 보안, 프라이버시, 안전성을 타협하지 않고 그 속도에 발맞추고 싶을 것입니다. Cisco AI Defense는 여러분과 팀이 AI 기반 솔루션을 자신감 있게 제공할 수 있도록 지원하며, 팀이 앞서 나가는 데 필요한 민첩성과 함께 보호 및 적용 범위를 결합합니다. 구체적인 내용은 다음과 같습니다.

• · 보안, 프라이버시, 안전성을 아우르는 탄력적인 적용 범위: Cisco AI Defense를 통해 AI 애플리케이션 라이프사이클 전반에 걸친 엔드투엔드 적용 범위를 확보할 수 있습니다. 자동화된 알고리즘 기반 취약성 테스트와 프로덕션 애플리케이션을 위한 강력한 런타임 가드레일을 결합하여, Cisco Security Cloud의 네트워크 레이어 가시성을 활용해 AI 보안을 원활하게 탐지, 검증, 실행할 수 있습니다.
• · 선제적 위협 환경 대응: AI 위협 전술·기법·절차(TTP) 분야의 글로벌 리더인 Cisco의 AI 위협 인텔리전스 연구 그룹의 지속적인 업데이트를 통해 새롭게 등장하는 AI 위협보다 한 발 앞서 나갈 수 있습니다. AI Defense의 실시간 인텔리전스는 새로운 공격 벡터를 사전에 예측하여, 공격자가 이를 활용하기 전에 방어를 강화할 수 있도록 지원합니다.
• · AI 이니셔티브의 최신성 유지: AI Defense는 NIST AI 리스크 관리 프레임워크(AI-RMF), MITRE 인공지능 시스템 적대적 위협 환경(ATLAS), OWASP 대형 언어 모델(LLM) Top 10 등 진화하는 표준에 부합합니다. 더 나아가, AI Defense 팀은 이러한 프레임워크 개발에 직접 기여하고 있어, 다음 규제 및 산업 요건에도 항상 대비할 수 있습니다.

Cisco AI Defense의 탐색·탐지·보호 활용 사례를 AI 전략에 통합함으로써, 조직이 혁신의 경계를 안전하고, 신속하며, 보안 리스크 태세에 대한 완전한 자신감을 갖고 넓혀나갈 수 있도록 역량을 갖추게 됩니다.

AI 보안은 더 이상 선택이 아닙니다. 기업 환경에 AI가 깊숙이 자리 잡을수록, 이를 안전하게 운영하기 위한 체계도 함께 갖춰져야 합니다. Cisco AI Defense는 탐색·탐지·보호라는 세 가지 축으로 AI 애플리케이션 전반을 커버하며, 속도와 보안 사이의 균형을 실질적으로 지원합니다. 

Cisco AI Defense에 대한 제품 상세 정보와 도입 문의는 클라우드네트웍스로 연락 부탁드립니다. 

▶ Cisco AI Defense 자세히보기