VMware Private AI Cloud 공개…모델을 데이터 옆으로 옮긴다

Broadcom이 2026년 8월 31일 미국 라스베이거스에서 열린 VMware Explore 2026에서 VMware Private AI Cloud를 공개했다. Broadcom의 공식 발표 는 데이터를 외부 모델로 보내는 대신 모델을 기업 데이터가 있는 사설 클라우드로 가져와 추론 워크로드와 AI 에이전트, 기존 애플리케이션을 함께 운영하는 플랫폼이라고 설명한다.

같은 날 공개된 제품 구상은 VMware Cloud Foundation(VCF) 9, VMware AI Factory, 검증된 AI 모델, Tanzu의 데이터·에이전트 서비스, AgentMinder와 보안 기능을 하나의 운영 체계로 묶는다. SiliconANGLE의 현장 보도 에 따르면 AgentMinder는 발표 즉시 일반 제공됐지만 새 Tanzu 기능은 2026년 가을 일반 제공 예정이며, vDefend와 Avi Load Balancer의 일부 강화 기능도 향후 제공 항목이다. 따라서 이번 발표는 모든 구성 요소가 동시에 출시된 단일 제품이라기보다 현재 이용 가능한 기반과 순차적으로 추가될 기능을 아우르는 제품 전략에 가깝다.

VCF 위에 인프라부터 에이전트 통제까지 쌓는다

VMware Private AI Cloud의 기반은 VCF 9다. 가상머신과 컨테이너, 추론 작업, 에이전트형 애플리케이션을 공통 사설 클라우드 운영 모델에 올리고, 그 위에 AI 인프라 준비와 모델 제공, 데이터 가공, 에이전트 실행 및 보안을 배치하는 구조다.

VMware AI Factory는 서버와 가속기, AI 소프트웨어와 모델을 운영 환경에 연결한다. AI용 인프라 프로비저닝과 배포 후 운영을 자동화하고, 검증된 모델을 사내 이용자에게 서비스 형태로 제공하도록 설계됐다. 여러 제조사의 CPU·GPU·가속기와 서버를 선택할 수 있다는 점도 특정 하드웨어에 종속되지 않으려는 기업을 겨냥한다.

구성 요소의 역할은 다음과 같이 구분된다.

• VCF 9: 컴퓨팅·스토리지·네트워크와 가상머신, 컨테이너, AI 워크로드를 운영하는 공통 기반이다.
• VMware AI Factory: AI 인프라 준비와 모델 배포, 배포 후 운영을 자동화하고 검증된 모델을 서비스로 제공한다.
• Tanzu Platform: 정형·비정형·멀티모달 자료를 처리해 접근 정책과 계보가 붙은 데이터 제품으로 만들고, 에이전트의 개발·격리 실행 환경을 제공한다.
• AgentMinder: 에이전트의 신원과 임무, 승인된 도구와 자원을 기준으로 실행 요청을 통제하고 감사 기록을 남긴다.
• vDefend·Avi Load Balancer: 에이전트형 워크로드 주변의 네트워크 접근과 도구 오용, 비인가 AI 사용, 데이터 유출 위험을 다루는 보안 계층이다.

모델 선택권은 넓히고 데이터 이동 경로는 줄인다

이 제품의 중심은 모델 크기가 아니라 배치 위치다. 계약서, 설계 자료, 고객 기록처럼 외부 전송이 부담스러운 원본 데이터를 기업 환경에 남겨 두고 그 가까이에서 추론을 실행한다. 데이터 주권이나 산업별 규제가 중요한 조직은 외부 모델 사업자로 향하는 전송 경로를 줄이고 기존 접근 통제와 감사 절차를 적용할 수 있다.

VMware AI Factory는 오픈소스와 상용 모델을 폭넓게 선택하고, 한 번 배치한 모델을 여러 조직이 공유하면서 각 조직의 데이터를 분리하는 멀티테넌트 운영을 지향한다. 모든 업무에 가장 큰 범용 모델을 호출하기보다 정확도, 지연시간, 가속기 사용량과 데이터 민감도에 맞춰 모델을 고르는 방식이다.

다만 ‘모델을 데이터 옆으로 옮긴다’는 표현이 데이터 처리를 없앤다는 뜻은 아니다. 모델이 사용할 자료를 선별하고 갱신하며 권한과 계보를 부여하는 작업은 여전히 필요하다. Tanzu의 AI용 데이터 기반은 이 과정을 기업 환경 안에서 수행하고, 승인된 데이터 제품을 에이전트와 개발자가 발견해 사용하도록 연결한다.

AgentMinder가 에이전트의 행동 경계를 맡는다

모델을 사내에 배치해도 에이전트가 API와 업무 시스템, 외부 도구를 호출하면서 생기는 위험은 남는다. AgentMinder는 에이전트를 기업용 신원으로 취급하고 소유자, 선언된 임무와 의도, 승인된 도구, 허가된 자원을 기준으로 각 요청을 검사한다. 정책에 따라 요청을 허용하거나 거부하고, 다른 경로로 보내거나 민감한 내용을 가릴 수 있는 독립 통제 계층이다.

Tanzu의 에이전트 실행 환경은 기본 거부 방식을 채택한다. 명시적으로 권한을 부여하지 않으면 에이전트가 API, 네트워크, MCP 서버나 인터넷에 접근할 수 없으며, 자격 증명은 에이전트가 직접 볼 수 없는 별도 저장소에 둔다. AgentMinder가 런타임과 분리된 신원·정책·감사를 맡는다면 Tanzu는 애플리케이션 개발, 격리 실행과 승인된 모델·도구·데이터의 공급을 담당한다.

vDefend와 Avi Load Balancer는 그 바깥의 방어 계층을 보완한다. 발표된 방향에는 VCF 트래픽에서 에이전트와 모델, MCP 서버, 데이터 저장소와 도구를 찾아내고, 비인가 AI 활동이나 도구 오용, 파일 주입과 민감정보 유출을 탐지·차단하는 기능이 포함됐다. 다만 이 가운데 향후 제공으로 표시된 기능은 실제 출시 뒤 지원 범위와 운영 성능을 다시 확인해야 한다.

토큰 비용을 보이게 하지만 온프레미스가 항상 싸지는 않다

Broadcom이 제시한 비용 통제 수단은 하드웨어 자본비용, 운영 복잡성, 토큰 경제성을 함께 다룬다. VCF의 NVMe 메모리 계층화와 스토리지 중복 제거로 자원 사용을 낮추고, 토큰 모니터링과 GPU·vGPU 추적, AI 지표 대시보드로 소비량을 관찰하는 방식이다. 공용 모델 API의 호출량별 청구 대신 기업이 확보한 인프라 용량과 이용률을 중심으로 예산을 관리하려는 접근이다.

VMware Explore 인터뷰 보도 에서 Broadcom의 Krish Prasad는 퍼블릭 클라우드의 토큰 비용과 외부 모델에 지식재산 및 데이터를 노출할 우려가 기업이 AI 워크로드를 온프레미스로 되돌리는 배경이라고 말했다. 이는 온프레미스의 보편적인 비용 우위를 입증한 독립 벤치마크가 아니라 공급자가 설명한 고객 수요와 제품 전략의 근거다.

비용 예측 가능성은 비용 절감과 같은 말이 아니다. 사내 배치에는 가속기 구매나 임대, 전력과 냉각, 용량 계획, 모델 업데이트, 보안 패치와 전문 운영 인력이 필요하다. 사용량이 꾸준하고 여러 부서가 모델을 공유하면 고정 자원의 활용률을 높일 수 있지만, 요청이 드물거나 수요 변동이 큰 작업은 퍼블릭 서비스의 탄력성과 종량제가 더 합리적일 수 있다. 이번 발표에는 VMware Private AI Cloud 전체 가격이나 실제 고객 환경의 총소유비용 비교가 포함되지 않았다.

퍼블릭 AI와의 경계는 데이터·수요·운영 책임에서 갈린다

사내 배치에 상대적으로 잘 맞는 대상은 민감한 기업 자료를 반복적으로 조회하는 추론, 내부 지식에 근거한 검색·요약, 접근 권한을 세밀하게 나눠야 하는 에이전트, 처리량과 지연시간 요구가 비교적 일정한 업무다. 기존 VCF와 보안·감사 체계를 운용하는 조직이라면 전통적 애플리케이션과 AI를 같은 관리 기반에 둘 수 있다는 이점도 있다.

반면 단기 실험, 갑자기 커지는 수요, 사내 인프라에서 제공하기 어려운 독점 모델, 여러 지역에 걸친 대규모 서비스는 퍼블릭 AI가 유리할 수 있다. VMware Private AI Cloud는 퍼블릭 클라우드를 전면 대체한다기보다 데이터 통제와 지속적인 추론 비용이 우선인 워크로드를 사설 환경에 배치할 선택지를 넓힌다. 실제 경계는 데이터 등급과 이용 가능한 모델, 예상 처리량, 가속기 용량, 운영 인력을 함께 따져 정해야 한다.

현재 확인된 것은 통합 제품 방향과 주요 구성 요소의 공개, AgentMinder의 일반 제공, 그리고 Tanzu 및 일부 보안 기능의 단계적 출시 계획이다. 한국 시장의 가격과 판매 조건, 혼합 모델·가속기 환경에서의 총소유비용 및 보안 운영 자료는 아직 제시되지 않았다. 앞으로는 예고된 기능의 실제 제공 시점과 지원 범위, 고객 환경에서 확인되는 비용·보안 지표가 제품 전략의 실효성을 가를 전망이다.

함께 읽기:

• Breedr, 소 한 마리마다 데이터 기록…2700만 달러가 몰린 이유