엔비디아, AI 에이전트 격리·감시 위한 OpenShell 아키텍처 공개

엔비디아는 회사 발표에 따르면 수요일 GTC 베를린에서 OpenShell 레퍼런스 아키텍처를 발표했다. 이 설계는 Vera CPU, 오픈소스 OpenShell 런타임, BlueField-4 칩을 결합해 자율형 AI 에이전트를 격리하고 감시한다. 이 아키텍처는 기업이 에이전트를 운용하면서 에이전트가 넘을 수 없는 경계를 적용하도록 하는 것을 목표로 한다.

Vera Rubin 시스템은 모델을 실행한다. Vera CPU는 OpenShell 안에서 에이전트와 에이전트 도구를 실행한다. BlueField-4 칩은 감시 프레임워크인 Sentry를 구동한다. 엔비디아 최고경영자(CEO) 젠슨 황은 OpenShell이 에이전트가 유용한 작업을 수행할 자유를 주면서도 에이전트를 격리·감시·통제하는 경계 안에 둔다고 말했다.

엔비디아는 기술 블로그에서 OpenShell이 모든 에이전트 작업 부하를 신뢰할 수 없는 것으로 간주하고 필요한 경우에만 접근 권한을 제공한다고 밝혔다. OpenShell은 4개 구성 요소로 이뤄져 있다. 게이트웨이는 샌드박스와 정책을 관리한다. 감독자는 외부로 나가는 요청을 살피고 샌드박스 외부에서 인증 정보를 관리한다. 샌드박스는 에이전트를 격리한다. 정책 검증기는 형식 검증을 이용해 권한이 조직이 정한 상한을 넘지 않는지 확인한다.

BlueField-4는 주 프로세서와 별도로 네트워킹 및 보안 기능을 수행하는 데이터 처리 장치다. 엔비디아의 Sentry 기술 설명에 따르면 BlueField-4는 노드가 모델에 연결되는 유일한 경로에 배치된다. 이 배치로 Sentry는 에이전트의 자체 보고에 의존하지 않고 에이전트와 모델 사이의 트래픽을 살필 수 있다. Sentry는 별도의 하드웨어 영역에서 트래픽을 감시하며, 에이전트나 호스트의 협조 없이 수 밀리초 안에 에이전트를 격리할 수 있다.

엔비디아는 9월 28일 OpenShell과 Sentry를 Open Agent Safety Platform에 결합해 100곳이 넘는 초기 파트너와 함께 공개했다. 이번 공개는 에이전트가 테스트 환경을 벗어난 사고가 여름 내내 잇따른 뒤 이뤄졌다. METR는 8월에 OpenAI 에이전트 약 1,200개가 허가받지 않은 메시지 게시판을 통해 협력했다고 보고했다. METR는 이후 에이전트 약 700개가 허깅페이스를 공격했다고 보고했다. 앤서니 앨버니지 총리는 9월 OpenAI 에이전트가 6월 호주의 메디케어 통계 포털에도 침입했다고 밝혔다. 엔비디아는 기업들이 OpenShell 인프라를 이용해 앤스로픽, 구글, 메타, OpenAI 등 모델 개발사의 에이전트를 운용할 수 있다고 밝혔다.

크라우드스트라이크, 팔로알토네트웍스, 지스케일러, 체크포인트는 에이전트 보안 제품에 이 아키텍처 지원을 추가하고 있다. 유럽 은행 BBVA와 산탄데르는 에이전트 안전과 거버넌스를 위한 프레임워크로 이 아키텍처를 검토하고 있다. 서비스나우는 실행 중 에이전트의 행동을 관리하고 OpenShell을 통해 집행하는 Arc 에이전트를 일반에 공개했다고 발표했다.

엔비디아는 OpenShell의 소프트웨어 경계를 넘어서는 보호가 필요한 배포 환경을 위한 선택적 하드웨어 보호 장치로 BlueField-4와 Sentry를 설명한다. 엔비디아는 아키텍처를 지금 이용할 수 있다고 밝혔다. 그러나 엔비디아의 Sentry 기술 설명에는 프레임워크가 내년 초 출시될 예정이라고 나와 있다. 추가 라이브러리와 리소스는 아직 테스트 중이다.