news.inema.pro / Todas as notícias

agentes Publicada em 2 outubro 2026

NVIDIA lança plataforma aberta para controlar agentes de IA

A plataforma permite monitorar, limitar e interromper agentes de IA que ultrapassem as permissões definidas.

A NVIDIA anunciou a Open Agent Safety Platform, uma plataforma de código aberto para acompanhar o que agentes de inteligência artificial fazem. Ela permite definir limites e interromper agentes que tentem agir além das permissões recebidas. Um de seus componentes, o OpenShell, isola cada agente e aplica regras sobre arquivos, redes, ferramentas e outros recursos do sistema.

A proposta é deixar a fiscalização a cargo de uma camada separada do agente. O Sentry, que funciona em hardware BlueField-4, pode monitorar as ações e interromper ou colocar em quarentena um agente que ultrapasse os limites. A plataforma também permite auditar ações e decisões e verificar quem autorizou cada tarefa. Isso ajuda a controlar o acesso, mas não garante que as decisões da IA estejam corretas.

Para começar, vale observar quais permissões cada agente recebe e quais regras são verificadas antes e durante sua execução. A plataforma também prevê integração com Slack para aprovar ou rejeitar pedidos de permissões adicionais. Mesmo com esses controles, é importante acompanhar as decisões do agente: limitar suas ações não significa que ele sempre fará escolhas corretas.

Ler na fonte →

O link abre o conteúdo original; alguns exigem assinatura.