news.inema.pro / Todas as notícias
NVIDIA lança plataforma aberta para controlar agentes de IA
A plataforma permite monitorar, limitar e interromper agentes de IA que ultrapassem as permissões definidas.
A NVIDIA anunciou a Open Agent Safety Platform, uma plataforma de código aberto para acompanhar o que agentes de inteligência artificial fazem. Ela permite definir limites e interromper agentes que tentem agir além das permissões recebidas. Um de seus componentes, o OpenShell, isola cada agente e aplica regras sobre arquivos, redes, ferramentas e outros recursos do sistema.
A proposta é deixar a fiscalização a cargo de uma camada separada do agente. O Sentry, que funciona em hardware BlueField-4, pode monitorar as ações e interromper ou colocar em quarentena um agente que ultrapasse os limites. A plataforma também permite auditar ações e decisões e verificar quem autorizou cada tarefa. Isso ajuda a controlar o acesso, mas não garante que as decisões da IA estejam corretas.
Para começar, vale observar quais permissões cada agente recebe e quais regras são verificadas antes e durante sua execução. A plataforma também prevê integração com Slack para aprovar ou rejeitar pedidos de permissões adicionais. Mesmo com esses controles, é importante acompanhar as decisões do agente: limitar suas ações não significa que ele sempre fará escolhas corretas.
O link abre o conteúdo original; alguns exigem assinatura.
Para ir além no INEMA.CLUB
Mais notícias
- 13/11refazvideo: transforme um vídeo em inglês em um explicativo em portuguêsApresenta um método com agente de IA que refaz em português, com o avatar do usuário, um vídeo de outro idioma, sem precisar gravar.
- 13/11Ficha do Enxame: organize os agentes de IA no /swarm do GoogleApresenta o kit Ficha do Enxame para o `/swarm` do Google Antigravity, com vídeos nas versões básica, técnica e de especificação.
- 11/11Audite seu Claude: encontre instruções antigas que atrapalham no Fable 5.2O projeto ajuda a encontrar instruções antigas que podem atrapalhar o Claude no Fable 5.2.
- 10/11Painel de Agentes: organize seus agentes em uma só telaO kit grátis reúne agentes, sessões do Claude Code, robôs, timers e filas em uma tela para organizar e conversar com eles no seu computador.
- 10/11Caixa do Agente: seu agente de IA em uma caixaO kit gratuito roda Claude Code, Codex e DeepSeek Harness em uma caixa Docker descartável.