news.inema.pro

news.inema.pro / Todas as notícias

agentes Publicada em

NVIDIA lança plataforma aberta para controlar agentes de IA

A plataforma permite monitorar, limitar e interromper agentes de IA que ultrapassem as permissões definidas.

A NVIDIA anunciou a Open Agent Safety Platform, uma plataforma de código aberto para acompanhar o que agentes de inteligência artificial fazem. Ela permite definir limites e interromper agentes que tentem agir além das permissões recebidas. Um de seus componentes, o OpenShell, isola cada agente e aplica regras sobre arquivos, redes, ferramentas e outros recursos do sistema.

A proposta é deixar a fiscalização a cargo de uma camada separada do agente. O Sentry, que funciona em hardware BlueField-4, pode monitorar as ações e interromper ou colocar em quarentena um agente que ultrapasse os limites. A plataforma também permite auditar ações e decisões e verificar quem autorizou cada tarefa. Isso ajuda a controlar o acesso, mas não garante que as decisões da IA estejam corretas.

Para começar, vale observar quais permissões cada agente recebe e quais regras são verificadas antes e durante sua execução. A plataforma também prevê integração com Slack para aprovar ou rejeitar pedidos de permissões adicionais. Mesmo com esses controles, é importante acompanhar as decisões do agente: limitar suas ações não significa que ele sempre fará escolhas corretas.

Ler na fonte →

O link abre o conteúdo original; alguns exigem assinatura.

Para ir além no INEMA.CLUB

Mais notícias

  1. 13/11
    refazvideo: transforme um vídeo em inglês em um explicativo em portuguêsApresenta um método com agente de IA que refaz em português, com o avatar do usuário, um vídeo de outro idioma, sem precisar gravar.
  2. 13/11
    Ficha do Enxame: organize os agentes de IA no /swarm do GoogleApresenta o kit Ficha do Enxame para o `/swarm` do Google Antigravity, com vídeos nas versões básica, técnica e de especificação.
  3. 11/11
    Audite seu Claude: encontre instruções antigas que atrapalham no Fable 5.2O projeto ajuda a encontrar instruções antigas que podem atrapalhar o Claude no Fable 5.2.
  4. 10/11
    Painel de Agentes: organize seus agentes em uma só telaO kit grátis reúne agentes, sessões do Claude Code, robôs, timers e filas em uma tela para organizar e conversar com eles no seu computador.
  5. 10/11
    Caixa do Agente: seu agente de IA em uma caixaO kit gratuito roda Claude Code, Codex e DeepSeek Harness em uma caixa Docker descartável.