news.inema.pro

news.inema.pro / Todas las noticias

agentes Publicada el

NVIDIA lanza una plataforma abierta para controlar agentes de IA

La plataforma permite supervisar, limitar y detener agentes de IA que excedan los permisos definidos.

NVIDIA anunció Open Agent Safety Platform, una plataforma de código abierto para seguir lo que hacen los agentes de inteligencia artificial. Permite establecer límites e interrumpir a los agentes que intenten actuar más allá de los permisos recibidos. Uno de sus componentes, OpenShell, aísla a cada agente y aplica reglas sobre archivos, redes, herramientas y otros recursos del sistema.

La propuesta consiste en que una capa separada supervise al agente. Sentry funciona en hardware BlueField-4 y puede vigilar las acciones, interrumpir al agente o ponerlo en cuarentena si supera sus límites. La plataforma también permite auditar acciones y decisiones, y verificar quién autorizó cada tarea. Esto ayuda a controlar el acceso, pero no garantiza que las decisiones de la IA sean correctas.

Para empezar, conviene observar qué permisos recibe cada agente y qué reglas se verifican antes y durante su ejecución. La plataforma también permite integrarse con Slack para aprobar o rechazar solicitudes de permisos adicionales. Incluso con estos controles, es importante revisar las decisiones del agente: limitar sus acciones no significa que siempre vaya a elegir correctamente.

Leer en la fuente →

El enlace abre el contenido original; algunos requieren suscripción.

Ir más allá en INEMA.CLUB

Más noticias

  1. 13/11
    refazvideo: convierte un buen video en inglés en un explicativo en portuguésPresenta un método con un agente de IA que rehace en portugués, con el avatar del usuario, un video en otro idioma sin necesidad de grabar.
  2. 13/11
    Ficha do Enxame: organiza los agentes de IA en /swarm de GooglePresenta el kit Ficha do Enxame para `/swarm` de Google Antigravity, con videos en versiones básica, técnica y de especificación.
  3. 11/11
    Audita tu Claude: encuentra instrucciones antiguas que estorban en Fable 5.2El proyecto ayuda a encontrar instrucciones antiguas que pueden estorbar a Claude en Fable 5.2.
  4. 10/11
    Painel de Agentes: organiza tus agentes en una sola pantallaEl kit gratuito reúne agentes, sesiones de Claude Code, robots, temporizadores y colas en una pantalla para organizarlos y hablar con ellos en tu computadora.
  5. 10/11
    Caixa do Agente: tu agente de IA en una cajaEl kit gratuito ejecuta Claude Code, Codex y DeepSeek Harness en una caja Docker desechable.