news.inema.pro / Todas as notícias
Agente Blindado: 5 barreiras contra ordens escondidas
Projeto com cinco barreiras para proteger um agente de IA contra ordens escondidas.
Agente Blindado é um kit gratuito para quem usa agentes de inteligência artificial com acesso a arquivos, e-mail ou sistemas. Ele reúne cinco barreiras contra a injeção de prompt: ordens escondidas em textos de fora, como e-mails, páginas e PDFs, que tentam fazer o agente agir. O kit inclui também um instalador e dez ataques inofensivos para testar o agente.
As barreiras ajudam a limitar o que o agente pode fazer, pedir aprovação antes de ações delicadas e separar quem planeja de quem executa. O projeto informa que, nos testes descritos, Sonnet e Haiku identificaram os dez ataques mesmo sem as barreiras. Elas servem como proteção adicional para situações em que um ataque seja mais convincente, o modelo seja menor ou aberto, ou o agente tenha acesso a recursos importantes.
Para começar, o kit pede Python 3.10 ou superior; algumas barreiras e o teste com modelo real também exigem Claude Code. O guia recomenda baixar o repositório, conferir as travas e começar pelo instalador, escolhendo um perfil de permissão. Vale observar que os testes não garantem segurança: uma barreira não consegue reconhecer se uma afirmação no texto é verdadeira, então é preciso ler e aprovar ações que envolvam dinheiro ou não tenham volta.
O link abre o conteúdo original; alguns exigem assinatura.
Para ir além no INEMA.CLUB
Mais notícias
- 15/11Robôs impressos: escolha e monte um dino, uma capivara ou um cuboProjeto para escolher e montar um robô impresso em 3D: dino, capivara, cubo ou cubo com rodas.
- 15/11Painel Jarvis mostra o estado real da máquina quando você pergunta o que falhouO painel-jarvis responde ao assistente “o que falhou hoje?” mostrando o estado real da máquina.
- 14/11Robôs impressos: imprima seu robô de estimação em 3DProjeto com três corpos de robô para impressão 3D, com espaços definidos para motores e placas; esta fase inclui apenas o corpo e os encaixes.
- 14/11Relógio único sincroniza o som dos seus vídeos sem ajuste manualKit grátis que sincroniza o som de vídeos feitos com código com o quadro certo da imagem.
- 14/11Fábrica de reels ASMR cria 3 vídeos satisfatórios por semana para você aprovarKit grátis que gera 3 reels satisfatórios por semana sem gravação e só publica os que você aprova.