news.inema.pro

news.inema.pro / Todas as notícias

projeto Publicada em

Agente Blindado: 5 barreiras contra ordens escondidas

Projeto com cinco barreiras para proteger um agente de IA contra ordens escondidas.

Agente Blindado é um kit gratuito para quem usa agentes de inteligência artificial com acesso a arquivos, e-mail ou sistemas. Ele reúne cinco barreiras contra a injeção de prompt: ordens escondidas em textos de fora, como e-mails, páginas e PDFs, que tentam fazer o agente agir. O kit inclui também um instalador e dez ataques inofensivos para testar o agente.

As barreiras ajudam a limitar o que o agente pode fazer, pedir aprovação antes de ações delicadas e separar quem planeja de quem executa. O projeto informa que, nos testes descritos, Sonnet e Haiku identificaram os dez ataques mesmo sem as barreiras. Elas servem como proteção adicional para situações em que um ataque seja mais convincente, o modelo seja menor ou aberto, ou o agente tenha acesso a recursos importantes.

Para começar, o kit pede Python 3.10 ou superior; algumas barreiras e o teste com modelo real também exigem Claude Code. O guia recomenda baixar o repositório, conferir as travas e começar pelo instalador, escolhendo um perfil de permissão. Vale observar que os testes não garantem segurança: uma barreira não consegue reconhecer se uma afirmação no texto é verdadeira, então é preciso ler e aprovar ações que envolvam dinheiro ou não tenham volta.

Ler na fonte →

O link abre o conteúdo original; alguns exigem assinatura.

Para ir além no INEMA.CLUB

Mais notícias

  1. 15/11
    Robôs impressos: escolha e monte um dino, uma capivara ou um cuboProjeto para escolher e montar um robô impresso em 3D: dino, capivara, cubo ou cubo com rodas.
  2. 15/11
    Painel Jarvis mostra o estado real da máquina quando você pergunta o que falhouO painel-jarvis responde ao assistente “o que falhou hoje?” mostrando o estado real da máquina.
  3. 14/11
    Robôs impressos: imprima seu robô de estimação em 3DProjeto com três corpos de robô para impressão 3D, com espaços definidos para motores e placas; esta fase inclui apenas o corpo e os encaixes.
  4. 14/11
    Relógio único sincroniza o som dos seus vídeos sem ajuste manualKit grátis que sincroniza o som de vídeos feitos com código com o quadro certo da imagem.
  5. 14/11
    Fábrica de reels ASMR cria 3 vídeos satisfatórios por semana para você aprovarKit grátis que gera 3 reels satisfatórios por semana sem gravação e só publica os que você aprova.