news.inema.pro

news.inema.pro / Todas as notícias

projeto Publicada em

ia-privada-3-niveis: IA local e no celular pelo Tailscale

Projeto para usar sua IA local, com ou sem censura, também no celular pelo Tailscale.

O kit IA privada 3 níveis ajuda a rodar um modelo de inteligência artificial aberto no próprio computador. Um script verifica a memória e o espaço disponíveis e indica opções de modelo normal e sem censura que cabem na máquina. Para acessar a IA pelo celular, o Tailscale conecta os aparelhos em uma rede privada, sem abrir uma porta para a internet.

Para quem usa, a principal mudança é poder fazer perguntas sobre exames, contratos, finanças ou registros da empresa sem enviar esses dados ao computador de outra empresa. Também é possível escolher um modelo sem censura quando o modelo normal recusar uma tarefa legítima. O celular pode usar a placa de vídeo do computador de casa; outra opção é manter um modelo menor ligado em um computador alugado, chamado VPS.

Para começar, é preciso Python 3.10 ou superior e o Ollama; para acessar de fora de casa, também é preciso instalar o Tailscale nos aparelhos e entrar na mesma conta. O seletor apenas recomenda modelos e mostra os comandos para baixá-los. Depois, o script de verificação mede a velocidade e confere se o acesso está restrito. A primeira resposta pode demorar enquanto o modelo carrega, e documentos muito longos talvez precisem ser divididos.

Ler na fonte →

O link abre o conteúdo original; alguns exigem assinatura.

Para ir além no INEMA.CLUB

Mais notícias

  1. 15/11
    Robôs impressos: escolha e monte um dino, uma capivara ou um cuboProjeto para escolher e montar um robô impresso em 3D: dino, capivara, cubo ou cubo com rodas.
  2. 15/11
    Painel Jarvis mostra o estado real da máquina quando você pergunta o que falhouO painel-jarvis responde ao assistente “o que falhou hoje?” mostrando o estado real da máquina.
  3. 14/11
    Robôs impressos: imprima seu robô de estimação em 3DProjeto com três corpos de robô para impressão 3D, com espaços definidos para motores e placas; esta fase inclui apenas o corpo e os encaixes.
  4. 14/11
    Relógio único sincroniza o som dos seus vídeos sem ajuste manualKit grátis que sincroniza o som de vídeos feitos com código com o quadro certo da imagem.
  5. 14/11
    Fábrica de reels ASMR cria 3 vídeos satisfatórios por semana para você aprovarKit grátis que gera 3 reels satisfatórios por semana sem gravação e só publica os que você aprova.