Escolha o modelo que lê seus logs e configs

O Cascadia Merge envia sua solicitação para um modelo, e o modelo decide qual ferramenta chamar em seguida. Você escolhe o modelo, e essa escolha define para onde seu texto de prompt vai. As ferramentas permanecem as mesmas, de read_file e grep até Shell, independente do modelo conectado.

Para onde seu texto de prompt vai

Provedor de IA em nuvem

Um provedor de IA em nuvem se conecta por meio de um endpoint de API padrão, que você insere no app junto com sua própria chave de API. Com um modelo em nuvem, o texto do prompt vai para esse provedor, assim como o texto de qualquer arquivo que o agente lê, como um log do servidor ou serverconfig.json. Mantenha a senha do servidor fora do chat se não quiser que o provedor a veja. Segredos na saída da ferramenta são ocultados antes de chegarem ao modelo, e os prompts vão apenas para o endpoint que você escolher. Sua chave de API permanece no seu PC. O provedor pode cobrar pelo uso de acordo com seus próprios termos. Escolha um modelo em nuvem quando você já tem uma conta com um provedor.

Modelo no seu próprio PC

Um modelo executado localmente no seu PC é a escolha ideal para seu material mais privado. Com um modelo local, nada sai da máquina: o texto do prompt e o texto dos arquivos que o agente lê permanecem no seu PC. O agente ainda executa as mesmas ferramentas, e cada ação ainda aparece como um cartão com seu resultado real. A web search é opcional; se você a usar, uma consulta de pesquisa é enviada. As outras funcionalidades de rede opcionais são descritas na página de privacidade. Um modelo local é adequado para trabalhar em um arquivo de configuração que contém sua senha do servidor, ou qualquer outra tarefa onde você não enviaria o texto do arquivo para um provedor.

Modelo embutido

O modelo embutido está pronto para uso sem precisar de um endpoint próprio, o que o torna o caminho mais curto para uma primeira sessão. Ele é ideal para aprender como os cartões, os diffs e os três modos de aprovação funcionam antes de conectar qualquer outra coisa: peça para listar a pasta de dados com list_dir, depois para ler serverconfig.json com read_file. Você pode conectar um modelo em nuvem ou local quando quiser. Os cartões são iguais independente do modelo usado, então você pode executar uma pequena tarefa com dois modelos e comparar as respostas lado a lado.

Verifique a conexão com o botão Testar

O botão Testar verifica um endpoint, mostra o tempo de resposta e exibe a janela de contexto. A janela de contexto é a quantidade de texto que um modelo pode ler de uma vez, então ela indica se um log longo do servidor provavelmente caberá. Execute o teste após inserir um endpoint e novamente após alterá-lo. O tempo de resposta é quanto tempo o modelo leva para responder a uma solicitação de teste curta, o que ajuda quando você compara dois provedores. O resultado descreve apenas a conexão. Ele não diz nada sobre quão bem o modelo lê seus arquivos, então você ainda lê os cartões você mesmo, e uma pequena tarefa de teste, como listar a pasta Mods, lhe dirá mais.

Escolhendo um modelo para uma tarefa de servidor

Um modelo maior é uma escolha razoável para um log longo ou para uma alteração que afeta vários arquivos, e um modelo menor é suficiente para uma pequena edição, como alterar MaxClients em serverconfig.json. A ferramenta run_on_model envia uma etapa complexa para um modelo maior enquanto o restante da sessão permanece com o modelo que você escolheu. A ferramenta task inicia sub-agentes que trabalham em arquivos separados em paralelo, por exemplo, o arquivo de configuração e a pasta Mods, e cada sub-agente relata de volta no chat. Divida tarefas grandes. Entradas mais curtas são mais fáceis para qualquer modelo, e a qualidade ainda difere entre os modelos.

A qualidade varia entre modelos e provedores, e um modelo pode interpretar mal um log ou sugerir um valor errado, então leia o diff antes de aceitar uma alteração. Ask first pausa antes de ações que alteram algo e mostra o diff para aceitar, Plan only escreve as etapas como um plano e não executa nada, e Auto-run atua imediatamente. O Cascadia Merge executa suas ferramentas. Ele não torna um modelo mais correto, e não substitui um teste em uma cópia de seus saves.