Escolha o Modelo de IA que Alimenta um Fluxo de Trabalho do Studio

Resumo

O Studio permite que você selecione qual modelo de linguagem grande executa um fluxo de trabalho, em vez de deixar a seleção automática, para que você possa controlar a consistência da saída antes de disponibilizar o fluxo de trabalho para sua equipe.

Por que isso é importante

Por padrão, o Vincent decide qual modelo usar para cada tarefa. Esse padrão é intencional e é bom: ele encaminha cada etapa para um modelo adequado ao trabalho, e a maioria dos criadores nunca precisa pensar nisso.

Algumas organizações precisam pensar nisso. Uma empresa que padroniza um fluxo de trabalho de alto volume para cem usuários se importa menos com a qualidade máxima em uma única execução do que com obter sempre o mesmo formato de პასუხa. Um líder de grupo de prática que validou a saída de um fluxo de trabalho quer ter a confiança de que o comportamento aprovado é o comportamento que sua equipe recebe. E um comprador corporativo avaliando o Studio geralmente precisa saber qual modelo está fazendo o trabalho antes mesmo de poder aprovar a ferramenta.

A seleção de modelo responde às três necessidades. Ela coloca em suas mãos uma decisão que antes ficava com a vLex, junto com a responsabilidade por ela.

Antes de começar

• Você precisa de acesso ao Studio e permissão para configurar fluxos de trabalho.

• Saiba qual problema você está resolvendo. Alterar o modelo é uma resposta razoável a um problema de saída observado e repetível. Não é a primeira etapa de diagnóstico, e raramente é a solução para um fluxo de trabalho cujos prompts estão pouco especificados.

• Tenha um documento de teste e uma saída esperada conhecida e correta à mão, para que você possa verificar se a alteração ajudou.

Como a seleção automática funciona

Deixar o seletor em Padrão significa que o Vincent seleciona o melhor modelo para o trabalho em questão. A arquitetura do Vincent é agnóstica em relação ao modelo por design: em vez de ficar presa a um único provedor, ela direciona cada etapa do processo de perguntas e respostas para um modelo adequado de uma lista validada que inclui modelos da OpenAI e da Anthropic.

Para a maioria dos fluxos de trabalho, essa é a configuração correta, e ela tem uma vantagem real: à medida que modelos mais fortes são adicionados à lista, um fluxo de trabalho em Padrão é beneficiado automaticamente, sem nenhuma ação da sua parte.

Como alterar o modelo

1. Abra o seletor de modelos do fluxo de trabalho.

2. Revise as opções disponíveis. Cada modelo mostra uma breve descrição para o que ele é indicado.

3. Selecione o modelo que você deseja ou deixe Padrão no lugar para manter a seleção automática.

4. Salve e, em seguida, execute o fluxo de trabalho em um documento de teste e compare a saída com o resultado esperado.

5. Para desfazer a alteração, reabra o seletor e escolha Padrão novamente.

Modelos disponíveis no seletor

O seletor oferece Padrão além de um conjunto de modelos nomeados da OpenAI e da Anthropic. Opções no momento da redação:

O que alterar o modelo não muda

Esta é a parte que vale a pena entender antes de começar a experimentar, porque ela restringe o conjunto de problemas que a seleção de modelo realmente pode resolver.

• Isso não altera quais autoridades jurídicas o Vincent encontra. O Vincent fundamenta suas respostas primeiro recuperando documentos relevantes do banco de dados jurídico curado da biblioteca e, em seguida, instruindo o modelo a responder apenas com base nessas fontes. A recuperação acontece antes de o modelo fazer seu trabalho. Selecionar um modelo diferente muda como a resposta é raciocinada e escrita, não em quais autoridades ela se baseia.

• Isso não altera sua postura de proteção de dados. Todos os modelos selecionáveis vêm da mesma lista validada de provedores, coberta por acordos contratuais de retenção zero de dados: seus prompts e documentos nunca são usados para treinar os modelos dos provedores e não são retidos por eles além do necessário para processar a solicitação.

• Isso não altera a lógica do seu fluxo de trabalho. Suas tarefas, tipos de ação, prompts e ativos do fluxo de trabalho permanecem inalterados. Um fluxo de trabalho com um prompt vago produz uma saída vaga em todos os modelos da lista.

• Isso não altera a cobertura jurisdicional. A capacidade de pesquisa é limitada pelas jurisdições que os fluxos de trabalho de pesquisa do Vincent suportam, independentemente de qual modelo gera a resposta.

Melhores práticas e dicas profissionais

• Corrija o prompt antes de alterar o modelo. Quando a qualidade da saída decepciona, a causa geralmente é um prompt pouco especificado, um ativo de fluxo de trabalho ausente ou uma tarefa fazendo coisas demais ao mesmo tempo. Isso é barato de corrigir e a correção se aplica a todos os modelos. Trocar de modelo para resolver um problema de prompt esconde o defeito real e deixa você com um fluxo de trabalho que agora está preso a um modelo específico sem motivo documentado.

• Documente por que você saiu de Padrão, na descrição do fluxo de trabalho. Daqui a seis meses, alguém precisará saber se a seleção foi uma decisão pensada ou um experimento que ninguém desfez. Sem uma anotação, a suposição segura é que foi um experimento, e o fluxo de trabalho é reconstruído.

• Lembre-se do custo de fixar um modelo. Um fluxo de trabalho em Padrão herda melhorias à medida que a lista evolui. Um fluxo de trabalho fixado não. Se você fixar um, coloque um lembrete no calendário da sua equipe para revisar a escolha e espere que qualquer modelo nomeado eventualmente seja descontinuado.

Artigos relacionados

• Como publicar e compartilhar seu fluxo de trabalho do Vincent Studio

• Melhores práticas para planejar um fluxo de trabalho eficaz

Desbloqueie o poder da automação jurídica

Pronto para ver como o Vincent Studio pode transformar a eficiência do seu escritório?

Entre em contato com nossa equipe de vendas para uma demonstração personalizada hoje mesmo.

Qual é o seu próximo passo?