Em primeiro lugar, dar conclusões que podem ser utilizadas para a tomada de decisões
O lado da plataforma precisa considerar se os serviços Web e API, processos de trabalho, bases de dados, caches, armazenamento de objetos, recuperação de vetores, resolução de documentos e monitoramento de logs são separados. O lado do modelo depende do uso de API de fim de nuvem, pequenos modelos locais ou raciocínio multimodelo. Os picos são gravados ao mesmo tempo, o tamanho do arquivo de upload único, o volume crescente de documentos, a frequência de atualizações de conhecimento, o número de nós de fluxo de trabalho e o tempo de resposta aceitável. O ambiente de produção também tem de ser reservado para recuperação de backup, crescimento de disco, atualização de componentes e falha na troca de espaço.
Que condições precisam ser identificadas antes de se fazer o julgamento?
A mesma questão pode ter respostas diferentes em diferentes fases de negócio, dados e projetos. Sugere-se que as seguintes condições sejam verificadas e que as descobertas comuns na web sejam incorporadas em seus próprios projetos.
Ordem de adiantamento sugerida
Primeiro, vamos ser claros sobre o alvo e a fronteira.
b) Colagem da linha de base dos utilizadores, tarefas, documentos, interfaces e tempo de resposta.
Dependência da Chave de Validação
A plataforma, o processamento de conhecimento e o raciocínio do modelo serão utilizados separadamente.
Desenvolvimento de resultados avaliáveis
Os testes de pressão e capacidade são realizados usando arquivos reais e fluxos de trabalho.
Certifique-se de decidir o próximo passo com os resultados reais.
Especificações de produção baseadas em atrasos, filas, recursos e resultados de falha do P95.
Como é que entendes isso no negócio?
Uma empresa com 30 usuários internos, mas com um grande volume de fluxos de trabalho de PDF importados diariamente e em várias etapas em execução, a análise de conhecimento e as tarefas de back-office podem ser mais intensivas em recursos do que centenas de usuários que só ocasionalmente fazem perguntas e respostas. Se for solicitado um raciocínio de modelo local, testes separados devem ser realizados em diferentes modelos, comprimentos de contexto, e a co-disposição e isolamento, e um servidor de demonstração não pode ser considerado uma configuração de produção diretamente.
O poço mais fácil de pisar.
Estima-se apenas pelo número de usuários registrados, sem tarefas reais e cargas de documentos
A implantação bem sucedida da Diffy equivale à realização da capacidade de produção
Não foi monitorado o crescimento de filas, bases de dados, discos e índices vetoriais
Como devemos acabar recebendo e confirmando?
A aceitação e inspeção devem ser realizadas no ambiente alvo com perguntas e respostas acordadas e feitas, uploads de documentos, atualizações de conhecimentos e tarefas de fluxo de trabalho, gravação de P50, respostas P95, espera de fila, taxa de erro, CPU, memória, disco e recursos de modelo; e restauração completa de backup, alarme de disco, reinício de serviço e exercício de volta de versão.
Ao se preparar para comunicar com fornecedores ou equipes internas, recomenda-se que processos atuais, amostras representativas, sistemas existentes, tempo de planejamento e níveis de orçamento sejam trazidos. Primeiro, os itens desconhecidos são claramente marcados, e então a decisão é tomada de usar diagnósticos, PoC, projetos de alcance fixo ou pesquisa e desenvolvimento em curso, que é geralmente mais confiável do que uma demanda direta por um preço e duração sem fronteiras.