Home / FAQs / AI Funcionários Digitais, Multi-intelligence, Segurança e Inteligência Empresarial
QUESTION & ANSWER

Por que os privilégios do AI Agent não podem ser escritos em uma dica do sistema?

A dica faz parte do texto do modelo, não é um controlo de acesso fiável. Pode ser influenciada por um lembrete, um conflito de contexto, um erro de modelo ou uma ferramenta para voltar ao conteúdo, e não pode ser responsabilizada pela autorização final. Os privilégios- chave devem ser aplicados por um sistema de identidade, serviço de ferramentas e regras operacionais fora do modelo. A dica pode indicar o limite comportamental, mas uma solicitação ultra vires deve ser rejeitada no nível executivo, mesmo que o modelo seja enviado.

Responde à pergunta.

Em primeiro lugar, dar conclusões que podem ser utilizadas para a tomada de decisões

O Business Agent normalmente lida com a entrada do usuário, página web, correio, documento e saída de ferramentas ao mesmo tempo, todos os quais podem estar sujeitos a instruções maliciosas ou conflitantes. Se os privilégios dependem apenas de palavras como “não ler outros dados do cliente”, o modelo, uma vez mal calculado, pode pedir uma ferramenta de alto risco. O design correto é colocar a identidade do usuário, identidade do agente, papel, intervalo de recursos, linha de ação e regras de aprovação em um sistema definitivo; o modelo só propõe uma ação candidata, e o serviço decide se permite isso.

DECISION FACTORS

Que condições precisam ser identificadas antes de se fazer o julgamento?

A mesma questão pode ter respostas diferentes em diferentes fases de negócio, dados e projetos. Sugere-se que as seguintes condições sejam verificadas e que as descobertas comuns na web sejam incorporadas em seus próprios projetos.

Quais recursos comerciais oficiais estão disponíveis para o Agente para ler e modificarSe os dados e as saídas de ferramentas são de fontes não confiáveisSe a acção envolve montantes monetários, supressões, emissões ou compromissos externosSe vincular ou não o verdadeiro utilizador, o Agente e o registo final de execução
ACTION STEPS

Ordem de adiantamento sugerida

01

Primeiro, vamos ser claros sobre o alvo e a fronteira.

Listar e classificar todas as ferramentas e dados.

02

Dependência da Chave de Validação

Crie identidades independentes e permissões mínimas para usuários e agentes.

03

Desenvolvimento de resultados avaliáveis

Validação de recursos, parâmetros, escalas e estado operacional no nível da ferramenta.

04

Certifique-se de decidir o próximo passo com os resultados reais.

Aumentar a aprovação manual, auditoria e desactivação de emergência de operações de alto risco.

PRACTICAL EXAMPLE

Como é que entendes isso no negócio?

Exemplo utilizado para ilustrar o método de julgamento

O assistente de e- mail leu um e- mail contendo instruções maliciosas, e o modelo tenta chamar o cliente para exportar a ferramenta. Se o serviço de ferramenta acredita apenas no modelo, ele pode causar vazamento de dados; se o provedor de serviço executa a verificação com base no status atual do funcionário, afiliação do cliente e aprovação de exportação, a solicitação é negada e eventos de segurança são gravados.

COMMON RISKS

O poço mais fácil de pisar.

Considera uma dica mais longa do sistema igual a um controle de privilégios mais forte

Vários agentes partilham uma conta super-administrativa.

Registre apenas as respostas do modelo, não os parâmetros da ferramenta e os resultados da implementação

ACCEPTANCE

Como devemos acabar recebendo e confirmando?

Os testes de segurança devem abranger injeções, sobreautorização, adulteração de parâmetros, retorno de ferramentas à contaminação, execução e liberação repetidas. Mesmo que o comando de erro de saída do modelo não seja seguido, os níveis de autorização externa devem parar o movimento e deixar uma cadeia de auditoria completa de usuários, agentes, ferramentas e resultados.

Ao se preparar para comunicar com fornecedores ou equipes internas, recomenda-se que processos atuais, amostras representativas, sistemas existentes, tempo de planejamento e níveis de orçamento sejam trazidos. Primeiro, os itens desconhecidos são claramente marcados, e então a decisão é tomada de usar diagnósticos, PoC, projetos de alcance fixo ou pesquisa e desenvolvimento em curso, que é geralmente mais confiável do que uma demanda direta por um preço e duração sem fronteiras.

As condições do seu projeto são diferentes dos exemplos acima?

Os objectivos operacionais, os sistemas existentes, a amostra e o tempo planeado poderiam ser reunidos antes de os consultores poderem fazer julgamentos preliminares em relação às fronteiras reais.

Consultores associados de projectos