Permissões de agentes de IA: definir as ações antes do lançamento

As permissões de agentes de IA determinam o que um agente pode ler, alterar e enviar através de ferramentas ligadas. Um projeto-piloto útil pode tornar-se um problema quando os acessos crescem mais depressa do que o objetivo, a responsabilidade e os controlos operacionais.

Antes de aumentar a autonomia, descreva a tarefa e o conjunto mínimo de ações necessárias. Um limite claro permite testar trabalho útil sem dar a cada processo os poderes do utilizador com mais privilégios.

Distinguir a tarefa das capacidades da conta

Uma conta pode exportar todos os dados de clientes, alterar oportunidades e enviar mensagens. Um agente que prepara um resumo comercial interno pode precisar apenas de leitura limitada. Os direitos disponíveis na conta não são automaticamente justificados pela tarefa.

As orientações da Microsoft para sistemas de agentes seguros descrevem permissões isoladas e acesso limitado às ferramentas. Aplique este princípio a cada serviço, em conjunto com os controlos da plataforma escolhida.

Criar uma ficha de permissões por processo

Registe o objetivo, o responsável, as fontes de dados, as ações permitidas e proibidas e as aprovações necessárias. Inclua a identidade utilizada pelo agente e quem pode retirar-lhe o acesso.

• Ler: que registos, campos e documentos são necessários?
• Alterar: que mudanças concretas são permitidas e onde?
• Enviar: que destinatários podem receber o resultado?
• Aprovar: que ações exigem a revisão humana da proposta final?
• Parar: quem pode suspender o processo e revogar os acessos?

Distinga uma ação preparada de uma ação executada. Redigir um email é diferente de o enviar; propor uma alteração no CRM é diferente de a aplicar. A configuração das ferramentas deve impor esta distinção sempre que possível.

Tornar a aprovação útil

Apresente ao revisor o destinatário, o conteúdo e a alteração efetivamente propostos. Uma autorização genérica para continuar oferece menos supervisão do que uma revisão que mostra o que vai acontecer e porquê.

Escolha os pontos de aprovação segundo as consequências da ação. Compromissos externos, divulgação de dados sensíveis e alterações difíceis de reverter exigem atenção particular. Acorde o processo com os responsáveis pelos sistemas e pela atividade.

Testar falhas antes de alargar o âmbito

Utilize registos de teste num ambiente controlado. Verifique o que acontece quando falta um registo, um documento contém instruções contraditórias, uma ferramenta falha ou uma ação é recusada. O agente não deve procurar silenciosamente direitos mais amplos para ultrapassar uma recusa.

Teste também a execução duplicada. Uma nova tentativa após uma falha de ligação não pode enviar duas vezes a mesma mensagem nem criar uma segunda transação. Guarde um estado que permita distinguir proposta, submissão e confirmação.

Um exemplo hipotético de assistente comercial

Imagine um assistente que prepara a revisão semanal das oportunidades. Inicialmente, pode ler campos aprovados, resumir próximos passos em falta e preparar perguntas para os responsáveis pelas contas. Não pode alterar os valores dos negócios nem escrever aos clientes.

Depois de validar os resumos, a equipa pode testar a criação de tarefas internas para registos selecionados. É uma decisão de permissões distinta, com controlos próprios. O exemplo ilustra uma evolução gradual; não é um resultado de um cliente da Zendral nem uma garantia de segurança.

Manter a responsabilidade após o piloto

Mantenha um registo das ações, aprovações e resultados adequado ao processo. Reveja os acessos quando mudarem o processo, os dados, o modelo ou a equipa. Retire permissões que deixaram de ser necessárias.

O modelo de responsabilidade partilhada da Microsoft explica que as responsabilidades variam com a implementação. Um produto gerido não elimina a necessidade de compreender os acessos e ferramentas do seu próprio processo.

Como a Zendral pode ajudar

O trabalho de IA e automação da Zendral liga prioridades empresariais e implementação prática. Podemos ajudar a definir um piloto adequado, mapear o processo e acordar responsabilidades, aprovações e medidas úteis de desempenho.

Contacte a nossa equipa para discutir um processo focado antes de alargar as ações que um agente pode executar.

Mais análises →