Governança de IA no trabalho: como avaliar um sistema antes de usá-lo
Governança de inteligência artificial é o conjunto de decisões que define quem pode usar um sistema, para quê, como os resultados serão conferidos e o que fazer quando algo der errado. Em outubro de 2026, a Secretaria de Governo Digital iniciou uma mentoria para equipes federais avaliarem sistemas de IA que seus órgãos já desenvolvem ou operam. Cada equipe aplica a avaliação a um sistema real. A ideia serve de ponto de partida para entender as competências de quem trabalha com a tecnologia em diferentes áreas. Confira a página da mentoria do Governo Digital.
Comece com uma tarefa bem definida
Imagine que uma equipe recebe pedidos de manutenção por e-mail. Uma ferramenta de IA poderia sugerir se o pedido deve seguir para limpeza, manutenção predial ou suporte de computadores. Descreva essa finalidade em uma frase e deixe claro quem dá a palavra final. Quanto mais concreta for a descrição, mais fácil será testar se a ferramenta ajuda.
Registre também os casos que seguem por outro caminho. Um vazamento próximo de equipamento elétrico, por exemplo, pode exigir contato imediato com o responsável pela segurança do prédio. Se o canal tem uma regra para urgências, a equipe precisa preservar essa regra ao introduzir a ferramenta. Faça a mesma pergunta para outras exceções: o que acontece quando a mensagem está incompleta, inclui mais de um problema ou chega fora do horário?
Quem precisa participar da avaliação?
Inclua alguém que conhece a rotina de trabalho, alguém que consiga explicar como a ferramenta opera e alguém com poder para mudar o procedimento. Quem recebe os pedidos pode apontar termos que aparecem nas mensagens e que confundem uma classificação. Quem administra a ferramenta pode explicar o que ela recebe e o que devolve. Quem coordena o serviço pode dizer como redistribuir tarefas se a revisão tomar mais tempo do que o previsto.
Defina o papel de cada pessoa antes do teste. Se a ferramenta mandar um pedido para o setor errado, quem pode corrigir o destino? Quem reúne os exemplos de erro? Quem decide se um padrão de falhas justifica suspender o uso? Colocar os nomes ao lado dessas ações ajuda a descobrir lacunas enquanto a equipe ainda consegue mudar o procedimento com calma.
Como testar os resultados?
Crie um conjunto pequeno de situações inventadas que representem o trabalho cotidiano. Para o exemplo da manutenção, inclua um chamado simples, um com pouca informação e outro em que dois problemas aparecem juntos. Peça à equipe para registrar o encaminhamento esperado antes de olhar a sugestão da IA. Assim, a comparação parte do que as pessoas fariam com a informação disponível.
Olhe os erros separadamente. Uma diferença entre dois setores que trabalham juntos pode ser resolvida com um aviso. Já atrasar um pedido urgente pode ter consequências bem maiores. Anote o que ocorreu, o que poderia acontecer com alguém afetado e qual proteção faria sentido. Nesse exemplo, pode valer manter o canal de urgência separado e exigir confirmação humana em todos os casos duvidosos.
Um teste pequeno ajuda a encontrar problemas conhecidos, mas a rotina pode trazer outros. Compare as decisões de pessoas diferentes quando o caso é ambíguo. Se elas discordarem entre si, talvez a equipe precise esclarecer a regra de trabalho antes de avaliar a sugestão da IA. Essa distinção evita atribuir à ferramenta toda dificuldade que já existia no atendimento.
O que acompanhar depois que o sistema entra em uso?
Escolha indicadores fáceis de coletar. A equipe pode registrar quantas sugestões foram corrigidas, em quais categorias os erros aparecem e quanto tempo leva para revisar cada pedido. Olhe também as reclamações e pedidos reenviados. Se as pessoas passaram a corrigir sugestões silenciosamente, só medir o tempo de resposta da ferramenta pode esconder a carga extra de trabalho.
Faça um registro breve da avaliação com a finalidade do sistema, as pessoas responsáveis, o resultado dos testes e a decisão tomada. Quando mudar a ferramenta ou o procedimento, retome os exemplos e verifique se os resultados mudaram. Para quem quer desenvolver essa habilidade, vale começar documentando um processo pequeno e apresentando a outra pessoa um caso em que o sistema ajudou e um em que precisou ser corrigido. Essa demonstração mostra como você relaciona a tecnologia à rotina da equipe e aos efeitos sobre quem usa o serviço.
