Agente de IA no RH não deve demitir sozinho: desenhe o limite humano

Para usar agentes de IA no RH com segurança, restrinja a execução autônoma a tarefas padronizadas, reversíveis e de baixo impacto. Desligamento, reprovação final, promoção, remuneração e sanções devem depender da decisão de uma pessoa identificada: o agente pode reunir informações e preparar uma recomendação, mas não aplicar a consequência.

Esse limite precisa estar incorporado ao fluxo, e não apenas escrito em uma política. Classifique cada uso por volume e risco, converta a classificação em permissões técnicas, determine quem aprova as etapas sensíveis e preserve os registros necessários para reconstruir a decisão.

Classifique cada uso por volume e risco

Comece pelos processos, não pelas ferramentas. Para cada rotina, avalie frequência, número de pessoas afetadas, sensibilidade dos dados, possibilidade de tratamento discriminatório, gravidade do erro e facilidade de reversão. A proposta de matriz de volume e risco do oHub também prioriza usos frequentes e de baixo impacto, reservando controles reforçados para decisões sobre pessoas.

• Alto volume e baixo risco: responder dúvidas com base em políticas aprovadas, conferir campos obrigatórios, enviar lembretes e agendar entrevistas. O agente pode executar, desde que haja fontes delimitadas e encaminhamento para atendimento humano.
• Risco intermediário: resumir currículos, agrupar comentários ou sinalizar documentos incompletos. A saída exige revisão quando puder alterar prioridade, acesso ou tratamento de alguém.
• Alto risco: demitir, eliminar definitivamente uma candidatura, aplicar sanção, definir promoção ou mudar remuneração. A execução autônoma deve permanecer bloqueada.

O risco decorre do efeito no processo, não do nome da tarefa. Um resumo passa a influenciar uma decisão sensível se sua pontuação ordenar candidatos e essa ordem determinar automaticamente quem será excluído.

Converta a classificação em permissões técnicas

Monte uma matriz operacional com uma linha por ação. Registre finalidade, dados autorizados, fontes aceitas, ação permitida, ação bloqueada, aprovador, condição de interrupção, evidência exigida, retenção do registro e canal de contestação.

A permissão deve terminar antes da consequência. Se o agente redige uma carta de desligamento, ele pode salvar o rascunho; enviar a comunicação, revogar acessos, alterar a folha e encerrar o vínculo continuam indisponíveis até a decisão humana. Nas integrações, prefira acesso de leitura quando for suficiente e mantenha separada a credencial capaz de produzir efeitos.

Implemente lista de permissões, validação de campos, ambiente de teste e um controle de interrupção acessível ao responsável. Esse desenho aplica o princípio de restringir o que a IA executa: as capacidades disponíveis no sistema não precisam estar todas ao alcance do agente.

O AI Act da União Europeia inclui entre os sistemas de alto risco aqueles destinados a decisões sobre recrutamento, promoção e término da relação de trabalho; seu artigo 14 exige supervisão capaz de ignorar, substituir ou reverter saídas e interromper o sistema em estado seguro. A norma não cria, por si só, uma obrigação brasileira, mas oferece requisitos concretos para desenhar o controle.

Defina quem executa, aprova e responde

Aprovação humana sem autoridade definida vira apenas uma etapa na tela. Em uma RACI simplificada, o responsável executa ou revisa a tarefa; o aprovador responde pela decisão; jurídico, privacidade, segurança e especialistas são consultados conforme o risco; os demais interessados são informados.

A Matriz RACI do Governo Digital distribui esses quatro papéis durante o ciclo de vida da IA e recomenda identificar formalmente quem responde pelos resultados e pela correção de erros. O instrumento foi criado para serviços públicos digitais da administração pública federal; empresas podem adaptar sua lógica, sem tratá-lo como norma aplicável ao setor privado.

• Rotina operacional: analista de RH como responsável, gestor do processo como aprovador e dono da política ou TI como consultado.
• Triagem ou recomendação: recrutador revisa a saída, liderança de RH aprova o fluxo e jurídico, privacidade e área requisitante são consultados.
• Decisão de alto impacto: gestor autorizado decide e registra a justificativa, enquanto o RH verifica critérios e documentação. O agente não recebe papel de aprovação.

Em fluxos sensíveis, evite concentrar na mesma pessoa a configuração do agente, a aceitação da saída e o julgamento de uma contestação. A separação de funções cria uma oportunidade real de detectar falhas, uso fora da finalidade ou confiança automática na recomendação.

Faça a revisão humana poder mudar o resultado

O revisor precisa de contexto, tempo para discordar e autoridade para parar o processo. O núcleo do AI Risk Management Framework do NIST orienta a documentar papéis nas configurações entre humanos e IA, limites de uso das saídas e processos de supervisão; também prevê mecanismos de recurso, substituição da decisão e desativação.

Antes de aprovar, a pessoa deve conseguir examinar a origem dos dados, os critérios aplicados, informações ausentes, possíveis tratamentos desiguais e a consequência pretendida. Um clique obrigatório não constitui uma barreira efetiva se o revisor não vê as evidências, não pode alterar o resultado ou é pressionado a confirmar a recomendação.

Inclua um canal de contestação e encaminhe o caso a uma pessoa com competência para rever a decisão. A orientação da ANPD sobre direitos dos titulares informa que decisões tomadas unicamente com base no tratamento automatizado de dados pessoais e que afetem interesses podem ser objeto de pedido de revisão, além de solicitação de explicação sobre critérios e procedimentos.

Mantenha o registro mínimo e teste a interrupção

Em cada execução relevante, guarde somente o necessário para reconstruir o caso: identificador e versão do fluxo, finalidade, data e hora, categorias e origem dos dados, saída do agente, regra acionada, identidade do revisor, decisão final, justificativa para divergências, intervenções e eventual contestação. Jurídico e privacidade devem definir acesso e retenção; a finalidade de auditoria não autoriza guardar dados pessoais sem limite.

Antes de colocar o fluxo em produção, simule dado ausente, instrução ambígua, tentativa de ação proibida, falha de integração e saída potencialmente discriminatória. Verifique se o agente para, se a aprovação não pode ser contornada e se o registro explica o ocorrido. Repita os testes quando mudarem modelo, instruções, fontes de dados, integrações, responsáveis ou finalidade.

O fluxo só está pronto para afetar candidatos ou funcionários quando o RH consegue demonstrar quem autorizou o uso, o que o agente podia executar, qual pessoa tomou a decisão, como a operação pode ser interrompida e quais evidências permitem revisar o caso. Se uma dessas respostas faltar, o limite humano ainda existe apenas no papel.

Leia também:

• Agent Toolkit da AWS em um comando — limite o que a IA pode executar
• Aprender prompt não basta: quatro habilidades para trabalhar com agentes de IA
• Hugging Face não é só um catálogo de modelos — saiba o que verificar antes de usar