RIPD para IA: o relatório deve nascer antes do tratamento de alto risco

Para uma operação de IA que possa gerar alto risco, o controlador deve preparar o RIPD antes de usar dados pessoais na finalidade prevista: delimitar o tratamento, descrever os dados e as decisões, estimar os efeitos sobre as pessoas e definir salvaguardas. A orientação da ANPD sobre o RIPD recomenda a elaboração antecipada e atribui o relatório ao controlador.

O ponto de partida é a operação concreta, não o nome da ferramenta. Um mesmo modelo pode ajudar a localizar informações internas ou influenciar o acesso de alguém a um serviço; finalidade, dados utilizados e consequências mudam de um caso para outro. Se o alto risco só for identificado depois do início do tratamento, a recomendação da ANPD é elaborar o relatório assim que isso ocorrer. O controlador também deve prepará-lo quando a autoridade o solicitar.

Verifique o risco da operação

Descreva quem será afetado, o que o sistema fará com seus dados e qual efeito uma saída incorreta poderá produzir. Como parâmetro para reconhecer alto risco, a Resolução CD/ANPD nº 2 combina pelo menos um critério geral — larga escala ou impacto significativo em interesses e direitos — com um específico, entre eles tecnologia emergente, decisão unicamente automatizada ou uso de dados sensíveis. A resolução regula agentes de pequeno porte; para o RIPD, a ANPD indica seu conceito de alto risco como parâmetro aplicável conforme o caso, sem limitar a avaliação a essa lista.

Uma decisão automática capaz de impedir o uso de um serviço reúne elementos diferentes de uma sugestão que um profissional pode examinar e alterar. Registre a escala, a frequência do tratamento, as categorias de titulares, a sensibilidade dos dados e a gravidade da consequência possível. A combinação desses fatores importa mais que o rótulo “IA”. Delimite também o projeto ou processo: operações com a mesma finalidade e riscos semelhantes podem constar de um relatório, enquanto finalidades distintas podem exigir análises separadas.

Mapeie dados, bases e percurso

Faça o inventário desde a coleta até a eliminação. Para adaptar o RIPD ao ciclo de vida da IA, separe dados de treinamento ou ajuste, conteúdo de bases de conhecimento, entradas enviadas em prompts, respostas produzidas e registros de uso. Em cada grupo, indique origem, categorias de titulares, finalidade, necessidade, pessoas ou organizações com acesso e possibilidade de identificação por combinação com outros dados.

Desenhe depois o percurso: preparação da entrada, envio ao fornecedor, consulta a bases, geração da resposta, armazenamento e descarte. Registre compartilhamentos internos e externos, eventual transferência internacional, prazo de retenção e método de eliminação. Quando houver fornecedor, descreva suas funções e verifique se prompts, respostas ou registros poderão ser usados para finalidade própria dele; essa condição altera a análise do tratamento e das salvaguardas.

Associe uma hipótese legal a cada finalidade e justifique a necessidade das categorias de dados escolhidas. Uma base de conhecimento destinada a responder dúvidas, por exemplo, não precisa incorporar automaticamente todo o histórico pessoal disponível. O inventário deve permitir identificar em que etapa um dado entra, por que permanece e quem pode recebê-lo. Se essas respostas ainda não forem conhecidas, a descrição da operação está incompleta para estimar seus riscos.

Mostre onde a saída vira decisão

Registre o caminho entre a saída do sistema e seu efeito sobre o titular. Indique se a IA sugere uma resposta, prioriza casos para análise ou produz um resultado sem intervenção humana. Identifique quem pode corrigir dados de entrada, contestar uma classificação, suspender o uso da saída e rever o resultado. O artigo 20 da LGPD assegura ao titular o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses e prevê informações claras sobre os critérios e procedimentos utilizados, observados os segredos comercial e industrial.

Quando existir intervenção humana, descreva o momento em que ocorre, quais informações chegam ao responsável e se ele tem autoridade para mudar o resultado. Uma aprovação formal sem acesso ao contexto oferece pouco espaço para julgamento próprio. Em uma triagem hipotética de candidatos, o relatório distinguiria uma lista de apoio à análise de uma rejeição executada automaticamente; o limite da decisão humana define quais controles precisam existir antes de usar a classificação.

Associe cada risco a uma proteção verificável

Para cada evento adverso, identifique os titulares afetados, a probabilidade estimada e a gravidade do impacto. Examine saídas inexatas, exposição de informações em prompts ou registros, uso incompatível com a finalidade e diferenças de desempenho entre grupos relevantes para a operação. Anote a evidência disponível e a incerteza da estimativa: uma taxa geral de acerto, isoladamente, pode ocultar erros concentrados nos casos em que a consequência é maior.

Vincule cada risco a uma medida, um responsável e uma forma de verificar sua eficácia. Podem ser necessários minimização das entradas, controle de acesso, testes por grupo, revisão humana, canal de contestação, limites de retenção ou procedimento para suspender uma função problemática. O GuIA federal para projetos de IA no setor público inclui verificações de LGPD, avaliação de impacto ético e critérios documentados para auditoria ao longo das etapas do projeto.

Registre também o risco que permanece depois das medidas propostas e a condição para iniciar o tratamento. Se uma proteção depender de um teste, indique o que será testado e quem decidirá se o resultado é aceitável. Essa decisão deve considerar os efeitos sobre os titulares, não apenas o funcionamento técnico do modelo.

Preencha o relatório e defina quando revê-lo

Use os campos abaixo como estrutura de trabalho para uma finalidade ou para operações suficientemente semelhantes. Cada resposta deve trazer sua justificativa e, quando houver, a evidência ou o critério que sustentou a decisão:

1. Escopo: [finalidade], [controlador, operadores e encarregado], [titulares afetados], [motivo do RIPD], [responsável pela aprovação].
2. Dados e fluxo: [categorias e origem], [treinamento ou ajuste], [bases consultadas], [prompts, saídas e registros], [destinatários], [transferência internacional], [retenção e eliminação].
3. Fundamento e decisão: [hipótese legal por finalidade], [necessidade de cada dado], [uso da saída], [ponto de intervenção humana], [procedimento de revisão solicitado pelo titular].
4. Riscos e controles: [evento e dano possível], [probabilidade e impacto], [medida e responsável], [teste ou indicador], [risco residual], [condição para iniciar ou suspender].
5. Acompanhamento: [versão do modelo e das bases], [aprovação], [responsável pela revisão], [mudanças que exigem nova avaliação].

Ao aprovar o RIPD, o controlador precisa registrar se a operação pode começar, depende de mudanças ou apresenta risco remanescente que impede o uso proposto. Alterações de finalidade, dados de entrada, modelo, fornecedor ou regra de decisão podem mudar a análise; novos riscos observados durante a operação também exigem revisão. Assim, o relatório acompanha o sistema efetivamente usado e conserva as razões das escolhas feitas antes do tratamento de maior impacto.

Leia também:

• Agente de IA no RH não deve demitir sozinho: desenhe o limite humano
• Política de IA no trabalho: o documento mínimo para proteger dados e decisões
• Incidente de dados: o relógio da ANPD começa antes do formulário