ANPD testa IA em 30 casos clínicos — aprovação ainda não veio

Em 16 de outubro de 2026, a Agência Nacional de Proteção de Dados (ANPD) publicou os resultados do terceiro ciclo de seu sandbox de IA, no qual uma ferramenta de apoio à decisão clínica foi submetida a 30 casos simulados. A avaliação identificou ajustes necessários na apresentação das fontes e dos limites de uso, especialmente em emergências. A continuidade da experimentação está sujeita a condicionantes; participar do programa não comprova conformidade com a Lei Geral de Proteção de Dados (LGPD).

A ferramenta clínica é a STAiDOC, da Prevvine Tecnologia. O mesmo ciclo acompanhou o Trajetto, da Synapse AI, que recomenda trajetos a partir de dados de localização, e a solução da Metatext, associada à detecção de fraudes e ao bloqueio de operações suspeitas. Os resultados têm alcances diferentes: houve testes de respostas clínicas e de fluxos de mobilidade, enquanto a avaliação da Metatext permaneceu concentrada na documentação e na preparação de testes técnicos.

O que os casos clínicos permitiram observar

Na Prevvine, o restabelecimento da ligação entre a STAiDOC e a plataforma de avaliação HarpIA permitiu aplicar as vinhetas clínicas previstas. Em testes do ciclo, também apareceram respostas com informações inventadas, referências inexistentes e links quebrados. O relatório técnico da ANPD registra, por causa desses achados, a redução da maturidade do verificador bibliográfico NTAV de TRL 7 para TRL 6. O parecer permaneceu favorável à continuação dos testes, mas com condicionantes, e classificou o êxito do ciclo clínico como parcial.

A distinção entre aplicar os casos e concluir sua avaliação importa para a decisão médica. Uma resposta pode apresentar uma referência e ainda assim exigir a conferência de sua existência, pertinência e relação com a orientação produzida. A Prevvine passou a incluir links diretos para registros no PubMed e a remover, no servidor, artefatos técnicos que apareciam na saída de sua API. Continua pendente demonstrar como as fontes são selecionadas e apresentadas ao profissional, responsável pela decisão clínica final.

Os ajustes exigidos vão além das citações bibliográficas. A ferramenta precisa comunicar com clareza seus limites de uso, inclusive a orientação para não utilizá-la em emergências, e apresentar políticas de privacidade, retenção e descarte de dados para exame. Também permanecem condicionantes sobre proteção criptográfica, supressão de informações pessoais, segurança da aplicação e continuidade do serviço caso o PubMed fique indisponível. A análise dos resultados das vinhetas deverá ser relacionada a essas salvaguardas no ciclo seguinte; a aplicação dos casos, isoladamente, não resolve as pendências.

O alcance dos testes em mobilidade e finanças

No Trajetto, a supervisão observou o tráfego de dados durante uso simulado e não encontrou informações pessoais circulando sem proteção no fluxo auditado. O algoritmo que estima concentração de pessoas também não identificou indivíduos nas imagens examinadas. Esses resultados descrevem condições específicas de teste: o ambiente montado não garantia que todo o tráfego da empresa passasse pelo fluxo observado, e as integrações com serviços externos, como plataformas de mapas, ainda exigem avaliação.

O exame da mobilidade deixou outras tarefas concretas para a Synapse AI. A agência quer evidências sobre risco de identificação indireta, proteção da aplicação, transparência e acessibilidade. Para um serviço que usa localização e histórico de deslocamentos, importa mostrar ao usuário quais dados são coletados, por quanto tempo e com quem são compartilhados. A avaliação também apontou fragilidades nas alternativas para pessoas com deficiência ou mobilidade reduzida; os controles descritos em documentos ainda precisam aparecer no funcionamento da solução.

Na Metatext, a diferença é anterior à medição de resultados técnicos. O ciclo mapeou arquitetura, fluxos de dados e responsabilidades da GuardionAI e preparou testes de pseudonimização e de alertas à equipe de segurança. Ainda falta observar esses mecanismos em operação e examinar a supervisão humana e a explicação de decisões automatizadas às pessoas afetadas por bloqueios. A documentação delimita o que será testado, mas não fornece, sozinha, um resultado sobre a eficácia desses controles.

Por que uma condicionante não equivale a aprovação

As avaliações distinguem controles declarados pela empresa, controles documentados em políticas ou especificações, mecanismos implementados na solução e comportamentos efetivamente verificados sob condições definidas. A análise de Mariana Muoio acrescenta a essa sequência uma pergunta decisiva: o controle submetido ao teste produziu o resultado esperado? Instalar um filtro de dados, por exemplo, é uma evidência diferente de demonstrar que ele bloqueia os identificadores relevantes.

O ciclo mostrou essa diferença em cada participante. Na saúde, a conexão restaurada tornou possível aplicar as vinhetas, enquanto os testes expuseram problemas no verificador de referências. Na mobilidade, a proteção observada vale para o tráfego auditado, com conexões externas ainda por examinar. Na solução da Metatext, as declarações e os documentos ajudaram a definir os testes seguintes. Por isso, classificações favoráveis à continuidade do experimento descrevem o progresso dentro de um escopo supervisionado, sem certificar a solução ou atestar seu atendimento integral à LGPD.

O que será exigido na próxima etapa

No ciclo seguinte, as participantes deverão executar os testes pendentes e comprovar o cumprimento das condicionantes. Para a Prevvine, isso inclui examinar os resultados clínicos junto às evidências de transparência, segurança e proteção de dados; para a Synapse AI, alcançar as integrações externas e demonstrar controles de acessibilidade e governança; para a Metatext, testar a proteção de dados e a emissão de alertas. O avanço de cada ferramenta dependerá das evidências produzidas nessas verificações, dentro dos limites específicos de seu uso.

Leia também:

• Hugging Face não é só um catálogo de modelos — saiba o que verificar antes de usar
• Claude já lidera um quarto da própria P&D — a métrica ainda depende dele
• Ema põe agentes em RH, TI e finanças — a aprovação humana vira o limite