Reconhecimento facial na esfera pública: entre o teste do NIST e as exceções do AI Act

Câmeras com reconhecimento facial deixaram de ser demonstração de laboratório e passaram a integrar contratos públicos, editais de licitação e operações policiais em diversos países. Ao mesmo tempo, a tecnologia se tornou objeto de regulação específica na União Europeia e de litígios em várias jurisdições. O debate público, porém, costuma oscilar entre a promessa de eficiência e o temor de vigilância, sem entrar nos números que efetivamente existem.

Esses números vêm, em boa parte, de um programa de avaliação independente conduzido pelo Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST), que testa algoritmos de reconhecimento facial em bases padronizadas. Em paralelo, o Regulamento (UE) 2024/1689, conhecido como AI Act, criou um regime jurídico com proibições e exceções que definem, em linguagem técnica, o que pode e o que não pode ser feito.

Este artigo organiza o que está documentado: os resultados dos testes de desempenho e suas diferenças demográficas, o que o AI Act efetivamente proíbe, os casos de uso policial e os litígios, e o que a pesquisa ainda não mede. Também apresenta a defesa da tecnologia e a crítica técnica a ela.

Como se mede o desempenho do reconhecimento facial

O NIST não avalia produtos como um todo, e sim algoritmos, em condições controladas. Os testes medem, entre outras métricas, taxas de falso positivo (identificar erroneamente) e de falso negativo (não reconhecer) em bases de imagens padronizadas. O resultado é um retrato comparável entre fornecedores, atualizado continuamente (NIST, FATE FRVT (abre em nova aba)).

O relatório técnico NISTIR 8280, publicado em dezembro de 2019, examinou diferenças demográficas e encontrou, na maioria dos algoritmos avaliados, taxas de falso positivo mais altas para mulheres, pessoas negras e asiáticas, em comparação com homens brancos. O estudo é frequentemente citado como evidência de viés. É importante notar o que ele efetivamente diz: as diferenças se referem ao conjunto de algoritmos testado naquele período, e avaliações posteriores registraram melhorias substanciais em muitos fornecedores (NIST, 2019 (abre em nova aba)).

As diferenças demográficas nas taxas de erro devem ser interpretadas como características dos algoritmos avaliados em determinado período, e não como propriedade fixa da tecnologia. — paráfrase do relatório NISTIR 8280, 2019 (abre em nova aba)

O ponto metodológico central é que desempenho em laboratório não equivale a desempenho em campo. Iluminação, ângulo de câmera, resolução, compressão de vídeo e qualidade da base de referência alteram radicalmente os resultados. Um algoritmo com excelente resultado em teste padronizado pode falhar em uma câmera de rua real. Há ainda um problema de base de referência: a qualidade e a atualização das imagens usadas para comparação afetam tanto falsos positivos quanto falsos negativos, e essas bases são mantidas por autoridades que raramente publicam auditorias detalhadas.

O que o AI Act efetivamente proíbe

O AI Act entrou em vigor em 2024 e prevê aplicação faseada. As proibições de práticas consideradas inaceitáveis passaram a valer em fevereiro de 2025, incluindo a "identificação biométrica remota em tempo real em espaços acessíveis ao público" para fins de aplicação da lei. A expressão técnica é decisiva e precisa ser desmontada.

"Biométrica remota" significa que a identificação ocorre sem contato e sem cooperação ativa da pessoa. "Em tempo real" indica processamento imediato, durante a captura. "Espaços acessíveis ao público" abrange ruas, praças, transportes e estabelecimentos abertos ao público. A proibição, portanto, atinge sistemas que comparam rostos captados ao vivo em locais públicos contra uma base de referência, por autoridades policiais (UE, 2024 (abre em nova aba)).

A regra tem exceções estreitas. A identificação em tempo real pode ser permitida para buscas de vítimas de crimes graves, prevenção de ameaças terroristas iminentes e localização de suspeitos de determinados crimes listados no anexo do regulamento, sujeita a autorização prévia por autoridade judicial ou administrativa independente e a limites temporais e geográficos. Usos não policiais — como verificação de acesso em estádios — caem em outras categorias, com exigências próprias.

A entrada em aplicação das proibições foi acompanhada por orientações da Comissão Europeia sobre a interpretação das práticas vedadas (Comissão Europeia (abre em nova aba)).

Uso policial documentado e litígios

Nos Estados Unidos, o uso policial gerou casos documentados de prisões equivocadas baseadas em correspondência facial. Relatos de detenções indevidas em que a identificação por imagem desempenhou papel central foram reunidos em litígios e processos civis, muitos com acordos ou decisões posteriores que restringiram práticas locais (ACLU (abre em nova aba)).

A Clearview AI concentrou parte relevante do contencioso. A empresa construiu uma base de dados ao raspar imagens públicas da internet e ofereceu busca facial a forças policiais. Autoridades de proteção de dados de vários países aplicaram sanções e determinaram restrições, com decisões que trataram a coleta como tratamento ilícito de dados biométricos. O órgão britânico de proteção de dados publicou decisão específica de fiscalização sobre a empresa (ICO (abre em nova aba)). O Comitê Europeu de Proteção de Dados e o supervisor europeu recomendaram, em parecer conjunto de 2021, a proibição do reconhecimento facial em espaços públicos por forças policiais (EDPB (abre em nova aba)).

Em nível municipal, diversas cidades aprovaram moratórias ou restrições ao uso de reconhecimento facial por órgãos públicos, ainda que algumas tenham sido posteriormente revisadas ou revogadas. O quadro é fragmentado e muda conforme o ciclo político local.

Moratórias municipais e restrições locais não são uniformes: algumas foram revistas ou revogadas conforme mudanças na composição política dos governos locais. — síntese a partir de ACLU (abre em nova aba)

A defesa: eficiência, pessoas desaparecidas e prevenção

Defensores apresentam três argumentos principais. O primeiro é de eficiência: a tecnologia reduz o tempo de identificação em investigações e libera recursos humanos. O segundo é humanitário: localização de pessoas desaparecidas, inclusive crianças e idosos com condições de saúde, casos em que a identificação rápida pode ser decisiva. O terceiro é preventivo: câmeras com reconhecimento podem dissuadir crime em áreas específicas.

Esses argumentos enfrentam um problema de evidência. Avaliações independentes de impacto operacional são raras, e as que existem apresentam resultados mistos, dependendo do contexto local, da qualidade do sistema e da governança. Alegações de redução de crime atribuídas a câmeras são difíceis de isolar de outros fatores.

Ganhos de eficiência relatados por órgãos policiais nem sempre são acompanhados de avaliações independentes que isolem o efeito da tecnologia de outras mudanças operacionais. — síntese analítica a partir de documentos do NIST (abre em nova aba) e de litígios documentados (abre em nova aba)

Contra-argumentos e o que os dados não mostram

A crítica técnica se concentra em três pontos. O primeiro é o falso positivo: uma correspondência errada pode levar à prisão de pessoa inocente, com danos concretos e irreversíveis. O segundo é o viés demográfico, cuja magnitude varia por algoritmo e por base de dados, mas não desapareceu. O terceiro é a ausência de auditoria: a maioria dos sistemas em operação não passa por avaliação independente contínua equivalente à do NIST, e não há padronização de métricas exigidas em contratos públicos.

O que os dados não mostram também limita as conclusões. Não existem estatísticas nacionais consolidadas de uso pelo setor público em muitos países; os contratos são frequentemente celebrados sem divulgação de detalhes técnicos; e não há medição sistemática de erros em operação real. As próprias métricas do NIST, por mais úteis que sejam, avaliam algoritmos em condições controladas e não substituem a medição de desempenho em campo, que quase nunca é publicada. Isso vale tanto para quem afirma que a tecnologia funciona quanto para quem afirma que ela falha — em ambos os casos, o que existe é documentação parcial.

O que observar

Quatro pontos merecem acompanhamento. O primeiro é a interpretação das exceções do AI Act na prática, incluindo o volume de autorizações concedidas e as salvaguardas aplicadas. O segundo é a evolução das diferenças demográficas nas avaliações contínuas do NIST. O terceiro é o conteúdo dos editais de contratação pública: especificação de métricas de erro, exigência de auditoria e vedação a determinados usos. O quarto é o destino dos litígios envolvendo empresas de busca facial e o efeito de decisões judiciais sobre a raspagem de imagens. Sem esses elementos, o debate permanece dividido entre promessas de eficiência e alertas de risco, ambos sem a verificação que os próprios documentos permitem exigir.