O reconhecimento facial levou a prisões injustas. Então Detroit está fazendo mudanças.

Em janeiro de 2020, Robert Williams passou 30 horas numa prisão de Detroit porque a tecnologia de reconhecimento facial sugeria que ele era um criminoso. A combinação estava errada e o Sr. Williams processou.

Na sexta-feira, como parte de uma acordo legal por causa de sua prisão injusta, o Sr. Williams conseguiu do Departamento de Polícia de Detroit o compromisso de fazer melhor. A cidade adotou novas regras para o uso policial da tecnologia de reconhecimento facial que a União Americana pelas Liberdades Civis, que representou Williams, diz que deveria ser o novo padrão nacional.

“Esperamos que isso mova a agulha na direção certa”, disse o Sr. Williams.

Williams foi a primeira pessoa conhecida a ser presa injustamente com base em falha no reconhecimento facial. Mas ele não foi o último. A polícia de Detroit prendeu pelo menos duas outras pessoas como resultado de pesquisas de reconhecimento facial que deram errado, incluindo uma mulher que foi acusada de roubo de carro quando estava grávida de oito meses.

Agências de aplicação da lei em todo o país usam tecnologia de reconhecimento facial para tentar identificar criminosos cujos delitos são capturados por câmeras. Em Michigan, o software compara um rosto desconhecido àqueles em um banco de dados de fotos de fichamento ou fotos de carteira de motorista. Em outras jurisdições, a polícia usa ferramentas, como Clearview AI, que pesquisam fotos coletadas de sites de mídia social e da internet pública.

Uma das novas regras mais importantes adotadas em Detroit é que as imagens de pessoas identificadas por meio da tecnologia de reconhecimento facial não podem mais ser mostradas a uma testemunha ocular em uma série de fotos, a menos que haja outras evidências que as liguem ao crime.

“O ciclo de 'tirar uma foto, colocá-la em uma escalação' vai acabar”, disse Phil Mayor, advogado da ACLU de Michigan. “Este acordo faz com que o Departamento de Polícia de Detroit deixe de ser o usuário indevido mais bem documentado da tecnologia de reconhecimento facial e se torne um líder nacional em ter proteções em seu uso.”

A polícia diz que a tecnologia de reconhecimento facial é uma ferramenta poderosa para ajudar a resolver crimes, mas algumas cidades e estados, incluindo São Francisco; Austin, Texas; e Portland, Oregon, proibiram temporariamente seu uso devido a preocupações com privacidade e preconceito racial. Stephen Lamoreaux, chefe de informática da unidade de inteligência criminal de Detroit, disse que o Departamento de Polícia estava “muito interessado em usar a tecnologia de forma significativa para a segurança pública”. Detroit, ele afirmou, tem “a política mais forte do país agora”.

Como isso dá errado

Williams foi preso após um crime ocorrido em 2018. Um homem roubou cinco relógios de uma boutique no centro de Detroit, enquanto era gravado por uma câmera de vigilância. Uma empresa de prevenção de perdas forneceu as imagens ao Departamento de Polícia de Detroit.

Uma busca do rosto do homem em comparação com fotos da carteira de motorista e fotos de identificação produziu 243 fotos, classificadas em ordem de confiança do sistema de que era a mesma pessoa no vídeo de vigilância, de acordo com documentos divulgados como parte do processo do Sr. Williams. Uma foto antiga da carteira de motorista do Sr. Williams estava em nono lugar na lista. A pessoa que estava conduzindo a busca o considerou a melhor combinação e enviou um relatório a um detetive da polícia de Detroit.

O detetive incluiu a foto de Williams em uma “lista de fotos de seis pacotes” – fotos de seis pessoas em uma grade – que ele mostrou ao contratante de segurança que havia fornecido o vídeo de vigilância da loja. Ela concordou que o Sr. Williams era o homem mais próximo do homem da boutique, e isso levou ao mandado de prisão. Williams, que estava em sua mesa em uma empresa de fornecimento automotivo quando os relógios foram roubados, passou a noite na prisão e teve suas impressões digitais e DNA coletados. Ele foi acusado de fraude no varejo e teve que contratar um advogado para se defender. Os promotores acabaram arquivando o caso.

Ele processou Detroit em 2021 na esperança de forçar a proibição da tecnologia para que outros não sofressem seu destino. Ele disse que ficou chateado no ano passado quando soube que a polícia de Detroit havia acusado Porcha Woodruff de roubo de carro e roubo após uma péssima partida de reconhecimento facial. A polícia prendeu a Sra. Woodruff enquanto ela preparava os filhos para a escola. Ela também processou a cidade; o processo está em andamento.

“É tão perigoso”, disse Williams, referindo-se à tecnologia de reconhecimento facial. “Não vejo nenhum benefício positivo nisso.”

As novas regras

A polícia de Detroit é responsável por três dos sete casos conhecidos em que o reconhecimento facial levou a uma prisão injusta. (Os outros estavam em Louisiana, Nova Jersey, Maryland e Texas.) Mas as autoridades de Detroit disseram que os novos controles evitariam mais abusos. E continuam optimistas quanto ao potencial de resolução de crimes da tecnologia, que agora utilizam apenas em casos de crimes graves, incluindo assaltos, homicídios e invasões domiciliárias.

James White, chefe da polícia de Detroit, culpou o “erro humano” pelas prisões injustas. Seus oficiais, disse ele, dependiam demais das pistas que a tecnologia produzia. Foi o julgamento deles que falhou, não o da máquina.

A nova política, que entra em vigor neste mês, deve ajudar nisso. Segundo as novas regras, a polícia já não pode mostrar o rosto de uma pessoa a uma testemunha ocular com base apenas numa correspondência de reconhecimento facial.

“Tem que haver algum tipo de evidência secundária corroborante que não esteja relacionada antes que haja justificativa suficiente para ir para a escalação”, disse Sr. Lamoreaux da unidade de inteligência criminal de Detroit. A polícia precisaria de informações de localização do telefone de uma pessoa, digamos, ou evidências de DNA — algo mais do que uma semelhança física.

O departamento também está mudando a forma como conduz as escalações de fotos. Ele está adotando o que é chamado de sequencial duplo-cego, que é considerado uma maneira mais justa de identificar alguém. Em vez de apresentar um “pacote de seis” a uma testemunha, um policial — alguém que não sabe quem é o suspeito principal — apresenta as fotos uma de cada vez. E a escalação inclui uma foto diferente da pessoa daquela que o sistema de reconhecimento facial revelou.

A polícia também precisará revelar que uma busca facial aconteceu, bem como a qualidade da imagem do rosto sendo revistado — Quão granulada era a câmera de vigilância? Quão visível é o rosto do suspeito? — porque uma imagem de baixa qualidade tem menos probabilidade de produzir resultados confiáveis. Eles também terão que revelar a idade da foto que apareceu pelo sistema automatizado e se havia outras fotos da pessoa no banco de dados que não apareceram como uma correspondência.

Franklin Hayes, vice-chefe de polícia de Detroit, disse estar confiante de que as novas práticas evitariam futuras identificações incorretas.

“Ainda há algumas coisas que podem escorregar, por exemplo, gêmeos idênticos”, disse o Sr. Hayes. “Nós nunca podemos dizer nunca, mas sentimos que esta é nossa melhor política até agora.”

Arun Ross, professor de ciência da computação na Universidade Estadual de Michigan e especialista em tecnologia de reconhecimento facial, disse que a política de Detroit foi um ótimo ponto de partida e que outras agências deveriam adotá-la.

“Não queremos atropelar os direitos e a privacidade dos indivíduos, mas também não queremos que o crime seja galopante”, disse Ross.

Quanto isso ajuda?

A identificação de testemunhas oculares é uma preocupante esforço, e a polícia adotou câmeras e reconhecimento facial como ferramentas mais confiáveis ​​do que a memória humana imperfeita.

Chefe Branco contado legisladores locais disseram no ano passado que a tecnologia de reconhecimento facial ajudou a “tirar 16 assassinos das ruas”. Quando solicitados a fornecer mais informações, os funcionários do Departamento de Polícia não forneceram detalhes sobre esses casos.

Em vez disso, para demonstrar os sucessos do departamento com a tecnologia, os agentes policiais desempenharam um papel vídeo de vigilância de um homem que jogou combustível dentro de um posto de gasolina e ateou fogo. Eles disseram que ele foi identificado com tecnologia de reconhecimento facial e preso naquela noite. Ele mais tarde declarou-se culpado.

O Departamento de Polícia de Detroit é um dos poucos que monitora suas buscas de reconhecimento facial, enviando relatórios semanais sobre seu uso a um conselho de supervisão. Nos últimos anos, foram realizadas em média mais de 100 pesquisas por ano, com cerca de metade dessas pesquisas revelando possíveis correspondências.

O departamento mantém registro apenas da frequência com que obtém uma pista, não se a pista dá certo. Mas, como parte do acordo com o Sr. Williams — que também recebeu US$ 300.000, de acordo com um porta-voz da polícia —, ele precisa conduzir uma auditoria de suas buscas de reconhecimento facial desde quando começou a usar a tecnologia em 2017. Se identificar outros casos em que pessoas foram presas com pouca ou nenhuma outra evidência de apoio além de uma correspondência facial, o departamento deve alertar o promotor relevante.

Molly Kleinman, diretora de um centro de pesquisa tecnológica da Universidade de Michigan, disse que as novas proteções pareciam promissoras, mas ela permaneceu cética.

“Detroit é uma cidade extraordinariamente vigiada. Há câmeras por toda parte”, disse ela. “Se toda esta tecnologia de vigilância realmente fizesse o que afirma, Detroit seria uma das cidades mais seguras do país.”

Willie Burton, membro do Conselho de Comissários da Polícia, um grupo de supervisão que aprovou as novas políticas, descreveu-as como “um passo na direcção certa”, embora ainda se opusesse à utilização da tecnologia de reconhecimento facial pela polícia.

“A tecnologia ainda não está pronta”, disse o Sr. Burton. “Uma prisão falsa é uma a mais, e ter três em Detroit deveria soar um alarme para descontinuá-la.”