5 eventos ao vivo

Homem negro é preso injustamente por causa de reconhecimento facial defeituoso

No que pode ser o primeiro caso conhecido desse tipo, uma falha no reconhecimento facial levou à prisão de um homem de Michigan por um crime que não cometeu

26 jun 2020
05h12
  • separator
  • 0
  • comentários
  • separator

Nota: em resposta a este artigo, a promotoria do condado de Wayne disse que o caso e os dados de impressões digitais de Robert Julian-Borchak Williams podem ser apagados. "Pedimos desculpas", disse o promotor, Kym Worthy, em comunicado. "Isto não compensa as horas que o sr. Williams passou na prisão".

Numa tarde de quinta-feira, em janeiro deste ano, Robert Julian-Borchak Williams estava em sua sala na empresa de suprimentos automotivos onde trabalha quando recebeu uma ligação do Departamento de Polícia de Detroit pedindo que ele comparecesse à delegacia para ser preso. Ele achou que era brincadeira.

Uma hora depois, quando ele parava o carro na garagem de casa, no bairro tranquilo de Farmington Hills, Michigan, uma viatura da polícia parou atrás dele, fechando sua saída. Dois policiais saíram e algemaram Williams no gramado, na frente da esposa e das duas filhas, que ficaram perplexas. A polícia não disse por que ele estava sendo preso, apenas mostrou um pedaço de papel com sua foto e as palavras "sentença judicial" e "furto".

Sua esposa, Melissa Williams, perguntou para onde o estavam levando. "Pesquise no Google", ela se lembra de o policial ter respondido.

A polícia levou Robert Williams a um centro de detenção. Tiraram sua foto, registraram suas impressões digitais e pegaram amostras de seu DNA. Ele passou a noite na cadeia. Por volta do meio-dia de sexta-feira, dois investigadores o levaram a uma sala de interrogatório e colocaram três folhas de papel sobre a mesa, com a face para baixo.

"Quando foi a última vez que você foi a uma loja da Shinola?", um dos investigadores perguntou, segundo a lembrança de Williams. Shinola é uma boutique de luxo que vende relógios, bicicletas e artigos de couro no moderno bairro de Midtown, em Detroit. Williams disse que ele e sua esposa deram uma passada quando a loja foi inaugurada, em 2014.

O detetive virou a primeira folha de papel. Era a imagem pausada do vídeo de uma câmera de vigilância, mostrando um homem corpulento, vestido de preto e com um boné vermelho do St. Louis Cardinals, em pé diante de uma vitrine de relógios. Cinco relógios, no valor de US$ 3,8 mil, foram furtados.

"É você?", perguntou o detetive.

A segunda folha de papel era um close no rosto do homem. A foto estava embaçada, mas claramente não era Williams. Ele pegou a imagem e a analisou de perto.

"Não, não sou eu", disse Williams. "Você acha que todos os negros têm a mesma cara?".

Williams sabia muito bem que não havia cometido o crime em questão. O que ele não tinha como saber, sentado ali na sala de interrogatório, é que seu caso pode ser o primeiro relato conhecido de um americano preso indevidamente com base no equívoco de um algoritmo de reconhecimento facial, de acordo com especialistas em tecnologia e leis.

Um sistema defeituoso

Está ocorrendo um debate nacional sobre o racismo na aplicação da lei. Em todo o país, milhões de pessoas protestam não apenas contra as ações de policiais isolados, mas também contra preconceitos nos sistemas empregados para vigiar as comunidades e identificar os suspeitos.

Os sistemas de reconhecimento facial são utilizados pelas forças policiais há mais de duas décadas. Estudos recentes do Instituto de Tecnologia de Massachusetts (MIT) e do Instituto Nacional de Padrões e Tecnologia (NIST) revelaram que, embora a tecnologia funcione relativamente bem com os brancos, os resultados são menos precisos para outros grupos demográficos, por causa, pelo menos em parte, da falta de diversidade nas imagens usadas para desenvolver os bancos de dados.

No ano passado, durante uma audiência pública sobre o uso do reconhecimento facial em Detroit, um chefe de polícia foi um dos que manifestaram preocupações. "A questão dos falsos positivos é absolutamente factual e está bem documentada", disse James White. "Então isso me preocupa como homem afro-americano".

Neste mês, Amazon, Microsoft e IBM anunciaram que iriam interromper seus produtos de reconhecimento facial para as autoridades de segurança. Foram gestos simbólicos, uma vez que as empresas não são grandes players do setor. Os produtos tecnológicos usados pelos departamentos de polícia são fornecidos por empresas que não são conhecidas pelos consumidores comuns, como Vigilant Solutions, Cognitec, NEC, Rank One Computing e Clearview AI.

Clare Garvie, advogada do Centro de Privacidade e Tecnologia da Universidade de Georgetown, vem escrevendo sobre problemas com o uso do reconhecimento facial pelo governo. Ela argumenta que as imagens de baixa qualidade - como as imagens granuladas de câmeras de vigilância - devem ser proibidas e que os sistemas em uso devem ser testados rigorosamente quanto à precisão e ao viés.

Uma lista perpétua

O caso de Williams combina falha tecnológica com péssimo trabalho policial, ilustrando como o reconhecimento facial pode dar errado.

O furto na Shinola ocorreu em outubro de 2018. Katherine Johnston, investigadora da Mackinac Partners, uma empresa de prevenção de perdas, analisou o vídeo de vigilância da loja e enviou uma cópia para a polícia de Detroit, de acordo com o relatório.

Cinco meses depois, em março de 2019, Jennifer Coulson, examinadora de imagens digitais da Polícia do Estado de Michigan, fez o upload de uma "imagem de sondagem" - uma imagem pausada do vídeo, mostrando o homem com o boné do Cardinals - no banco de dados de reconhecimento facial do estado. O sistema deveria mapear o rosto e procurar outros semelhantes dentro de uma coleção de 49 milhões de fotos.

A tecnologia do estado custa US$ 5,5 milhões é fornecida por uma empresa chamada DataWorks Plus. Fundada na Carolina do Sul em 2000, a empresa começou oferecendo um software de gerenciamento de fotos de registros policiais, disse Todd Pastorini, gerente geral. Em 2005, a empresa começou a expandir o produto, adicionando ferramentas de reconhecimento facial desenvolvidas por terceiros.

Quando uma destas empresas terceirizadas desenvolve um algoritmo para reconhecer rostos, a DataWorks tenta avaliar sua eficácia executando pesquisas com imagens de baixa qualidade de pessoas que sabe que estão presentes no sistema. "Já testamos muitos algoritmos horríveis por aí", disse Pastorini. Esses testes, acrescentou ele, não são "científicos"; a DataWorks não mede formalmente a precisão ou o viés dos sistemas.

"Nós nos tornamos pseudo-especialistas em tecnologia", disse Pastorini.

Em Michigan, o software da DataWorks usado pela polícia estadual incorpora componentes desenvolvidos pela gigante japonesa NEC e pela Rank One Computing, que tem sede no Colorado, segundo Pastorini e uma porta-voz da polícia estadual. Em 2019, algoritmos de ambas as empresas fizeram parte de um estudo federal com mais de 100 sistemas de reconhecimento facial. O estudo revelou que estes sistemas eram tendenciosos e erravam na identificação de rostos afro-americanos e asiáticos de 10 a 100 vezes mais do que na identificação de rostos caucasianos.

Brendan Klare, executivo-chefe da Rank One, disse que a empresa desenvolveu um novo algoritmo que "diminui as diferenças de precisão entre diferentes grupos demográficos".

Depois que Coulson, da polícia do estado, rodou sua pesquisa com a imagem de sondagem, o sistema apresentou uma linha de resultados gerada pela NEC e uma linha gerada pela Rank One, juntamente com os índices de confiabilidade. A foto da carteira de motorista de Williams apareceu entre os resultados. Coulson a enviou à polícia de Detroit anexada a um "Relatório de pista investigativa".

"Este documento não é uma identificação positiva", lê-se na parte superior do arquivo, em negrito e letras maiúsculas. "Trata-se apenas uma pista de investigação que não é causa provável para prisão".

É isto que os fornecedores de tecnologia e as autoridades sempre enfatizam ao defender o reconhecimento facial: deve-se partir do pressuposto que se trata apenas de uma pista no caso, não uma prova cabal. Antes de prender Williams, os investigadores deveriam ter procurado outras evidências de que ele cometera o crime, como testemunhas oculares, dados de localização de seu telefone ou provas de que ele possuía as roupas que o suspeito estava vestindo.

Mas, neste caso, de acordo com o relatório da polícia de Detroit, os investigadores simplesmente incluíram a foto de Williams numa "lista" que eles criaram e mostraram a Johnston, a contratada responsável pela prevenção de perdas da Shinola. E ela o identificou como o autor do furto. (Johnston se recusou a comentar.)

"Acho que o computador se enganou"

A sexta-feira em que Williams se viu na sala de interrogatório da polícia de Detroit foi um dia antes de seu aniversário de 42 anos. Naquela manhã, sua esposa mandou um e-mail para o chefe dele, dizendo que ele não poderia trabalhar por causa de uma emergência familiar. Foi o fim de uma sequência de quatro anos sem nenhuma falta.

Na lembrança de Williams, depois que ele analisou de perto a imagem da câmera de vigilância, os dois investigadores se recostaram nas cadeiras e se entreolharam. Um deles, parecendo envergonhado, disse ao parceiro: "Acho que o computador se enganou".

Então, eles viraram o terceiro pedaço de papel: mais uma foto do homem da loja da Shinola, ao lado da carteira de motorista de Williams. Ele apontou, mais uma vez, que não se tratava da mesma pessoa.

Williams perguntou se ele estava liberado. "Infelizmente não", disse um dos investigadores.

Williams ficou sob custódia até aquela noite, 30 horas depois de ser preso, e só foi liberado depois de pagar uma fiança de US$ 1 mil. Ele ficou esperando do lado de fora, na chuva, por mais de meia hora, até que sua esposa pudesse buscá-lo. Quando chegou em casa, às dez da noite, sua filha de 5 anos ainda estava acordada. Ela disse que estava esperando por ele, porque ele havia dito, da prisão, que voltaria logo.

Desde então, ela começou a brincar de "polícia e ladrão", acusando o pai de roubar coisas e insistindo em "trancá-lo" na sala de estar.

Procurando ajuda

A família Williams entrou em contato com advogados de defesa, a maioria dos quais, segundo eles, presumiu que Williams era culpado do crime e cobrou cerca de US$ 7 mil para representá-lo. A esposa de Williams, diretora de marketing imobiliário e blogueira de alimentação, também tuitou para a União Americana das Liberdades Civis (ACLU, na sigla em inglês) de Michigan, que demonstrou interesse de imediato.

"Estamos atuando na tentativa de alertar para os riscos do reconhecimento facial, tanto como ameaça à privacidade, quando funciona, quanto como ameaça racista para todos, quando não funciona", disse Phil Mayor, advogado da organização. "Sabemos que essas histórias estão por aí, mas é difícil chegar até elas, porque as pessoas geralmente não percebem que foram vítimas de uma busca de reconhecimento equivocada".

Duas semanas após sua prisão, Williams tirou um dia de férias para comparecer a um tribunal do Condado de Wayne por causa da acusação. Quando o caso foi instaurado, o promotor decidiu dispensá-lo, mas "sem trânsito em julgado", o que significava que Williams poderia voltar a ser acusado.

Na quarta-feira, a ACLU de Michigan registrou uma queixa, solicitando o arquivamento definitivo do caso, um pedido de desculpas e a remoção das informações de Williams dos bancos de dados criminais de Detroit.

Desde então, Williams descobriu o que estava fazendo na noite do furto. Ele estava voltando do trabalho para casa e acabou postando um vídeo em sua conta de Instagram, porque a rádio estava tocando uma música que ele adora: 'We Are One', de 1983, de Maze e Frankie Beverly. A letra diz:

I can't understand

Why we treat each other in this way

Taking up time

With the silly, silly games we play

[Não consigo entender

Por que a gente se trata assim

Perdendo tempo

Jogando esses jogos bobos]

Ele tinha um álibi, caso a polícia de Detroit quisesse saber. /TRADUÇÃO DE RENATO PRELORENTZOU

Veja também:

Veja como funciona a Bixby, assistente de voz da Samsung
Estadão
  • separator
  • 0
  • comentários
publicidade