Pai envia fotos do filho nu ao médico, e Google marca como crime
Fotos que estavam na nuvem do Google foram sinalizadas por algoritmo que detecta imagens de abuso infantil
Um pai, morador de San Francisco (EUA), teve sua conta do Google permanentemente excluída e foi alvo de investigação policial após ter enviado fotos de seu filho nu ao médico, no ano passado. O caso foi tema de reportagem do jornal The New York Times no domingo (21).
Identificado apenas por seu primeiro nome, Mark percebeu, em fevereiro de 2021, que o pênis do seu filho estava inchado e causando dor. Ele, então, decidiu agendar uma consulta médica por videochamada — era período de pandemia de covid. A enfermeira que os atendeu pediu que os pais tirassem fotos e fizessem upload na plataforma de mensagens do plano de saúde, para que o médico pudesse avaliá-las com antecedência.
Mark tirou as fotos com o seu celular. As imagens foram enviadas para o aparelho de sua esposa, que fez o upload delas na plataforma. O médico, assim, pôde realizar o diagnóstico e receitar o antibiótico usado no tratamento do menino. Mark, porém, começou a enfrentar uma série de problemas assim que a câmera de seu Android fez backup das fotos na nuvem do Google.
Como é a ferramenta do Google contra abuso infantil
A multinacional de tecnologia tem uma ferramenta automatizada que detecta imagens consideradas como abuso infantil. Em 2018, o Google desenvolveu uma inteligência artificial que, depois de ser alimentada com diversas imagens consideradas “certas” ou “erradas”, aprende a distinguir entre elas. Assim, o algoritmo seria capaz de sinalizar uma foto de abuso infantil, mas não uma imagem considerada inocente, como a de um bebê numa banheira.
A ferramenta, portanto, não era capaz de entender o contexto da imagem. A foto que Mark tirou, um close-up da região genital de seu filho, foi entendida como abuso infantil, já que o algoritmo não poderia saber os motivos pelos quais ela foi tirada.
A imagem só foi identificada porque sofreu uma ação, neste caso, o upload na nuvem do Google — a tecnologia não faz varreduras de álbuns de foto do aparelho, por exemplo. Após ser sinalizada, a imagem ainda passou pela avaliação de um ser humano — um moderador de conteúdo do Google — que tem a função de confirmar se o material sinalizado realmente representa abuso infantil. No caso de Mark, o moderador entendeu que era.
O que aconteceu com o pai do menino?
Dois dias após tirar as fotos, a conta Google de Mark foi desabilitada; depois, excluída definitivamente, o que fez com que perdesse contatos e dados importantes, como fotos e vídeos do primeiro ano de vida de seu filho. Mark preencheu um formulário solicitando que o Google revisasse a decisão, mas a resposta foi que sua conta não seria restaurada.
Os problemas não foram apenas relativos à sua vida digital. Em dezembro de 2021, Mark foi informado de que o Departamento de Polícia de San Francisco havia aberto uma investigação contra ele. É que após detectar imagens consideradas como abuso infantil, o Google, além de desativar a conta do suspeito, envia um aviso ao Centro Nacional para Crianças Desaparecidas e Exploradas, conforme exige a lei federal.
Automatização x telemedicina
Um investigador, com um mandado, analisou nos meses anteriores diversas informações da conta do Google de Mark, incluindo pesquisas na internet, histórico de localização, mensagens e documentos arquivados. A conclusão da investigação foi que nenhum crime havia ocorrido.
Mark chegou a pedir ao investigador se podia ajudá-lo para que o Google lhe devolvesse o acesso à conta, mas não havia nada que pudesse ser feito. Mark fez mais um apelo à empresa, apresentando o relatório policial, mas ainda não recuperou a conta.
Ao New York Times, Claire Lilley, chefe de operações de segurança Infantil do Google, afirmou que a empresa reconhece que, na era da telemedicina, pode ser necessário que pais tirem fotos de seus filhos para obter um diagnóstico. “A companhia consultou pediatras para que os revisores humanos entendam possíveis condições que possam aparecer em fotografias tiradas por motivos médicos”, disse.
