Robô aspirador registra mulher no banheiro e fotos são divulgadas online
Programa de treinamento de inteligência artificial da iRobot falha na proteção à privacidade, mostra reportagem
Uma mulher foi fotografada no banheiro de casa por um robô aspirador da iRobot, marca mais famosa de dispositivos do tipo, e teve as imagens divulgadas em fóruns online. Segundo uma investigação da revista Technology Review, essa não foi a única violação de privacidade causada pelos equipamentos - a publicação diz que o aspirador também registrou o rosto de uma criança.
O registro e o vazamento das informações ocorreram no final de 2020 como parte de um programa da iRobot de desenvolvimento de inteligência artificial (IA). Os equipamentos, versões modificadas do modelo Roomba J7, faziam as imagens e as enviavam para a Scale AI, uma startup que contrata humanos de diversas partes do mundo para classificar áudio, vídeos e fotos usados para treinar sistemas de IA. As imagens são capturadas pelos robôs, enviadas para a nuvem e acessadas pelos funcionários.
As imagens, porém, foram vazadas para grupos fechados na internet. Além da foto da mulher e da criança, a reportagem afirma ter tido acesso neste ano a 15 screenshots que revelam o interior de residências em diferentes partes do mundo.
A iRobot, que foi comprada em agosto pela Amazon por US$ 1,7 bilhão (o negócio depende da aprovação de autoridades), confirmou a autenticidade das imagens, mas disse que a versão modificada do Roomba J7 não foi disponibilizada para os consumidores. Segundo a companhia, os equipamentos foram distribuídos para funcionários e pessoas contratadas para fazer a coleta de imagens. A iRobot diz ainda que essas pessoas assinaram um termo no qual concordavam com a coleta e o envio das imagens para o treinamento de sistemas de IA.
A empresa disse que era responsabilidade das pessoas manter os robôs fora do alcance de situações que as deixassem desconfortáveis.
A iRobot confirmou que 13 das 15 imagens vazadas foram feitas pelos seus robôs entre junho e novembro de 2020 em países como Estados Unidos, Japão, França, Alemanha e Espanha. A companhia, porém, disse que as postagens das imagens violaram o seu contrato com a Scale - ela não disse se vai deixar de trabalhar com a startup.
No caso da mulher no banheiro, o rosto dela foi coberto pelo funcionário que classificou a imagem, embora o mesmo não tenha acontecido com outros rostos flagrados pelo equipamento. A iRobot disse que quando recebe imagens de nudez, nudez parcial ou sexo, o material é deletado da íntegra. Porém, a companhia não falou se esse processo de classificação é feito por um humano ou um algoritmo. A iRobot também não explicou a razão para a foto da mulher no banheiro não ter sido excluída.
