Governo dos EUA exige que empresas de IA entreguem dados sobre uso de chatbots por crianças
Medida acontece após denúncias de suicídio de menores de idade após a interação com chatbots; sete empresas precisarão entregar documentos ao FTC
O Federal Trade Commission (FTC), órgão responsável pela fiscalização antitruste de empresas americanas, ordenou que empresas de tecnologia entreguem à comissão dados sobre o impacto de chatbots de inteligência artificial (IA) na saúde mental de crianças e adolescentes. Ao todo, sete empresas, incluindo Google, Meta e OpenAI, deverão apresentar as informações como parte de uma pesquisa feita pelo órgão sobre o uso dos robôs de conversação.
A medida foi anunciada nesta quinta-feira, 11, e convocou o Instagram, a Meta, a Alphabet, dona do Google, Character AI, OpenAI, Snap e a xAI a entregar os dados ao FTC em um prazo que será estabelecido pela comissão. Cada empresa tem até o dia 25 de setembro para negociar as entregas das informações.
Entre os dados a serem apresentados pelas empresas estão a forma como crianças e adolescentes utilizam os chatbots, o que as companhias estão fazendo para mitigar os danos causados pelas conversas, como o engajamento é monetizado pelas empresas e como elas processam os comandos feitos pelos usuários menores de idade e como é a cadeia de respostas nessa faixa etária.
A ideia, segundo o FTC, é entender como essas empresas estão lidando com o uso de seus chatbots por crianças e adolescentes e quais os mecanismos de segurança existentes no treinamento e nas respostas fornecidas pela IA. Ainda, de acordo com o órgão, o objetivo não é coagir as companhias, portanto, os dados não serão usados em nenhum processo judicial.
"Proteger as crianças online é uma prioridade máxima para a FTC de Trump-Vance, assim como promover a inovação em setores críticos da nossa economia", afirmou o presidente da FTC, Andrew N. Ferguson. "À medida que as tecnologias de IA evoluem, é importante considerar os efeitos que os chatbots podem ter sobre as crianças, ao mesmo tempo em que se garante que os Estados Unidos mantenham seu papel de líder global neste novo e empolgante setor. O estudo que estamos lançando hoje nos ajudará a entender melhor como as empresas de IA estão desenvolvendo seus produtos e as medidas que estão tomando para proteger as crianças."
O momento é crucial para a pesquisa do FTC. Nos últimos meses, dezenas de pais têm buscado a justiça americana para processar empresas de chatbots de IA por algum dano causado a crianças e adolescentes. Em casos mais graves, familiares relatam que adolescentes teriam cometido suicídio após conversas com as IAs das companhias citadas pelo órgão.
