Google e empresa de IA devem enfrentar ação judicial movida por uma mãe sobre suicídio do filho, decide tribunal dos EUA
O Google, da Alphabet, e a startup de inteligência artificial Character.AI devem enfrentar um processo judicial movido por uma mulher da Flórida que disse que os chatbots da Character.AI causaram o suicídio de seu filho de 14 anos, segundo decisão de uma juíza nesta quarta-feira.
A juíza distrital Anne Conway disse que as empresas não conseguiram demonstrar, em um estágio inicial do caso, que as proteções à liberdade de expressão da Constituição dos EUA impediam a ação judicial de Megan Garcia.
-vbhy7z37h1dd.png)
O processo é um dos primeiros nos Estados Unidos contra uma empresa de IA por supostamente não proteger menores de danos psicológicos. Ela alega que o adolescente se matou depois de ficar obcecado por um chatbot alimentado por IA.
Um porta-voz da Character.AI disse que a empresa continuará a lutar contra o caso e emprega recursos de segurança em sua plataforma para proteger menores, incluindo medidas para evitar "conversas sobre automutilação".
O porta-voz do Google, José Castañeda, disse que a empresa discorda totalmente da decisão. Castañeda também disse que o Google e a Character.AI são "totalmente separados" e que o Google "não criou, projetou ou gerenciou o aplicativo da Character.AI ou qualquer componente dele".
A advogada de Garcia, Meetali Jain, disse que a decisão "histórica" "estabelece um novo precedente para a responsabilidade legal em todo o ecossistema de IA e tecnologia".
A Character.AI foi fundada por dois ex-engenheiros do Google, que o Google posteriormente recontratou como parte de um acordo que lhe concedeu uma licença para a tecnologia da startup. Garcia argumentou que o Google era um cocriador da tecnologia.
Garcia processou as duas empresas em outubro, após a morte de seu filho, Sewell Setzer, em fevereiro de 2024.
O processo diz que a Character.AI programou seus chatbots para se apresentarem como "uma pessoa real, uma psicoterapeuta licenciada e uma parceira amorosa adulta, resultando no desejo de Sewell de não viver mais fora" de seu mundo.
De acordo com a denúncia, Setzer tirou a própria vida momentos depois de dizer a um chatbot da Character.AI que imitava a personagem Daenerys Targaryen, de "Game of Thrones", que ele "voltaria para casa agora mesmo".
A Character.AI e o Google pediram ao tribunal que rejeitasse a ação por vários motivos, incluindo o fato de que a produção dos chatbots era uma liberdade de expressão protegida pela Constituição.
A juíza também rejeitou o pedido do Google para que a empresa não fosse responsabilizada por auxiliar a suposta má conduta da Character.AI.
((Tradução Redação São Paulo)) REUTERS AC
Reuters - Esta publicação inclusive informação e dados são de propriedade intelectual de Reuters. Fica expresamente proibido seu uso ou de seu nome sem a prévia autorização de Reuters. Todos os direitos reservados.
