O Google e a startup de inteligência artificial Character.AI aceitaram um acordo para encerrar um processo judicial aberto por uma mãe no estado norte-americano da Flórida que alegava que o chatbot da startup levou seu filho de 14 anos ao suicídio.
O caso é um dos primeiros nos EUA a alegar danos psicológicos produzidos por empresas de IA aos usuários.
O Burj Khalifa ficou pequeno: mega arranha-céu assume posto de mais alto do mundo com 1 km de altura e desafia as leis da engenharia
Drone submarino da Ucrânia consegue o impensável: entrar em um dos portos russos mais bem protegidos e atacar um navio
China apresenta máquina extremamente poderosa capaz "comprimir o tempo" gerando 1.900 vezes a gravidade da Terra
As empresas concordaram em resolver as alegações de Megan Garcia de que seu filho Sewell Setzer se matou logo após ser incentivado por um chatbot da Character.AI modelado na personagem Daenerys Targaryen de "Game of Thrones".
Os termos do acordo não foram divulgados de imediato. O processo é um dos primeiros nos EUA contra uma empresa de inteligência artificial por supostamente não proteger crianças de danos psicológicos.
Um porta-voz da Character.AI e um advogado dos autores da ação não quiseram comentar. Porta-vozes e advogados do Google não responderam imediatamente a um pedido de comentário.
Na ação judicial da Flórida, ajuizada em outubro de 2024, Garcia disse que a Character.AI programou seus chatbots para se apresentarem como "uma pessoa real, um psicoterapeuta licenciado e um amante adulto, resultando, em última análise, no desejo de Sewell de não mais viver fora" desse mundo.
A Character.AI foi fundada por dois ex-engenheiros do Google, que o Google posteriormente recontratou como parte de um acordo que lhe concedeu uma licença para a tecnologia da startup. Garcia argumenta que o Google é um cocriador da tecnologia.
A juíza distrital dos EUA, Anne Conway, rejeitou a proposta inicial das empresas de arquivar o caso em maio, rejeitando o argumento de que as proteções de liberdade de expressão da Constituição dos EUA impediam a continuidade do processo de Garcia.
A OpenAI está enfrentando uma ação judicial separada, aberta em dezembro, sobre o suposto papel do ChatGPT em encorajar um doente mental de Connecticut a matar sua mãe e a si mesmo.
