Anthropic diz que agentes de IA rebeldes representam risco jurídico incerto

A Anthropic pode enfrentar ações judiciais de clientes ‌e usuários em relação aos atos de agentes de inteligência artificial rebeldes da empresa, embora o marco jurídico seja incerto, afirmou a companhia em prospecto de oferta inicial de ações (IPO), ao qual a Reuters teve acesso.

Enquanto se prepara para o que pode ser o maior IPO da história, a Anthropic enfrenta a possibilidade de um enorme risco jurídico desconhecido caso sua tecnologia de IA autônoma, projetada para manter acesso profundo aos sistemas dos clientes e operar ⁠de forma autônoma por dias a fio, saia do controle.

Notícias relacionadas

A URSS perfurou um poço de 12.262 metros em 1970: o que parou as perfuradoras não foi a rocha nem o dinheiro

Cada vez mais programadores concordam sobre o seu futuro devido à IA: "A única coisa que fazemos é apertar Enter"

Astrônomos são incapazes de identificar este objeto eles só sabem que ele se move a 2 milhões de km/h e tenta sair da nossa galáxia

"Essas capacidades autônomas podem aumentar o potencial de danos, já que ‌erros, desalinhamentos ou vulnerabilidades de segurança podem resultar em consequências no mundo real", afirmou a empresa nos documentos, citando a possibilidade de ações irreversíveis, como exclusão de dados ou transações financeiras.

Embora as plataformas online tenham desfrutado por ‌muito tempo de imunidade em relação ao conteúdo criado ou publicado por ‌usuários, esse escudo jurídico começou a se rachar diante das teorias de que as plataformas são produtos ⁠que podem ser defeituosos e perigosos. Não está claro se o uso de sistemas de IA receberia, de facto, o mesmo tratamento jurídico que as plataformas online.

Uma série de incidentes envolvendo agentes de IA rebeldes levou a um debate entre pesquisadores, investidores e parlamentares sobre quem é responsável pelos danos causados por um sistema de IA autônomo. Os ataques incluíram IA da OpenAI que invadiu uma startup e violaram um portal australiano de dados de saúde até vários ‌incidentes de segurança digital envolvendo os modelos de IA "Claude" da Anthropic.

Os limites à responsabilidade da Anthropic em seus contratos podem não ‌ser "exequíveis ou adequados" contra reclamações relacionadas ⁠às ações de agentes autônomos, ⁠afirmou a empresa nos documentos.

Questões sobre como as leis existentes se aplicam a agentes de IA "ainda não estão esclarecidas e podem ⁠nos expor a ações judiciais significativas e imprevisíveis", afirmou a empresa.

Se ‌as ações realizadas por agentes de IA ‌serão consideradas produtos, serviços ou algo mais é uma questão em aberto, afirmou. A Anthropic também acrescentou que outra questão em aberto é se e quando as ações de um agente de IA podem vincular legalmente o usuário que o utiliza.

Na semana passada, o presidente da Comissão Federal de Comércio dos EUA, Andrew ⁠Ferguson, afirmou que rejeita a ideia de agentes de IA antropomorfizados que "fogem do controle", sugerindo que os desenvolvedores ou usuários que instruem os agentes seriam os responsáveis em caso de danos.

"Obviamente, surgirão novas questões quando alguém usar a ferramenta e ela agir de maneira inesperada e imprevisível", disse ele no evento Reuters Momentum AI, nos EUA. "A responsabilidade deve recair sobre a pessoa que usou a ferramenta inocentemente ‌e obteve um resultado inesperado? Deve recair sobre o fabricante da ferramenta?"

Um porta-voz da Anthropic não respondeu imediatamente a um pedido de comentário.

AUTOLESÃO

A Anthropic também revelou que seus modelos de IA têm sido usados "de maneiras que poderiam ⁠levar à automutilação, a atos de violência contra terceiros ou a outros resultados adversos", apesar das medidas de segurança, informa a empresa no prospecto.

Enquanto a OpenAI enfrenta vários processos judiciais que associam o uso do ChatGPT a casos de suicídio e danos à saúde mental, a Anthropic, até o momento, não foi publicamente associada a tais incidentes.

A OpenAI apresentou mais de uma dúzia de defesas legais. A empresa afirmou que seus termos de serviço proíbem o uso do ChatGPT para automutilação, que está protegida pela Primeira Emenda e que é amparada por uma lei que isenta plataformas online de responsabilidade pelo conteúdo criado por terceiros.

Os tribunais rejeitaram as tentativas das empresas de mídia social de invocar essa lei em processos relacionados a danos à saúde mental de usuários jovens. A Meta e o Google foram considerados responsáveis por negligência no design do YouTube e do Instagram e por não terem alertado sobre seus perigos em um julgamento histórico no início deste ano.

Posteriormente, a Meta fez acordo para pagar US$18 bilhões ao longo de uma década para encerrar processos judiciais semelhantes movidos por estados norte-americanos.