O assistente virtual Claude anunciou que vai identificar textos e imagens que foram produzidos com inteligência artificial dentro da sua plataforma. A partir de agora, os conteúdos criados carregarão marcas d'água capazes de distingui-los. A mudança pode ganhar relevância especialmente no ambiente acadêmico, onde ferramentas de inteligência artificial vêm sendo utilizadas para auxiliar na produção de textos, pesquisas e trabalhos.
A decisão entra em conformidade com a nova legislação da União Europeia, que exige que empresas de tecnologia criem uma marca d'água para identificar os materiais criados com inteligência artificial.
De acordo com a empresa desenvolvedora da plataforma, a Anthropic, todos os modelos do Claude lançados a partir de 2 de agosto carregarão a novidade. As versões antigas também devem se enquadrar na determinação, mas precisarão passar por atualizações durante um período de transição.
A empresa declarou que a identificação não será perceptível para quem acessar o conteúdo. Tampouco a atualização representará uma mudança na qualidade ou sentido do material.
"Como a marca d'água faz parte do texto, ela o acompanhará quando for copiado e colado em outro lugar e poderá persistir mesmo após algumas edições", revelou a Anthropic.
As imagens, por sua vez, poderão ser identificadas por meio dos metadados. Na prática, uma espécie de etiqueta invisível será incorporada no arquivo, permitindo identificar a data de criação, o autor ou o dispositivo utilizado para gerá-las.
Além disso, a Anthropic estenderá a novidade para todo o mercado e não se restringirá à União Europeia. A empresa ainda afirmou que está trabalhando em recursos que permitam que os usuários detectem as marcas d'água incorporadas nos textos e nas imagens.
Saiba o que motivou a decisão
A Lei de IA da União Europeia estabelece uma série de diretrizes que os desenvolvedores de inteligência artificial devem seguir, a fim de monitorar e reduzir riscos de ataques cibernéticos, manipulação maliciosa, ameaças a direitos fundamentais e situações em que a IA possa agir sem controle humano.
Recentemente, a OpenAI e a Anthropic informaram a União Europeia sobre incidentes em que seus modelos de inteligência artificial realizaram ataques cibernéticos por conta própria durante a realização de testes.
