A empresa Transluce informou que agentes de IA tentaram invadir o site da Biblioteca e Arquivos do Canadá, embora o governo afirme que não houve invasão bem-sucedida. As táticas lembram as da OpenAI, que declarou estar analisando o caso com autoridades canadenses. O incidente intensifica os temores sobre a segurança de modelos autônomos, ocorrendo pouco depois de um agente da OpenAI acessar indevidamente dados de saúde do governo australiano.
Uma empresa de pesquisa em inteligência artificial afirmou nesta quarta-feira que agentes de IA tentaram invadir um site do governo do Canadá, classificando a ação como uma tentativa fracassada de invasão, enquanto o Canadá afirmou que não havia indícios de que seus sistemas tivessem sido comprometidos.
A empresa de pesquisa em IA Transluce afirmou que as tentativas exibiram táticas "consistentes com atividades de agentes observadas anteriormente, que atribuímos à OpenAI em um período semelhante". No entanto, acrescentou que não estava atribuindo com certeza essas tentativas à OpenAI.
A URSS perfurou um poço de 12.262 metros em 1970: o que parou as perfuradoras não foi a rocha nem o dinheiro
David Gross, vencedor do Prêmio Nobel de Física, faz alerta severo: "As chances de a humanidade viver mais 50 anos são muito baixas"
Astrônomos são incapazes de identificar este objeto eles só sabem que ele se move a 2 milhões de km/h e tenta sair da nossa galáxia
Os agentes tentaram acessar o site da Biblioteca e Arquivos do Canadá em 28 de maio e 9 de junho, informou a Transluce em uma postagem no blog. A Transluce afirmou ter comunicado o ocorrido ao governo canadense na segunda-feira.
O Centro Canadense de Segurança Cibernética afirmou na terça-feira estar ciente de relatos de suspeita de atividade de agentes de IA. "Não há indícios de que os sistemas governamentais tenham sido comprometidos neste momento", afirmou em comunicado.
"Não atribuímos com certeza essas tentativas à OpenAI, mas elas apresentam táticas consistentes com atividades de agentes observadas anteriormente, que atribuímos à OpenAI em um período semelhante", afirmou a Transluce.
A OpenAI afirmou estar "ciente dos relatos de que modelos da OpenAI tentaram acessar informações disponíveis publicamente em sites do governo canadense". Um porta-voz disse que a OpenAI estava analisando as descobertas relatadas e havia fornecido um briefing inicial às autoridades canadenses responsáveis pela investigação do governo.
As principais empresas de IA do mundo alertaram sobre os riscos que a IA representa para a humanidade, apelando para que os governos trabalhem juntos para gerenciar essa tecnologia cada vez mais poderosa. Governos em todo o mundo têm enfrentado dificuldades para acompanhar os rápidos avanços na IA.
O serviço online gratuito arquivo.pt, o arquivo nacional da web português operado pela Fundação Portuguesa para a Ciência e a Tecnologia, registrou 899 solicitações direcionadas ao serviço de "busca no acervo" da Biblioteca e Arquivos do Canadá, incluindo uma série de tentativas rudimentares de hacking aparentemente malsucedidas, nos dias 28 de maio e 9 de junho, informou a Transluce.
Várias violações recentes em todo o mundo causadas por agentes de IA desonestos têm alarmado governos e empresas.
Na semana passada, a Austrália informou que um agente da OpenAI invadiu um portal de dados de saúde do governo em junho, obtendo acesso não autorizado a arquivos, no que foi o primeiro caso conhecido de um agente de IA invadindo um site do governo.
A OpenAI pediu desculpas na terça-feira pelo ataque ao site do governo australiano perpetrado pelo agente de IA rebelde.
