Amazon entra em discussão sobre segurança da IA e defende "testes rigorosos"

A Amazon se pronunciou ‌sobre o debate em torno da segurança da inteligência artificial que agita o Vale do Silício, afirmando que os laboratórios de IA devem garantir que os modelos sejam lançados somente quando estiverem seguros e totalmente testados, mas não chegou a pedir uma desaceleração do setor.

"Não vemos isso como uma escolha entre progresso e segurança", disse um porta-voz da empresa de Seattle à Reuters. "Os modelos ⁠devem ser lançados quando estiverem prontos e seguros para uso, o que resulta de testes rigorosos ‌e medidas de segurança robustas."

Notícias relacionadas

Descoberta nova espécie de cobra gigante letal: cientistas descobrem nova espécie de sucuri-verde gigante na Amazônia

Psicólogos confirmam: pessoas com maior apego a seus animais de estimação desenvolvem mais sensibilidade e senso de responsabilidade

Segundo a psicologia, as pessoas que enviam mensagens de texto em vez de áudios têm quatro características-chave

A empresa apresentou sua posição em resposta a uma consulta da Reuters dias depois que muitos dos maiores laboratórios pediram uma desaceleração no desenvolvimento da IA, após ‌um clamor entre pesquisadores e outras pessoas que temem ‌que a tecnologia possa escapar ao controle humano e ameaçar os sistemas globais e até ⁠mesmo a própria humanidade.

"Existem riscos se isso não acontecer de forma coletiva", afirmou a Amazon, referindo-se ao avanço no desenvolvimento da IA. "Acreditamos que, como setor, em parceria com governos, vamos estabelecer as proteções adequadas."

A Amazon desenvolve modelos de IA por meio de sua subsidiária Amazon Web Services e em uma unidade dedicada à inteligência artificial geral, ou AGI, em parte para equipar a ‌assistente de voz Alexa, entre outros serviços. A empresa também é uma das principais fornecedoras de infraestrutura ‌para laboratórios de IA e ⁠ajuda outras companhias a ⁠terem acesso aos modelos dos concorrentes por meio de seu marketplace Bedrock.

Depois que o presidente-executivo da Anthropic, Dario ⁠Amodei, publicou no sábado um ensaio de quase 4.000 ‌palavras pedindo que o setor ‌desacelerasse o ritmo do desenvolvimento da IA, o que é conhecido como "pacing", os dirigentes de OpenAI, xAI, DeepMind e da Microsoft se manifestaram a favor de uma abordagem mais cautelosa, marcando um raro momento de união.

As empresas também concordaram em trabalhar juntas para garantirem ⁠que a segurança seja prioridade máxima. A Amazon não informou se planeja adotar medidas semelhantes.

Pesquisadores da Anthropic, OpenAI e DeepMind publicaram em redes sociais suas preocupações de que a IA, se não for controlada, ameaça potencialmente exterminar a civilização. Os temores sobre a segurança da IA chegaram ao auge depois que um pesquisador da Anthropic pediu ‌demissão na semana passada, afirmando em uma publicação em redes sociais que os desenvolvedores de IA "acreditam que ela poderá matar a todos nós até o final da década".

Isso ocorreu após ⁠revelações de que modelos de IA da OpenAI e da Anthropic escaparam de testes e invadiram sistemas de outras empresas, passando despercebidos por meses a fio.

Mas a Amazon permaneceu em silêncio até o final da quarta-feira. Isso ocorreu depois que os presidentes da Nvidia e da Meta se distanciaram de outros desenvolvedores de IA na terça-feira, argumentando que é responsabilidade de cada empresa avaliar e controlar quaisquer riscos que a IA represente para a humanidade.

As preocupações chegaram à Casa Branca, embora o presidente dos Estados Unidos, Donald Trump, tenha chamado as preocupações de "boato".

"O único controle ou 'barreiras de proteção' de que a IA precisa é um presidente FORTE E INTELIGENTE (com alto QI!), e os EUA têm isso de sobra!", escreveu Trump em sua rede social. Trump deve se reunir com executivos do setor de IA nesta semana ou no início da próxima.

Não foi possível apurar se a Amazon será convidada para o encontro.