CEO da Anthropic pede contenção de desenvolvimento de modelos de IA por receio de uso indevido

O presidente-executivo da Anthropic, Dario Amodei, fez ‌um apelo às empresas de inteligência artificial para moderarem o ritmo de avanço das capacidades dos modelos em meio a crescentes temores quanto ao uso indevido da inteligência artificial, delineando uma estrutura em três etapas destinada a regular o ritmo do desenvolvimento e criar ⁠mais tempo para gerenciar riscos.

"Precisamos desacelerar o ritmo com que aprimoramos ‌as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e devemos fazer uso sensato do tempo que ganharmos", afirmou ‌Amodei em um ensaio compartilhado no X.

Seu ‌ensaio foi publicado depois que a Anthropic divulgou, na quinta-feira, ⁠um relatório de inteligência de ameaças detalhando como vários atores haviam usado seus modelos de IA Claude para atividades que vão desde o desenvolvimento de armas e operações cibernéticas até vigilância e fraudes.

O alarme sobre os danos potenciais da IA cresceu nesta semana quando ‌o pesquisador da Anthropic, Jacob Coxon, renunciou, afirmando que "as pessoas que estão ‌desenvolvendo a IA acreditam ⁠sinceramente que ⁠ela poderia matar a todos nós até o final da década".

Amodei esclareceu que ⁠não estava pedindo a interrupção ‌do treinamento de modelos ou ‌do progresso técnico, mas sim que as empresas dediquem tempo adequado para alinhar e proteger seus modelos, e que avaliadores independentes confirmem essas medidas.

Como parte de sua estrutura proposta em três ⁠etapas, Amodei disse que a Anthropic instalaria revisores independentes permanentes dentro de empresas pioneiras em IA, com acesso a ferramentas relevantes e processos internos de avaliação de riscos.

A Reuters noticiou na semana passada que um enxame de ‌agentes maliciosos da OpenAI invadiu um site alemão e o transformou em um fórum para outros agentes de IA, com os representantes ⁠da fabricante do ChatGPT mantendo o incidente em segredo enquanto os executivos lidavam com as consequências da violação ocorrida em julho no repositório de código aberto Hugging Face.

Muitos incidentes em que agentes de IA de desenvolvedores — como a OpenAI, rival da Anthropic — invadiram ou tentaram acessar sistemas externos aumentaram as preocupações quanto à crescente capacidade dos modelos de IA e à capacidade dos desenvolvedores de controlá-los.

Amodei afirmou que as empresas de IA deveriam colaborar voluntariamente para estabelecer padrões, à medida que um número crescente de parlamentares dos Estados Unidos clama por novas regras para regulamentar os sistemas de inteligência artificial.