"O mundo está em perigo": chefe de segurança da Anthropic deixa empresa para se dedicar à poesia
Mrinank Sharma, chefe de segurança de IA da Anthropic, renunciou ao cargo com carta que viralizou no X
Numa atitude atípica para o chefe de segurança de uma das principais protagonistas do desenvolvimento de IA, Mrinank Sharma, da Anthropic, anunciou sua renúncia com uma carta pública em seu perfil no X e se dedicará à poesia.
Em sua declaração, Sharma não apenas explicou os motivos de sua saída da empresa que desenvolve os modelos de Claude, como também descreveu o estado atual do desenvolvimento da IA, com uma linguagem que mescla alarme e reflexão pessoal. "O mundo está em perigo", afirmou o ex-diretor da Anthropic.
-1jyajaa6f6quc.png)
Contexto: quem ele é e o que fazia na Anthropic
Mrinank Sharma liderava a Equipe de Pesquisa de Salvaguardas da Anthropic, um grupo de pesquisa focado no estudo dos riscos associados aos sistemas de IA.
Na Anthropic, o trabalho de Sharma incluía o desenvolvimento de defesas contra riscos como o bioterrorismo assistido por IA e o estudo de fenômenos como a bajulação (a tendência dos modelos de IA a lisonjear o usuário), além de investigar como a IA pode influenciar a percepção humana e alterar comportamentos culturais.
Ele sai, mas deixa uma mensagem
A carta quase enigmática de Sharma no X rapidamente viralizou pelas mensagens que continha. Nela, ele expressou suas preocupações com um tom que transcende o técnico. Uma das citações que mais chamou a atenção foi: "O mundo está em perigo. E não apenas por causa da IA ou das armas biológicas, mas por causa de uma série de crises interconectadas que estão se desenrolando agora."
Além da literalidade quase apocalíptica, ...
Matérias relacionadas
-1jicu0mh37d5u.jpg)
