Há anos ouvimos que uma superinteligência poderia nos matar: existe uma enorme diferença entre "poderia" e "irá"
Nos últimos dias, mensagens catastróficas sobre como a IA poderia causar a extinção da raça humana ressurgiram Diversos especialistas deixam claro que algo assim, embora não seja impossível, é improvável
Alertas sobre o risco de a IA exterminar a humanidade, como a estimativa de 10% citada por Evan Hubinger, da Anthropic, baseiam-se em tecnologias ainda inexistentes e suposições distantes da realidade. Embora ferramentas atuais consigam criar vírus que infectam bactérias, especialistas como David Bellamy apontam que o perigo de supervírus fatais a humanos é irrealista, pois exige laboratórios avançados e recursos complexos, tornando a ameaça biológica imediata da IA uma farsa exagerada.
Evan Hubinger, chefe de alinhamento da Anthropic, publicou uma mensagem controversa no X, na qual indicou acreditar que havia 10% de chance de a IA exterminar a raça humana. Outras figuras no passado já falaram sobre essa possibilidade e, embora esses cenários não sejam impossíveis, esses 10% são simplesmente uma estimativa subjetiva baseada em uma tecnologia que ainda nem existe. Além disso, o mundo real está muito distante entre projetar um vírus em um computador e exterminar 8 bilhões de pessoas.
Supervírus
Uma possibilidade frequentemente discutida é como essa potencial superinteligência futura poderia acabar projetando um vírus devastador. As ferramentas de IA para o campo da biologia estão melhorando rapidamente e já existem modelos capazes de projetar vírus funcionais que infectam bactérias. Alguns acreditam que isso aumenta o risco futuro de desenvolvimento de armas biológicas. No entanto, também é importante observar que esses experimentos exigiram cientistas de elite, laboratórios avançados, recursos significativos e centenas de testes. Os modelos atuais não conseguem projetar vírus capazes de infectar humanos (pelo menos ainda não).
David Bellamy, que trabalha no Instituto de Modelos Fundamentais (criadores do modelo K2 Horizon), explicou no X como ele provavelmente é uma das poucas pessoas que treinou um modelo de ponta e projetou vírus personalizados com ele. Na opinião dele, a ameaça da qual alguns falam é "uma farsa completa".
O problema não é criar o vírus
Na ...
Matérias relacionadas
JBL Quantum 120 chega ao Brasil com som espacial e microfone removível por R$ 249
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.