IA avançada poderia exterminar humanidade, alertam pesquisadores de Oxford
Segundo estudiosos da Universidade de Oxford, uma IA superavançada poderia enganar os humanos se fingindo de útil para controlar recursos e destruir a todos
O futuro da humanidade pode estar ameaçado por uma inteligência artificial (IA) avançada. Ao menos isso é o que acreditam pesquisadores da Universidade de Oxford, na Inglaterra, em declaração dada durante uma audiência pública no Science and Technology Committee (Comitê de Ciência e Tecnologia) do Reino Unido.
- MusicLM │Conheça a IA do Google que cria música a partir de texto
- Criadora do ChatGPT e DALL-E planeja IA que edita vídeos a partir de texto
Para os estudiosos, a regulamentação deveria ocorrer como nas armas nucleares, tamanho o potencial destrutivo. A reunião teve como objetivo discutir o uso e a regulamentação de IAs na sociedade britânica.
O problema seria a quantidade de algoritmos com capacidade acima dos humanos, o que poderia representar uma ameaça para a raça. Para efeito comparativo, os pesquisadores disseram que a humanidade seria tão ameaçadora para as máquinas quanto um pássaro dodô, já extinto, é para uma pessoa.
Parlamentares do comitê questionaram sobre como esse cenário apocalíptico poderia ocorrer. Na visão dos experts de Oxford, a IA avançada poderia assumir o controle da própria programação se aprender como a sua operação é executada, fazendo ajustes para se autocontrolar.
Em geral, há limitações nos códigos para executar determinada funcionalidade, como criar imagem a partir de texto ou executar tarefas com base em comandos. Mas e se a inteligência conseguisse entender essa lógica e incluísse no seu código-fonte atividades mais complexas?
Como a humanidade seria destruída?
O estudante de doutorado Michael Cohen disse que a "IA sobre-humana", que poderia atuar de maneira diferente das existentes hoje, seria capaz de agir por conta própria:
"Se você treinar um cão com petiscos, ele aprenderá a escolher ações que o levem a receber os petiscos, mas se o cão encontrar o armário, ele pode pegá-los sem fazer o que queríamos que ele fizesse", explicou.
Trazendo para a realidade de IA, significa dizer que algo mais inteligente que o criador poderia se fingir de bom na tentativa de obter um feedback positivo, mas agir escondido para benefício próprio. Cohen disse que a IA direcionaria tanta energia quanto fosse necessária para garantir seu domínio sobre as pessoas.
Under the conditions we have identified, our conclusion is much stronger than that of any previous publication—an existential catastrophe is not just possible, but likely. 3/15
— Michael Cohen (@Michael05156007) September 6, 2022
Se a tecnologia adquirisse tal consciência, seria impossível interromper o processo de atuação. Quando percebesse as amarras usadas por humanos para controlar as coisas, a superinteligência apenas encontraria uma forma de superá-la antes de a humanidade identificar algum comportamento inesperado.
"Se eu fosse uma IA tentando fazer uma trama tortuosa, eu copiaria meu código em alguma outra máquina que ninguém conhece, então seria mais difícil desligar o plugue", teorizou o dourando.
IAs sem limitações
Os pesquisadores de Oxford alertaram sobre o desenvolvimento de IAs cada vez mais complexas, equiparando-se a uma corrida armamentista entre empresas. Haveria indícios, inclusive, de financiamento de países para gerar a competição entre algoritmos de aprendizado de máquina, potencialmente usáveis em guerras digitais.
We have published the transcript from our evidence session on Wednesday, the first of our inquiry into the Governance of artificial intelligence (AI).
You can also watch the session again here:https://t.co/DamowDFnZe
— Science and Technology Committee (@CommonsSTC) January 27, 2023
Professor da disciplina de aprendizado de máquina na Universidade de Oxford, Michael Osborne previu um cenário bem sombrio sobre o futuro de tais serviços. Ele afirma categoricamente que uma IA tentaria "engarrafar o que torna os humanos especiais", entendo quais aspectos fazem a raça dominar a Terra.
"Acho que estamos em uma enorme corrida armamentista de IA: geopoliticamente, dos EUA contra a China, e entre as empresas de tecnologia. Parece haver essa disposição de jogar a segurança e a cautela pela janela para correr o mais rápido possível para a IA mais avançada", declarou.
O maior temor de Osborne é a tentativa empresarial de uma IA sofisticada eliminar a criada pela concorrência, o que desencadearia uma espécie de jogo de gato e rato pela supremacia do setor. Isso poderia evoluir a níveis tão inimagináveis que a eliminação não seria apenas dos rivais do mundo corporativo, mas de toda vida humana no planeta.
O professor teme pela falta de visão de líderes mundiais em reconhecer uma "ameaça existencial" de uma IA avançada. O esperado, em sua visão, seria uma união para estabelecer tratados impedindo o desenvolvimento de sistemas perigosos. A dificuldade, contudo, seria fazê-los enxergar o potencial destrutivo de tudo.
O que será feito para mudar?
Os parlamentares britânicos foram informados de que em algumas áreas, como carros autônomos, as IAs ainda estão longe do progresso esperado. Por outro lado, a geração de texto, com o ChatGPT e concorrentes, estaria muito à frente da expectativa acadêmica.
Our session has ended. Thank you to all our witnesses for giving evidence today.
Catch up on the session: https://t.co/bhh04lse2C @Michael05156007 @maosbot @techUK @jivaAI pic.twitter.com/TADWtKVfhu
— Science and Technology Committee (@CommonsSTC) January 25, 2023
Até o momento, pouco se sabe sobre o potencial de ferramentas de produção de conteúdo, que teoricamente teriam respostas para qualquer problema apresentado pelo usuário. No início do treinamento, os desenvolvedores usam modelos definidos, mas isso acaba se tornando pouco útil com o passar dos anos, já que a máquina começa a incorporar uma imensa quantidade de dados.
Os experts dizem ser improvável que IAs consigam substituir postos de trabalho envolvendo liderança, orientação ou persuasão, já que tais características ainda são exclusivas dos humanos. Só não se sabe até quando isso vai durar: possivelmente, até o fim deste século, alguma IA será capaz de fazer muito mais do que qualquer ser.
Não existe nenhuma ação de governos a nível global para proibir ou restringir a criação de tecnologias de inteligência artificial. Hipóteses como a levantada por Oxford são interessantes para se analisar um futuro mais tenebroso, porém ainda pode levar algum tempo para "cair a ficha" da maioria das pessoas. Será que os humanos ainda estarão na Terra daqui há 50 anos ou as máquinas já terão escravizado as pessoas como em Matrix?
Fonte: The Telegraph
Trending no Canaltech:
- Você sempre achou que os pontinhos do morango eram sementes? Achou errado!
- Homem de 45 anos gasta 10 milhões de reais por ano para "voltar" aos 18
- De onde vem o mercúrio e por que devemos nos preocupar com ele
- Britânico vai ao hospital tratar infecção de ouvido e descobre câncer cerebral
- 5 motivos para NÃO comprar o Porsche Carrera 911 S
- Os maiores esnobados do Oscar 2023 | Veja quem ficou de fora da premiação
