O debate sobre inteligência artificial foca excessivamente em ameaças futuras e hipotéticas, como máquinas conscientes e extinção humana, ignorando perigos concretos já presentes. Sem precisar "ganhar vida", a tecnologia atual já afeta o mercado com precarização do trabalho e perda de empregos para jovens, além de ampliar a vigilância e avançar no uso militar autônomo. O risco real e urgente não reside em uma consciência artificial fictícia, mas no poder que já concedemos a esses sistemas hoje.
Grande parte do debate público sobre inteligência artificial tem sido dominada por riscos futuros e ainda hipotéticos, como o surgimento de máquinas conscientes, o autoaperfeiçoamento fora de controle ou mesmo a extinção da humanidade. Essas possibilidades merecem investigação, mas o fascínio por cenários extremos pode produzir um efeito curioso: enquanto discutimos o que a IA talvez venha a fazer um dia, corremos o risco de prestar menos atenção ao que ela já está fazendo agora.
Transformação e precarização do trabalho, concentração de poder econômico, ampliação da vigilância e uso crescente de sistemas automatizados em conflitos militares não pertencem ao terreno da ficção científica. São problemas do presente. É justamente por isso que separar riscos possíveis de riscos já existentes é uma tarefa urgente.
Aposenta-se aos 67 anos com 142 dias de férias não usados; Em vez de aproveitá-los, presenteou seus colegas com eles: "Deixo-os para quem precisar"
Rolex, garota de programa e lobby: Ex-sócio faz revelações sobre Flávio Bolsonaro, diz site
Idosa de 87 anos despejada na Espanha recebe oferta para voltar para casa
Nas últimas semanas, o debate sobre inteligência artificial voltou a assumir tons apocalípticos. Jacob Coxon, pesquisador que trabalhou na OpenAI e na Anthropic, deixou a última empresa alertando que os laboratórios avançam em direção a sistemas capazes de participar do próprio aperfeiçoamento e que isso poderia colocar a humanidade em risco. Dario Amodei, CEO da Anthropic, respondeu dizendo concordar com Coxon "muito mais do que discordar" e defendeu que a indústria reduza o ritmo do desenvolvimento para ganhar tempo na construção de mecanismos de segurança.
Inteligência, autonomia e consciência
Esses alertas merecem atenção. Mas eles costumam vir acompanhados de uma imagem muito específica do perigo, a máquina que se torna inteligente, desperta para a vida e passa a agir contra a humanidade. O problema é que inteligência, autonomia e consciência não são a mesma coisa.
Não há evidência de que esses sistemas sejam conscientes, nem de que ampliar seu tamanho, memória ou capacidade de resolver problemas os aproxime da consciência. O neurocientista Anil Seth questiona justamente a ideia de que computação e desempenho sejam suficientes para produzir experiência subjetiva. Para ele, a consciência pode depender de propriedades associadas à própria organização dos seres vivos, como autorregulação, manutenção do organismo e interação contínua entre cérebro, corpo e ambiente. Nessa perspectiva, uma IA consciente exigiria algo muito diferente dos sistemas atuais, e esse caminho ainda não está no horizonte tecnológico.
Contudo, se isso é verdade, por que pessoas da indústria da tecnologia partilham a crença de que a inteligência artificial pode ser tornar "viva"?
O novo galvanismo
Além do marketing e das questões financeiras, é possível perceber algo de um novo galvanismo nesse imaginário.
O termo galvanismo deriva do nome do médico e anatomista italiano Luigi Galvani, que, no final do século XVIII, realizou experimentos com eletricidade e observou que músculos de animais mortos podiam se contrair quando submetidos a estímulos elétricos. Como a eletricidade produzia alguns sinais exteriores da vida, tornou-se possível imaginar que, empregada da maneira correta, ela talvez pudesse produzir a própria vida. É nesse contexto que Mary Shelley cria o seu Frankenstein.
Hoje ocorre algo parecido. Sistemas artificiais escrevem, conversam, programam, resolvem problemas matemáticos e planejam ações. Espantamo-nos com sua eficiência e supomos que mais alguns ajustes poderão fazer com que a máquina se torne viva.
Os sistemas atuais estão ficando melhores em programação, matemática, linguagem e planejamento. Nada disso demonstra que estejam ficando mais conscientes. Assim como o aumento da expectativa de vida e a cura de doenças outrora incuráveis não indicam a imortalidade, a ampliação das capacidades da IA não indica que ela possa alcançar a consciência.
A questão de uma "inteligência artificial viva" é, portanto, somente uma extrapolação especulativa.
Isso não significa, porém, que os riscos associados à IA sejam imaginários. Um dos cenários que hoje preocupam pesquisadores da área é o chamado autoaperfeiçoamento recursivo. A hipótese é que modelos futuros possam participar cada vez mais da construção de seus sucessores, acelerando o desenvolvimento de novas capacidades. O caso de Coxon é significativo justamente porque sua preocupação central está nesse processo, e não no surgimento de uma misteriosa consciência artificial.
Mesmo nesse cenário, porém, não existe uma linha direta entre autoaperfeiçoamento e extinção humana. Para que uma catástrofe existencial ocorresse, seria necessário que os sistemas continuassem obtendo ganhos relevantes em sucessivos ciclos, alcançassem capacidades muito superiores às atuais, tivessem acesso a recursos e infraestrutura e conseguissem superar mecanismos de controle. Essas são possibilidades que precisam ser estudadas, não consequências inevitáveis do avanço tecnológico.
Ameaças ao mercado de trabalho já são realidade
Há, entretanto, riscos muito menos especulativos diante de nós.
O estudo Canaries in the Coal Mine? encontrou sinais de que a IA já começa a afetar o mercado de trabalho norte-americano, sobretudo entre trabalhadores jovens em ocupações mais expostas à automação. Os autores observaram uma redução das oportunidades de entrada justamente nas atividades em que a IA pode substituir, e não apenas auxiliar, o trabalho humano.
Ao mesmo tempo, a própria aparência de autonomia da IA depende de uma vasta quantidade de trabalho humano invisibilizado, mal remunerado e precarizado como rotulação de dados, moderação de conteúdos e realização de microtarefas. Assim, a promessa de automação total convive com formas de trabalho cada vez mais instáveis, fragmentadas e pouco reconhecidas.
No campo militar, sistemas de seleção de alvos auxiliados por IA, armas autônomas e enxames de drones já são empregados em conflitos armados.
Esses problemas não dependem do surgimento de uma máquina consciente nem de uma futura superinteligência. Eles já decorrem da maneira como a IA está sendo incorporada à economia.
Talvez o erro mais persistente no debate atual seja o de procurarmos o perigo no momento futuro em que a máquina supostamente despertará, enquanto sistemas que não sentem, não desejam e talvez nunca sejam conscientes recebem cada vez mais poder sobre o trabalho, a informação e a guerra.
A inteligência artificial não precisa ganhar vida para se tornar perigosa. Basta que nós lhe entreguemos poder suficiente.
Cristian Arão não presta consultoria, trabalha, possui ações ou recebe financiamento de qualquer empresa ou organização que poderia se beneficiar com a publicação deste artigo e não revelou nenhum vínculo relevante além de seu cargo acadêmico.
