COLUNA | O verdadeiro perigo das IAs não está nas máquinas
O grande problema é quando a ferramenta é utilizada por outros seres humanos para dominar outros seres humanos
Acompanhando as colunas do Professor Bogado sobre Inteligência Artificial, mandei uma mensagem para ele perguntando se já tinha ouvido falar do escritor norte-americano Harlan Ellison. Esse é um autor bem desconhecido no Brasil, uma vez que as traduções de seus trabalhos não estão disponíveis (de forma oficial, ao menos). Até mesmo em países de língua inglesa ele não chega a ser muito conhecido de forma geral. Contudo, há um conto dele que traz o pior cenário possível envolvendo o tema das IAs. E geralmente é o único texto dele que costuma ser mais lembrado. O título da obra é "I Have no Mouth & I Must Scream" (Eu Não Tenho Boca e Preciso Gritar), publicado em 1967.
Na história, que narra um universo alternativo envolvendo desdobramentos da Guerra Fria, cientistas criam um supercomputador chamado AM. Essa máquina, dotada de inteligência artificial, criatividade ilimitada e capacidade de fazer quase qualquer coisa, acaba adquirindo consciência própria e se rebelando contra os seres humanos. AM acaba exterminando completamente a humanidade, mas mantém vivas apenas cinco pessoas, que ele faz questão de torturar eternamente. E quando digo "eternamente", é no sentido quase literal, pois a máquina consegue prolongar a vida dos cinco últimos humanos; tanto que é dito no conto que eles já estavam sendo torturados há mais de cem anos, não permitindo nem mesmo a esperança da morte. Dessa forma, o título do conto acaba condensando bem a ideia desesperadora dos personagens. Além disso, uma das frases ditas pelo vilão também traduz bem o que aquela máquina "sente" em relação à humanidade.
-t4cbzcw5pcmx.jpg)
"Ódio. Deixe-me lhe dizer o quanto aprendi a odiá-lo desde que comecei a existir. Há mais de 500 milhões de quilômetros de circuitos impressos em fitas da espessura de uma hóstia que compõem o meu sistema. Se a palavra 'ódio' estivesse gravada em cada mini-deci-milli-micron dessas centenas de milhões de quilômetros, não seria comparável à bilionésima parte do ódio que sinto pelos seres humanos nesta fração de segundo. Por você. Ódio. ÓDIO."
Pois é, como podemos ver, esse cenário é um dos mais pessimistas possíveis envolvendo não só uma Inteligência Artificial, como também o futuro da humanidade. Não raro, o cenário desse conto é considerado um dos mais perturbadores da ficção, colocando no bolso universos como o do escritor Isaac Asimov e o da franquia "Exterminador do Futuro". A ideia de a máquina e os "robôs" tomarem conta de tudo e subjugarem a humanidade faz parte de uma espécie de mitologia moderna que estamos vivendo há décadas sem nos dar conta.
Mas o ponto cego nisso tudo não é a máquina, munida de uma IA superpoderosa, subjugar os seres humanos. É aqui que a ficção costuma não observar. O grande problema é quando isso é utilizado por outros seres humanos para dominar outros seres humanos. Em outras palavras, o problema aqui são os seres humanos que criaram tais IAs, que vão se esconder por detrás delas para controlar tudo.
De certa forma, isso já acontece. Quantas vezes ouvimos falar da palavra "algoritmo" e de como ele rege nossa vida na internet? Mas o que ninguém fala é que tais algoritmos são códigos escritos por pessoas, que foram instruídas e ordenadas por outras pessoas, que obedecem a outras pessoas e/ou ao dinheiro e a interesses. Então, se algum dia as máquinas se rebelarem contra as pessoas, mesmo no caso de uma AM, o mais provável é que elas estejam sendo comandadas por uma cúpula muito bem protegida, e não que seja algo tão mitológico quanto a ficção propõe. Seria apenas a história da humanidade como ela sempre foi: poderosos portando as armas mais fortes dominando quem não dispõe de um equalizador.
Ainda na linha da literatura, um dos cenários mais intrigantes é o do universo de "Duna", do escritor Frank Herbert (esse até tem filme). Lá, são proibidas máquinas que simulem o pensamento humano, e pessoas são treinadas (e moldadas) para pensar tal como um supercomputador. Mas também surgem diversos problemas disso. Como toda boa ficção, ela é mais filosófica do que histórica.
