Para o escritor Douglas Rushkoff, conhecido por livros que falam sobre os impactos das tecnologias, a inteligência artificial (IA) traz mais riscos do que benefícios e pode estimular a exploração de recursos naturais e humanos de forma predatória.
"A inteligência artificial está trazendo uma nova era do capitalismo ao amplificar a lógica das plataformas. Se você olhar de cima, o que é a IA? É uma nova desculpa para extrair minerais do solo, escravizar crianças na África, obtendo esses minerais para monopolizar a energia e o lençol freático, contando com uma enorme força de trabalho terceirizada de pessoas que estão etiquetando todos os dados", afirma.
A fala se refere à busca por mão de obra barata para manter o controle absoluto dos minerais necessários para o processamento de dados de soluções baseadas em IA. Ao deter os recursos, os bilionários da tecnologia conseguiriam manter sua hegemonia na nova era trazida pela IA.
Palestrante do festival São Paulo Innovation Week, que será realizado em maio na Mercado Livre Arena Pacaembu e na Faap, Rushkoff aponta o ano de 1993 como o momento no qual a tecnologia deixou de ser moldada pelos humanos e passou a nos moldar. O motivo, segundo ele, é que foi por volta desse ano que as empresas perceberam que as novas tecnologias eram uma mina de ouro, colocando-as para moldar comportamentos da população para lucrar.
O escritor afirma ainda que os bilionários da tecnologia têm medo do restante da população pelo mal que seus negócios têm causado ao mundo e fantasiam em escapar das consequências de seus atos construindo bunkers ou criando projetos para colonização espacial.
O São Paulo Innovation Week, uma parceria entre o Estadão e a Base eventos, será realizado entre os dias 13 e 15 de maio. Os ingressos já estão à venda, e assinantes do Estadão têm desconto.
Leia os principais trechos da entrevista a seguir.
O sr. diz que somos programados por plataformas digitais. Em que momento perdemos a capacidade de moldar a tecnologia e começamos a ser moldados por ela?
Como dizia (o acadêmico de mídia) John Culkin, nós criamos nossas tecnologias e, depois disso, elas nos criam. Desde o fogo, passamos a cozinhar alimentos, e nossos dentes mudaram por causa disso. Quando nos tornamos mais programados pela tecnologia e menos capazes de programá-la nós mesmos? Isso aconteceu por volta de 1993, quando as empresas acreditaram que poderiam lucrar com a internet e as tecnologias digitais. Antes disso, elas achavam que essas eram ferramentas inúteis para os negócios. A AT&T, uma corporação americana, recebeu uma oferta pela internet por um valor irrisório, quase de graça, e recusou porque não queria ser responsável por algo tão pouco lucrativo. Em 1993, a revista Wired anunciou que havia uma maneira de ganhar dinheiro com essas tecnologias. Quando as empresas apostam em uma tecnologia, elas não querem mais que ela sirva para aprimorar o potencial criativo da humanidade. Elas querem que ela sirva para aumentar a probabilidade de os seres humanos agirem de certas maneiras. Então, em vez de abrir mais possibilidades para os seres humanos programarem a nossa realidade, começamos a programar os seres humanos para serem mais previsíveis para o mercado.
A internet nasceu com um discurso descentralizador. O que deu errado e nos levou a ver tamanha concentração de poder hoje?
De forma simples, foi o capitalismo. A internet era uma plataforma de mídia bastante descentralizada, porque ela foi construída sobre recursos compartilhados. A razão pela qual temos redes de computadores é porque essas máquinas costumavam consistir em um computador e vários terminais conectados a ele. Então, compartilhávamos recursos. Mas é mais difícil ganhar dinheiro quando as coisas são descentralizadas, quando as pessoas são donas das coisas. Você não quer que as pessoas sejam donas do processamento computacional, mas que paguem um aluguel por ele. Por isso, a internet caminhou para plataformas muito mais centralizadas. É o que Peter Thiel (cofundador do PayPal) chama de ir de zero a um (título de seu livro). Você tem todos competindo em um nível. Então você sobe um nível e tenta comprar os meios, a plataforma, os protocolos pelos quais todos os outros competem, em vez de competir com eles.
O sr. vê a IA como uma ferramenta para ampliar a criatividade humana ou como um instrumento para reduzir a autonomia?
A IA pode ser as duas coisas, se não considerarmos 99% do impacto da IA. Ou seja, se não pensarmos na IA em termos de destruição do planeta, consumo excessivo de energia ou morte de pessoas. Se pensarmos na IA apenas como a ferramenta que usamos quando digitamos ou conversamos com nossos computadores, claro que ela pode ampliar a criatividade humana, desde que seja usada de forma iterativa e generativa, como parte de uma investigação, não como a resposta. Não sei se a IA reduz tanto a sua autonomia, mas sim reduz tudo. Ela nos remove da equação. Mas se você a usa para gerar perguntas melhores, então, ela certamente pode ampliar sua criatividade.
A inteligência artificial amplifica a lógica das plataformas ou inaugura uma nova fase do capitalismo digital?
As duas coisas. A inteligência artificial está trazendo uma nova era do capitalismo ao amplificar a lógica das plataformas. Se você olhar de cima, o que é a IA? É uma nova desculpa para extrair minerais do solo, escravizar crianças na África, obtendo esses minerais para monopolizar a energia e o lençol freático, contando com uma enorme força de trabalho terceirizada de pessoas que estão etiquetando todos os dados. Então, eu diria que é a mesma coisa, só que mais intensa. Ainda não estamos vendo nada de muito descentralizado. Em áreas criativas, vemos pessoas que conseguem, com menos dinheiro, criar coisas visualmente atraentes. O que isso significa para elas, em termos de geração de valor próprio, ainda está por ser visto.
Costuma-se dizer que o problema não é a tecnologia em si, mas o modelo de negócios das empresas de tecnologia. Que modelo alternativo seria economicamente viável hoje?
Eu nem acho que o modelo de negócios que as empresas de tecnologia estão usando seja economicamente viável hoje. A maioria das pessoas — pessoas comuns, economistas, empresários — está preocupada com o fato de que o emprego não é um modelo sustentável para o futuro da distribuição de recursos e dinheiro. A única coisa genuinamente sustentável é as pessoas desacelerarem, em vez de otimizarem nossa economia para a extração. Ao otimizarmos nossa economia para extração e acumulação, precisamos começar a otimizá-la para o tempo livre, para o lazer. Eu sei que parece loucura, mas foi assim que a economia foi otimizada em muitos outros períodos da história. Conforme a produtividade aumenta, em vez de as pessoas produzirem mais coisas que ninguém precisa, elas trabalham menos e ficam mais saudáveis ??e felizes. Ser saudável e feliz não deveria ser um problema para a economia.
No livro 'A Sobrevivência dos Mais Ricos', o sr. descreve o que chama de mentalidade dos bilionários da tecnologia. Esse comportamento é resultado da personalidade dessas pessoas ou é incentivado pelo sistema econômico?
Depende. Por muitos anos, pensei que era o capitalismo o responsável. A tecnologia e as pessoas são, de certa forma, puras e divertidas. Elas querem se divertir e, sob as regras do capitalismo, são forçadas a competir, mas aceitam a competição e a escassez como condições dadas do universo. Então, o comportamento delas começa a mudar. Mas o fator pode ser ainda maior do que o capitalismo. Isso pode remontar ao Iluminismo ou à própria Era Axial (800-200 a.C), aos primórdios da escrita, quando adotamos uma visão histórica do mundo, desejando um futuro melhor do que o presente e estando dispostos a fazer o que fosse necessário para alcançá-lo. Foi isso que inventou a conquista, o colonialismo e a tomada de poder. Quando temos acesso às ferramentas digitais, vemos novas e ainda mais poderosas maneiras de crescer, expandir, tomar mais e buscar maior domínio sobre esta realidade. Portanto, acredito que a tecnologia digital amplificou as tendências já existentes de dominação e controle.
Muitos desses empreendedores investem em projetos como bunkers, colonização espacial e biotecnologia para prolongamento da vida. O sr. interpreta isso como uma estratégia racional ou como um sintoma de distanciamento social?
Eles querem escapar das causas de seus próprios atos. Não é uma estratégia racional porque nenhuma dessas coisas vai funcionar de verdade. São experimentos divertidos, mas não vão funcionar durante a vida dessas pessoas. São fantasias. É por isso que o subtítulo do livro A Sobrevivência do Mais Rico é 'Fantasias de fuga dos bilionários da tecnologia'. Elas não vão funcionar de verdade.
Por quê?
Primeiro, porque eles são completamente materialistas. Eles não acreditam em nada além da matéria, mas aceitam as coisas como são. Então, não importa o quanto falem sobre a nuvem ou outras dimensões, eles estão realmente presos a este mundo, sendo eles mesmos, nada mais — e isso é uma pena. O outro fator é que eles têm medo de nós. Eles têm medo das pessoas. Eles têm medo do karma, das repercussões de seus próprios atos, e querem escapar disso. Eles têm uma mentalidade muito limitada. Não acreditam que haja recursos suficientes no planeta para todos nós. Na visão deles, precisam que o resto de nós morra ou seja deixado para trás para que eles sobrevivam.
O discurso de que a tecnologia resolverá tudo serve como justificativa para evitar mudanças estruturais mais profundas?
Em vez de deixar as pessoas comprarem apenas o que precisam, ou deixar as pessoas compartilharem coisas, foi preciso criar uma sociedade onde as pessoas não compartilhem coisas para que a economia possa crescer. Se você descobrir uma maneira de usar menos fertilizante e menos inseticida na sua plantação, isso é ruim porque significa que não precisamos comprar tanta coisa. Você vicia o solo e a plantação em certos produtos químicos e esgota os nutrientes do solo, de modo que precisamos de um novo produto químico para restaurar esses nutrientes. Então, as únicas soluções compatíveis com essa forma de capitalismo são as que custam mais dinheiro.
A concentração de riqueza nas mãos dos fundadores de empresas como Tesla, Amazon e Meta Platforms é um efeito colateral inevitável da inovação ou resultado de falhas regulatórias?
Não é um efeito colateral inevitável da inovação. Pode ser um efeito colateral inevitável de um certo tipo de inovação. A Tesla não se trata tanto de trazer inovação para o automóvel, mas sim de monopolizar o mercado de carros elétricos. Na Amazon, qual é a inovação? Não é a tecnologia. A inovação da Amazon é o que chamamos de monopólio. Um monopólio é quando alguém controla tanto o consumidor quanto o produtor. A inovação é ser a nova camada entre todos os outros. As inovações da Meta foram realmente sobre adquirir empresas e manter o monopólio sobre as mídias sociais. Então, na verdade, são as falhas regulatórias. Certamente, se tivéssemos regulamentação, isso poderia ajudar. Mas também significaria inovar de maneiras diferentes. Poderíamos ter valores diferentes.
O sr. acredita que esses bilionários realmente se veem como salvadores da humanidade?
Eles se veem como salvadores da humanidade. Mas a definição de humanidade deles é muito diferente da sua ou da minha. Para mim, humanidade são os seres humanos. Para eles, a humanidade pode ser apenas o nosso DNA. Pode ser apenas o nosso código, pode ser apenas a semente deles. Elon Musk não está olhando para você e para mim como a humanidade que precisa ser salva. Ele entende muito mais como código do que como nós, seres de carne e osso.
Será que estamos deixando decisões demais nas mãos dos algoritmos?
Eu me preocupo menos com as pessoas delegando tarefas ou decisões a algoritmos do que com as pessoas não entendendo nada sobre os algoritmos que estão usando. Se um juiz usa um algoritmo digital proprietário, que é trancado em uma caixa preta, para decidir sobre as diretrizes de sentença para um prisioneiro, ele nem vai perceber quais vieses, qual racismo pode estar embutido nesse algoritmo. Isso é o que mais me preocupa.
Onde estaria o limite ético para delegar decisões a algoritmos?
Já ultrapassamos o limite ético de tudo hoje em dia. As pessoas precisam ser capazes de ajustar seus próprios algoritmos, e a maioria não permite que você faça isso. Para mim, qualquer algoritmo que você use sem saber quais são seus vieses é antiético.
