PUBLICIDADE

'Profeta da inteligência artificial' deixou série de alertas e sumiu do mapa

Philip Agre previu que os computadores um dia facilitariam a coleta em massa de dados, foi ignorado e tornou-se recluso a ponto de ninguém saber seu paradeiro

5 set 2021 05h11
ver comentários
Publicidade

Em 1994, antes de a maioria dos americanos ter um endereço de e-mail, acesso à internet ou até mesmo um computador para uso pessoal — Philip Agre previu que os computadores um dia facilitariam a coleta em massa de dados sobre tudo na sociedade.

Esse processo mudaria e simplificaria o comportamento humano, escreveu o então professor de ciências humanas da UCLA. E como os dados seriam coletados não por um único e poderoso governo "Grande Irmão" (Big Brother, em referência à obra "1984" de George Orwell), mas por várias entidades para muitos propósitos diferentes, ele previu que as pessoas estariam dispostas a compartilhar quantidades massivas de informações a respeito de seus medos e desejos mais pessoais.

"Desenvolvimentos genuinamente preocupantes podem parecer 'não tão ruins' simplesmente por não terem os horrores explícitos da distopia de Orwell", escreveu Agre, que tem um doutorado em ciência da computação pelo Instituto de Tecnologia de Massachusetts (MIT, na sigla em inglês), em um artigo acadêmico.

Quase 30 anos depois, o artigo de Agre parece assustadoramente profético, uma visão surpreendente de um futuro que se concretizou no formato de um complexo industrial de dados que não conhece fronteiras e segue poucas leis. Os dados coletados por diferentes redes de anúncios e aplicativos de celular para uma miríade de propósitos estão sendo usados para influenciar eleições.

Mas Agre não parou por aí. Ele previu o mau uso autoritarista da tecnologia de reconhecimento facial, antecipou nossa incapacidade de resistir à desinformação bem elaborada e pressupôs que a inteligência artificial (IA) seria empregada para usos sombrios se não fosse submetida a questionamentos morais e filosóficos.

Naquele tempo, ninguém lhe deu ouvidos. Agora, muitos dos ex-colegas e amigos de Agre dizem que têm pensado mais nele nos últimos anos e relido seu trabalho.

"Estamos vivendo as consequências de termos ignorado pessoas como Phil", disse Marc Rotenberg, que editou um livro com Agre em 1998 sobre tecnologia e privacidade e atualmente é fundador e diretor executivo do Center for AI and Digital Policy (Centro para Inteligência Artificial e Política Digital).

Charlotte Lee, que foi aluna de Agre na pós-graduação na UCLA e agora é professora de design centrado no ser humano e engenharia na Universidade de Washington, disse que ainda está estudando o trabalho dele e aprendendo com isso hoje. Ela disse que gostaria que Agre estivesse por perto para ajudá-la a compreender melhor o trabalho dele.

Mas Agre não está disponível. Em 2009, ele simplesmente desapareceu da face da Terra, abandonando seu emprego na UCLA. Quando amigos informaram o desaparecimento de Agre, a polícia o localizou e confirmou que ele estava bem, mas Agre nunca voltou ao debate público. Seus amigos mais próximos se recusam a dar mais detalhes quanto ao desaparecimento dele, alegando respeito à privacidade de Agre.

Por outro lado, muitas das ideias e conclusões que Agre explorou em sua pesquisa acadêmica e em seus escritos estão, recentemente, surgindo em organizações focadas em responsabilizar empresas de tecnologia. "Estou vendo coisas que Phil escreveu a respeito na década de 90 sendo ditas hoje como se fossem ideias novas", disse Christine Borgman, professora de estudos da informação na UCLA que ajudou a recrutar Agre para o cargo de professor na universidade.

Brilhante e desaparecido

O Washington Post enviou uma mensagem para o último endereço de e-mail conhecido de Agre, mas ela foi devolvida. Tentativas de contactar a irmã dele e outros familiares também não tiveram sucesso. Uma dezena de ex-colegas e amigos não fazem ideia de onde Agre esteja vivendo atualmente. Alguns disseram que, assim como há alguns poucos anos, ele estava morando em algum lugar perto de Los Angeles.

Agre foi uma criança prodígio na matemática que se tornou um blogueiro famoso e colaborador da revista Wired. Agora, ele praticamente foi esquecido nos círculos de tecnologia dominantes. Mas o trabalho dele ainda é frequentemente citado por pesquisadores de tecnologia no mundo acadêmico e é considerado leitura fundamental no campo da informática social, ou o estudo dos efeitos dos computadores na sociedade.

Agre obteve seu doutorado no MIT em 1989, no mesmo ano em que a World Wide Web foi inventada. Naquele tempo, mesmo entre os investidores de risco do Vale do Silício que apostavam no crescimento dos computadores, poucas pessoas previram quão profunda e rapidamente a informatização de tudo mudaria a vida, a economia ou até mesmo a política.

Um pequeno grupo de estudiosos, inclusive Agre, observou que os cientistas da computação enxergavam o trabalho deles em um vácuo, em grande parte desconectado do mundo ao redor. Ao mesmo tempo, as pessoas do lado de fora daquele mundo não tinham conhecimento profundo o suficiente da tecnologia ou como ela estava prestes a mudar suas vidas.

Seu histórico artigo de 1997, chamado Lessons Learned in Trying to Reform AI (Lições aprendidas ao tentar reformar a inteligência artificial, em tradução livre) ainda é considerado um clássico, disse Geoffrey Bowker, professor emérito de informática da Universidade da Califórnia, em Irvine. Agre percebeu que aqueles desenvolvendo inteligência artificial ignoravam as críticas de pessoas que não eram do ramo da tecnologia. Porém, Agre argumentava que as críticas deveriam fazer parte do processo de desenvolvimento de inteligência artificial. "A conclusão é bastante brilhante e levou muitos anos para que nós, enquanto grupo, a entendêssemos. Um pé fincado na criação do projeto e o outro na elaboração da crítica", disse Bowker.

Entretanto, a inteligência artificial avançou sem obstáculos, entrelaçando-se até mesmo em indústrias de baixa tecnologia e afetando as vidas da maioria das pessoas que usam a internet. Ela orienta as pessoas quanto ao que assistir e ler no YouTube e no Facebook, determina sentenças para criminosos condenados, permite que empresas automatizem e eliminem trabalhos; e que regimes autoritários monitorem cidadãos com maior eficiência e frustrem tentativas de democracia.

Avanço sem críticas

A inteligência artificial de hoje, que abandonou, em grande parte, o tipo de trabalho que Agre e outros estavam realizando nos anos 80 e 90, está focada no consumo de grandes quantidades de dados e na análise deles com os computadores mais poderosos do mundo. Mas, conforme a nova forma de inteligência artificial avança, ela tem criado problemas - que vão desde a discriminação a bolhas de filtro de informações até a disseminação de desinformação - e alguns estudiosos dizem que isso é, em parte, porque ela sofre da mesma falta de autocrítica que Agre identificou há 30 anos.

Em dezembro, a demissão da cientista e pesquisadora de inteligência artificial do Google, Timnit Gebru, depois que ela escreveu um artigo sobre as questões éticas enfrentadas pelas iniciativas de inteligência artificial do Google, destacou a tensão contínua em relação à ética da inteligência artificial e a aversão da indústria às críticas.

"É um campo tão homogêneo e as pessoas nele não percebem que talvez o que estejam fazendo poderia ser criticado", disse Sofian Audry, professor de mídia computacional da Universidade de Quebec, em Montreal, que começou como um pesquisador de inteligência artificial. "O que Agre diz é que vale a pena e é necessário que as pessoas que desenvolvem essas tecnologias sejam críticas", disse Audry.

Agre cresceu em Maryland, onde ele disse que foi "construído para ser um prodígio da matemática" por um psicólogo da região. Ele escreveu em seu artigo de 1997 que o fim da segregação escolar nos Estados Unidos levou a uma busca por alunos superdotados e talentosos. Mais tarde, Agre ficou com raiva de seus pais por enviá-lo cedo à faculdade e, como resultado, seu relacionamento com eles foi afetado por isso, segundo um amigo que falou sob a condição de anonimato porque Agre não lhe deu permissão para falar a respeito de sua vida pessoal.

Agre escreveu que quando entrou na faculdade, não foi obrigado a aprender mais nada além de matemática e "chegou na pós-graduação do MIT com pouco conhecimento real além de matemática e computadores". Ele tirou um ano longe da pós-graduação para viajar e ler, "tentando, de um modo aleatório, e com seus próprios recursos, tornar-se uma pessoa educada", ele escreveu.

Agre começou a se rebelar, de certa forma, em relação a sua profissão, procurando por críticos da inteligência artificial, estudando filosofia e outras disciplinas acadêmicas. O desabrochar do interesse intelectual de Agre o distanciou da ciência da computação e o transformou em algo incomum naquele tempo: um matemático brilhante com um conhecimento profundo das mais avançadas teorias de inteligência artificial, que também poderia avançar fora daquele campo e observá-lo criticamente a partir da perspectiva de alguém que não pertencia a ele.

Previsões

Em um artigo de 1994, publicado um ano antes do lançamento do Yahoo, da Amazon e do eBay, Agre previu que os computadores poderiam facilitar a coleta em massa de dados sobre tudo na sociedade, e que as pessoas fariam vista grossa quanto às preocupações com a privacidade porque, em vez do "Grande Irmão" coletando dados para vigiar os cidadãos, seriam muitas entidades diferentes coletando os dados para muitos propósitos, alguns bons e outros problemáticos.

Mais significativamente, entretanto, Agre escreveu no artigo que a coleta em massa de dados mudaria e simplificaria o comportamento humano para torná-lo mais fácil de quantificar. Isso tem acontecido em uma escala que poucas pessoas poderiam imaginar, já que as redes sociais e outras redes on-line reúnem as interações humanas em métricas facilmente quantificáveis, como ser amigos ou não, curtir ou não, um seguidor ou alguém que tem seguidores.

Em 2001, ele escreveu que "seu rosto não é um código de barras", argumentando contra o uso de reconhecimento facial em locais públicos. No artigo, ele previu que, se a tecnologia continuasse a se desenvolver no ocidente, ela, em algum momento, seria adotada em outro lugar, permitindo, por exemplo, que o governo chinês rastreasse todos no país dentro de 20 anos.

Agre trouxe seu trabalho para fora dos muros do mundo acadêmico com uma lista de e-mails chamada "Red Rock Eater News Service", que recebeu esse nome devido a uma piada feita com o título do livro de Bennett Cerf, "Book of Riddles" (Livro das charadas, em tradução livre). A lista é considerada como um dos primeiros exemplos do que viriam a ser os blogs.

Ele, também, às vezes, ficava profundamente frustrado com as limitações de seu trabalho, que estava tão à frente de seu tempo que foi ignorado até 25 anos depois. "Ele sentia que as pessoas não entendiam o que ele estava dizendo. Agre estava escrevendo para um público de ignorantes e os ignorantes eram incapazes de entender o que ele estava dizendo", disse Bowker.

O último projeto

O último projeto de Agre foi o que amigos e colegas chamaram coloquialmente de "A Bíblia da Internet", um livro definitivo que dissecaria os fundamentos da internet do zero. Mas ele nunca o finalizou.

De tempos em tempos, Agre reaparece, de acordo com um ex-colega, mas não é visto há anos.

"Por que certos tipos de estudiosos perspicazes ou até mesmo pessoas com uma compreensão tão perspicaz de algum campo, basicamente erguem os braços e simplesmente decidem não continuar?", questionou Simon Penny, professor de belas artes na Universidade da Califórnia, em Irvine, que estudou o trabalho de Agre extensivamente. "Psicologicamente, as pessoas têm essas pausas. Quem continua a se envolver em algum tipo de batalha, algum tipo de projeto intelectual e em que ponto desistem?"

O trabalho da vida de Agre foi deixado incompleto, questões foram propostas, mas não respondidas. John Seberger, um pós-doutorando no Departamento de Informática na Universidade Indiana que estudou o trabalho de Agre extensivamente, disse que isso não é necessariamente uma coisa ruim.

Seberger disse que o trabalho de Agre oferece uma maneira de pensar sobre os problemas enfrentados cada vez mais pela sociedade digital. Porém, hoje, mais de uma década depois do desaparecimento de Agre, os problemas são claramente mais compreendidos e há mais pessoas estudando eles.

"Principalmente agora, quando estamos lidando com um profundo mal-estar social, a possibilidade de envolver grupos mais diversos de estudiosos na resposta a essas questões que ele deixou sem respostas pode apenas nos beneficiar", afirmou. / TRADUÇÃO DE ROMINA CÁCIA

Estadão
Publicidade
Publicidade