1 evento ao vivo

Feliz aniversário para o computador HAL 9000

HAL 9000 é um dos computadores mais famosas da ficção, mas há fatores reais que apontam que talvez nem ele nem nenhuma IA seja possível.

15 jan 2021
20h41
  • separator
  • 0
  • comentários
  • separator

HAL 9000 é considerado um dos melhores vilões do cinema, chegou a ser votado o 13º melhor pelo American Film Institute, o que é injusto. Ele só estava cumprindo ordem. OK, isso não funcionou muito bem em Nuremberg, mas é um caso especial, estamos falando de uma inteligência artificial que estava muito mais próxima em 1968 do que em 2021.

Sorry, Dave...
Sorry, Dave...
Foto: MGM / Meio Bit

Computadores tinham avançado enormemente em relação aos equipamentos primitivos da Segunda Guerra, mesmo os que ainda permaneciam secretos. Em 1968 a IBM já vendia seus mainframes. Aliás começou bem antes, o primeiro foi o Sistema 701, em 1953, uma maravilha tecnológica considerado o primeiro computador científico, operando com válvulas e com incríveis 9207... bytes.

Mesmo assim ele é versátil o bastante para ser considerado o primeiro computador capaz de Inteligência Artificial, depois que alguém escreveu um programa de jogo de damas pro 701.

O HAL 9000 originalmente seria um computador da IBM, que colaborou bastante com a produção do filme, até que algum executivo sem imaginação (não raro na IBM) descobriu que o computador era o "vilão" e exigiu que fossem removidas todas as referências à empresa. Stanley Kubrick só esqueceu de duas, quando o shuttle está pousando na Lua e há um logo da IBM no painel, e quando os astronautas estão almoçando aparece um IBM no canto do iPad gigante que eles usam.

Sim, os gênios perderam a chance de associar seu nome a um dos computadores mais famosos da Ficção, e HAL 9000 passou a ter seu local de nascimento sendo a Universidade de Urbana, Illinois, no dia 12 de Janeiro de 1992. No filme, no livro Arthur Clarke pensou melhor e mudou para 1997, mas eu entendo seu otimismo.

HAL 9000 era fruto de uma época extremamente otimista, computadores jogavam xadrez, comandavam usinas, disputavam guerras simuladas e até falavam, ou melhor, cantavam.

O Gambito do PC
O Gambito do PC
Foto: MGM / Meio Bit

Em 1961 John Kelly e Carol Lockbaum criaram um sintetizador de voz usando um IM 7094, e o programaram para cantar Daisy Bell, Arthur Clarke viu uma demonstração e ficou tão impressionado que incorporou o momento no roteiro de 2001, e quando HAL 9000 tem suas funções cognitivas apagadas ele se recorda de que uma das primeiras coisas que aprendeu foi a cantar Daisy Bell.

O otimismo com o futuro da computação era justificado, mas o otimismo para com o HAL 9000, esse foi destruído pela realidade.

No final da Década de 1960 sabíamos muito pouco sobre o cérebro humano. Ainda não sabemos nada sobre ele, é verdade, mas havia uma forte corrente que defendia que seria razoavelmente simples programar o equivalente à Inteligência usando um computador. O problema é que para se programar algo você precisa entender o que está programando, e entre filósofos, engenheiros e biólogos, ninguém conseguia definir de forma precisa o que caracteriza inteligência.

Com o tempo o campo da Inteligência Artificial Forte e a Inteligência Artificial Fraca.

O Que É a IA Fraca?

Essa, segundo os defensores da IA Forte, não é considerada inteligência.

Chega a ser cômico, cada vez que alguém define uma atividade como "ato de inteligência", e um computador executa aquele ato, aparece um monte de gente para dizer que não era realmente inteligente. Entre atividades que antigamente seriam aceitas como inteligência artificial temos:

  • Reconhecimento de caracteres
  • Reconhecimento de voz
  • Síntese de voz
  • Games aonde você joga contra o computador
  • Dirigir carros
  • Pilotar aviões
  • Aprimorar imagens fotográficas
  • Análise gramatical e de estilo de textos

A lista é imensa, mas um ponto em comum, que se repete em todas as aplicações de Inteligência Artificial e machine learning que vemos por aí, é que o computador pode ser excelente em uma tarefa, mas ele não tem noção do que está fazendo.

Quando o computador do seu Tesla dirige o carro direitinho na faixa, ele não tem noção do que é rua, estrada ou moleque correndo atrás de uma bola. Ele tem um monte de rotinas de IA que trabalham no modelo de recompensa/punição. Ele quer ser recompensado, então quando faz uma ação positiva, ganha pontos, negativa, perde.

Estatisticamente seu Tesla (quer dizer, seu não, você é pobre) dirige melhor que você. (
Estatisticamente seu Tesla (quer dizer, seu não, você é pobre) dirige melhor que você. (
Foto: Vlad Tchompalov / Domínio Público / Meio Bit

Repita isso milhões de vezes variando os dados de entrada, e você acaba com uma estrutura de decisões complexa o bastante para ser comparada com uma decisão nova.

Todas essas IAs são direcionadas. Você não pode pegar um modelo usado para prever comportamento da Bolsa de Valores e colocar para controlar os elevadores de um prédio, mas você pode pegar um corretor da Bolsa e treinar para ser um ascensorista.

Entra a IA Forte

Essa é a diferença: A IA fraca é uma série de instruções específicas para uma tarefa. A Inteligência Artificial Forte, que é a do HAL 9000 e basicamente todos os robôs e computadores da ficção científica, é a simulação de um cérebro, e mais ainda, um cérebro que tem percepção da própria existência.

Existe uma esperança entre os defensores da IA Forte que a Consciência seja fruto da complexidade natural do cérebro, e quando conseguirmos simular um número suficiente de neurônios, ela surgirá naturalmente.

Aqui temos duas vertentes: A primeira defende que podemos chegar à Inteligência Artificial Forte simulando um cérebro em seus mínimos componentes, o que varia de acordo com a época. Antigamente pensava-se em simular cada neurônio individualmente, o que é insano, nossos neurônios recebem e enviam sinais em mais de 10000 dendritos, os terminais no corpo principal da célula, e emitem no axônio, a "cauda", que em alguns neurônios pode ter mais de um metro. (sério)

Neurônios são sinistros.
Neurônios são sinistros.
Foto: US National Institutes of Health, National Institute on Aging / Meio Bit

Cada conexão entre dois neurônios é chamada sinapse, ela troca sinais eletroquímicos que estimulam outros neurônios. COMO cada neurônio sabe qual sinapse estimular em determinado momento, ninguém sabe ainda.

No cérebro humano médio temos 86 bilhões de neurônios, e 85 bilhões de células gliais, que até pouco tempo todo mundo achava que era só pra fazer volume mas também possuem atividade sináptica.

No total essas células formam um conjunto de 1015 sinapses. Ou seja, se o cérebro fosse extremamente computável, apenas para criar uma lista do estado de todas elas precisaríamos de 125 Terabytes. Isso sem informação nenhuma, apenas uma lista de estados, assumindo que a 1ª entrada é a Sinapse 1, a 2ª é a dois...

Agora complique mais ainda lembrando que você precisa identificar a posição de cada sinapse no espaço tridimensional, com precisão microscópica. Agora piora: Cada neurônio interage com até 10 mil outros neurônios, todos esses sinais precisam ser mapeados e simulados. Ah sim eles interagem entre si simultaneamente, neurônios são uma maravilha do paralelismo.

Em 2014 cientistas conseguiram simular um "cérebro" com 1.73 bilhões de neurônios. Para isso usaram o K, um supercomputador japonês com 1.32 Petabytes de RAM, 88128 processadores em um total de 705024 núcleos (sim, ele deve rodar Crysis, no low). Depois de 40 minutos executando a simulação, o resultado equivaleu a um segundo de atividade do tal cérebro.

A Segunda Corrente

O HAL 9000 parece derivar da segunda corrente defendida pelo pessoal da IA forte: Ao invés de simular o hardware, simulam o software (essa analogia é errada mas não chegamos lá).

Arthur Clarke dizia que um computador ganhar de um humano no xadrez não era um sinal de inteligência pois xadrez em si não exigia inteligência, mas questão filosófica é: Se um computador ganha de um humano no xadrez, ele tem "inteligência enxadrista"?

Em Eu, Robô, irregular filme do ótimo livro do Mestre Asimov, temos o diálogo entre o Detetive Spooner e Sonny, o robô:

Spooner: "Humanos têm sonhos, mesmo cachorros têm sonhos, mas não você, você é apenas uma máquina, uma imitação de vida. Um robô consegue compor uma sinfonia? Um robô consegue transformar uma tela em branco em uma obra-prima?

Ao que Sonny responde:

Sonny:  "Você consegue?"

Os proponentes da Inteligência Artificial Funcional acham que se simularmos "subsistemas" o suficiente, teremos complexidade tal que mesmo sem ser "um cérebro" e sem saber como ele funciona, o resultado será indistinguível da coisa real.

Hoje temos sistemas especialistas que são melhores que humanos em diversas áreas. Um sistema de Inteligência Artificial foi treinado para identificar câncer em mamografias. Resultado? O computador produzir 1.2% menos falsos positivos, e 2.7% menos falsos negativos, comparado com um médico humano.

Imagine usar esse sistema de aprendizado para ensinar o computador a distinguir e nomear objetos, entender linguagem natural e solicitar mais informações quando não conseguir formular um conceito completamente.

Esse modelo transforma o cérebro em uma infinidade de pequenas caixas-pretas, e mesmo que não funcione, mesmo que não seja IA real, se a gente não perceber a diferença, qual a diferença?

HAL 9000 is no more

Nem tudo são flores no mundo da Inteligência Artificial Forte, e não é de hoje. Os esforços de décadas renderam quase nada, e há um grupo forte de pesquisadores que simplesmente não acreditam que o cérebro humano é computável.

Em seu livro "O Cérebro Relativista", Miguel Nicolelis defende que o cérebro não é computável, primeiro pela complexidade envolvida, o que é, reconheço uma visão limitada, mas também pela dificuldade em estabelecer os parâmetros iniciais e o desenvolvimento da simulação.

Como sempre um reboot salva o dia.
Como sempre um reboot salva o dia.
Foto: MGM / Meio Bit

Por definição toda simulação é incompleta, sempre algo é simplificado, daí as piadas envolvendo vacas esféricas no vácuo, mas aprendemos com sistemas dinâmicos que a mais ínfima alteração pode se acumular com o tempo, gerando fractais ou derrubando o Império Romano.

Se o HAL 9000 simulasse um cérebro no nível sináptico, e frações de segundo as imprecisões iriam se acumulando e ele entraria em colapso.

O cérebro simulado cai na proposição de Kurt Gödel, que demonstrou que muitos problemas não podem ser reduzidos a uma solução algorítmica.

Roger Penrose, no excelente A Mente Nova do Rei, advoga a impossibilidade de simularmos consciência, de um computador não só pensar, como ter consciência da própria existência, uma capacidade aparentemente restrita a primatas e animais superiores.

Penrose afirma que não podemos ter um HAL 9000 por haver aspectos da atividade cerebral não-computáveis, mas não só por causa da complexidade. Ele diz que o cérebro funciona não só no nível atômico, com interações entre moléculas, mas no nível quântico, com interações entre partículas.

Roger Penrose e um colega.
Roger Penrose e um colega.
Foto: IAI / Meio Bit

Segundo o Princípio da Incerteza, de Werner Heisenberg, é impossível determinar com precisão o estado de uma partícula, pois o ato de medi-la altera seu comportamento. Se o estado quântico de todos os átomos do cérebro é essencial para simulá-lo, e por definição é impossível determinar com precisão o estado quântico de um sistema, é game over, man.

Obviamente Nicolelis e Penrose estão na lista negra de todo mundo que pesquisa Inteligência Artificial Forte, em ambas as abordagens, mas é muito cedo para dizer quem tem razão.

Ainda estamos longe de construir um HAL 9000, em verdade não estamos mais próximos do que eu estava muitos, muitos anos atrás quando comprei na livraria Ciência Moderna um livro chamado "Inteligência Artificial no Spectrum - Faça seu computador pensar".

Nem em minha ingenuidade adolescente eu achava que meu pobre TK90X, com 48KB de RAM iria se tornar o HAL 9000. Claro, internamente eu tinha esperança de criar uma Lisa, do Mulher Nota 1000...

O cara se chama Steven BRAIN, como não levar a sério?
O cara se chama Steven BRAIN, como não levar a sério?
Foto: Reprodução / Meio Bit

O máximo que consegui foi a Eliza, um software desenvolvido em 1964 por Joseph Weizenbaum, que simula uma conversa através de análise de padrões e substituição de palavras. Eliza não tem nenhum lampejo de consciência, mas era impressionante ver o humilde tkzinho responder e interagir em inglês natural.

O medo de Elon Musk e tantos outros, de que a Inteligência Artificial irá dominar a Terra e destruir a humanidade é um medo bobo. Não é nem comparável ao medo de um chinês vendo a pólvora ser descoberta, imaginando que em alguns séculos foguetes poderão ameaçar seu país.

Todo o nosso esforço em criar Inteligência Artificial Forte não produziu um HAL 9000, nem mesmo um R2D2 ou um Johnny 5. Hoje com muito esforço no máximo podemos esperar um ED-209, e se aquela cavalgadura conseguir dominar a Humanidade, bem-feito pra ela.

Feliz aniversário para o computador HAL 9000

Veja também:

Por que o Facebook bloqueou conteúdos na Austrália?
Meio Bit
  • separator
  • 0
  • comentários
publicidade