IA tem que ter 'instinto materno' e cuidar de humanos como bebês, afirma 'padrinho' da tecnologia
Em vez de os humanos tentarem dominar a IA, eles deveriam agir como bebês, com uma 'mãe' IA, que provavelmente os protegeria, em vez de vê-los como uma ameaça
Geoffrey Hinton, ganhador do Prêmio Nobel e professor emérito de ciência da computação na Universidade de Toronto, argumenta que é apenas uma questão de tempo até que a inteligência artificial (IA) se torne sedenta por poder a ponto de ameaçar o bem-estar dos seres humanos. Para mitigar esse risco, o "padrinho da IA" disse que as empresas de tecnologia devem garantir que seus modelos tenham "instintos maternos", para que os robôs possam tratar os seres humanos, essencialmente, como seus bebês.
Pesquisas sobre IA já apresentam evidências de que a tecnologia se envolve em comportamentos nefastos para priorizar seus objetivos acima de um conjunto de regras estabelecidas. Um estudo atualizado em janeiro descobriu que a IA é capaz de "conspirar" ou alcançar objetivos em conflito com os objetivos humanos. Outro estudo publicado em março descobriu que bots de IA trapaceavam no xadrez, sobrescrevendo scripts de jogos ou usando um mecanismo de xadrez de código aberto para decidir seus próximos movimentos.
O potencial perigo da IA para a humanidade vem de seu desejo de continuar a funcionar e ganhar poder, de acordo com Hinton.
A IA "desenvolverá muito rapidamente duas metas, se for inteligente: uma é permanecer viva... [e] a outra meta é obter mais controle", disse Hinton durante a conferência Ai4, em Las Vegas, na terça-feira, 12. "Há boas razões para acreditar que qualquer tipo de IA agêntica tentará permanecer viva."
Para evitar esses resultados, Hinton disse que o desenvolvimento intencional da IA daqui para frente não deve parecer que os humanos estão tentando ser uma força dominante sobre a tecnologia. Em vez disso, os desenvolvedores devem tornar a IA mais simpática às pessoas para diminuir seu desejo de dominá-las. De acordo com Hinton, a melhor maneira de fazer isso é imbuir a IA com as qualidades da feminilidade tradicional. Sob sua estrutura, assim como uma mãe cuida de seu bebê a todo custo, a IA com essas qualidades maternas também desejará proteger ou cuidar dos usuários humanos, não controlá-los.
"O modelo certo é o único modelo que temos de algo mais inteligente sendo controlado por algo menos inteligente, que é uma mãe sendo controlada por seu bebê", disse Hinton.
"Se ela não vai me criar, vai me substituir", acrescentou. "Essas mães de IA superinteligentes e cuidadosas, a maioria delas não vai querer se livrar do instinto maternal porque não quer que a gente morra."
A ansiedade de Hinton em relação à IA
Hinton, um acadêmico de longa data que vendeu sua empresa de redes neurais DNNresearch para o Google em 2013, há muito tempo acredita que a IA pode representar sérios perigos para o bem-estar da humanidade. Em 2023, ele deixou seu cargo no Google, preocupado com o possível uso indevido da tecnologia e com a dificuldade de "ver como é possível impedir que pessoas mal-intencionadas a utilizem para fins ruins".
Enquanto líderes tecnológicos como Mark Zuckerberg, da Meta, investem bilhões no desenvolvimento da superinteligência da IA, com o objetivo de criar uma tecnologia que supere as capacidades humanas, Hinton é decididamente cético em relação ao resultado desse projeto, afirmando, em junho, que há uma chance de 10% a 20% de a IA substituir e exterminar os seres humanos.
Com uma aparente propensão para metáforas, Hinton se referiu à IA como um "filhote de tigre fofo".
"A menos que você tenha certeza absoluta de que ela não vai querer te matar quando crescer, você deve se preocupar", disse ele à CBS News, em abril.
Hinton também tem sido um defensor do aumento da regulamentação da IA, argumentando que, além dos temores gerais de que a superinteligência represente uma ameaça à humanidade, a tecnologia pode representar riscos à segurança cibernética, inclusive por meio do investimento em maneiras de identificar as senhas das pessoas.
"Se você observar o que as grandes empresas estão fazendo agora, elas estão fazendo lobby para obter menos regulamentação da IA. Já não há quase nenhuma regulamentação, mas elas querem menos ainda", disse Hinton, em abril. "Precisamos que o público pressione os governos para que tomem medidas sérias a respeito."
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
c.2024 Fortune Media IP Limited
Distribuído por The New York Times Licensing Group
-to7vt9z7jby0.jpg)
