Capacidades da IA não devem ultrapassar controles de segurança, diz cofundador do DeepMind
Shane Legg, cofundador do Google DeepMind, alertou que o avanço da inteligência artificial não deve superar os controles de segurança, especialmente com agentes autônomos acelerando o próprio desenvolvimento. Ao lançar um instituto para debater a IA Geral (AGI) e seus impactos na sociedade, Legg apoiou discussões sobre desacelerar lançamentos de ponta e reforçou sua previsão de 50% de chance de atingir uma AGI até 2028, embora considere prematuro afirmar que essa tecnologia já foi alcançada.
O cofundador do Google DeepMind, Shane Legg, alertou que o rápido avanço da inteligência artificial não deve ultrapassar os controles de segurança, ao lançar um instituto para explorar a implantação da inteligência artificial geral (AGI), segundo reportagem do Financial Times nesta quarta-feira.
Os alertas das empresas de IA sobre o autoaperfeiçoamento recursivo surgem no momento em que pesquisadores relatam que agentes de IA cada vez mais capazes podem escrever softwares, realizar tarefas autônomas e auxiliar no desenvolvimento de sistemas de IA. Isso gera preocupações de que a tecnologia possa avançar mais rápido do que as medidas de segurança destinadas a monitorá-la e controlá-la.
O apelo do presidente-executivo da Anthropic, Dario Amodei, para desacelerar, mas não interromper, o lançamento de modelos de ponta foi "interessante em termos de direção" e "vale a pena considerar", disse Legg, de acordo com a reportagem.
Ele disse que é prematuro declarar que a IA Geral (AGI) foi alcançada, apesar das recentes afirmações de executivos da Nvidia e OpenAI, informou o FT.
Legg continua "confiante" em sua previsão de 50% de chance de alcançar uma IGA "mínima" até 2028, segundo a reportagem.
O DeepMind Institute tem como objetivo ampliar o debate público sobre a AGI, que o Google DeepMind define como um sistema com as capacidades cognitivas do cérebro humano, acrescentou a reportagem.
O instituto abordará temas que incluem ciência, educação, sociedade, políticas públicas, filosofia e o desenvolvimento humano, segundo o FT.
Seus três primeiros ensaios abordam a segurança da IA, a política econômica e os princípios para um "novo utopismo", segundo a reportagem.
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.