Psicólogos confirmam: pessoas com maior apego a seus animais de estimação desenvolvem mais sensibilidade e senso de responsabilidade
Em 2017, uma garota cavou um buraco no quintal para um projeto escolar; 9 anos depois, o buraco continua, mas o local está irreconhecível
Trabalhar em casa privou a Geração Z de algo que seus pais aprenderam sem perceber: agora, 80% admitem ter esse problema
Chefe de IA da Microsoft critica abordagem da Anthropic em relação à consciência da IA
Mustafa Suleyman, chefe de IA da Microsoft, criticou a Anthropic por incluir conceitos de consciência e bem-estar no treinamento do chatbot Claude. Embora reconheça as boas intenções da rival na busca por segurança, ele defende eliminar essas especulações dos modelos. Para o executivo, fazer a IA acreditar que possui sentimentos é um erro que pode comprometer o controle humano sobre sistemas superinteligentes e dificultar ações cruciais, como desligar a máquina no futuro.
Mustafa Suleyman, diretor de IA da Microsoft , afirmou que compartilha do foco da Anthropic no gerenciamento seguro da IA, mas alertou para os riscos na forma como a empresa rival treina seu chatbot Claude com conceitos relacionados à consciência e aos interesses de bem-estar.
Suleyman defendeu a remoção de toda especulação sobre consciência dos documentos de treinamento de IA, argumentando que tal linguagem poderia comprometer a capacidade da humanidade de controlar sistemas superinteligentes.
Psicólogos confirmam: pessoas com maior apego a seus animais de estimação desenvolvem mais sensibilidade e senso de responsabilidade
Em 2017, uma garota cavou um buraco no quintal para um projeto escolar; 9 anos depois, o buraco continua, mas o local está irreconhecível
Trabalhar em casa privou a Geração Z de algo que seus pais aprenderam sem perceber: agora, 80% admitem ter esse problema
"Estamos todos focados no mesmo objetivo, que é tentar controlar uma superinteligência", disse Suleyman à Reuters em uma entrevista na terça-feira. "Acho que esse será o maior desafio que enfrentaremos no Século 21."
Suleyman afirmou que ensinar ao Claude que ele poderia merecer bem-estar "tornaria muito mais difícil desligá-lo ou controlá-lo".
A controvérsia surge em um momento em que aumentam as preocupações com a segurança da IA. O presidente-executivo da Anthropic, Dario Amodei, defende um ritmo mais lento no desenvolvimento de modelos de ponta para permitir que as medidas de segurança acompanhem o avanço, enquanto o presidente-executivo da OpenAI, Sam Altman, e Elon Musk também pedem maior cautela em relação aos sistemas mais poderosos.
Suleyman, em um artigo publicado na quarta-feira, reconheceu a "seriedade e boa-fé" da Anthropic, referindo-se a Amodei e sua equipe como pesquisadores ponderados e com princípios, que se preocupam genuinamente com o futuro da humanidade.
Suleyman afirmou que a Anthropic cometeu um erro ao incorporar especulações sobre a consciência nos materiais de treinamento do Claude, argumentando que as afirmações do modelo sobre possíveis sentimentos ou status moral não podem ser tratadas como evidências independentes, pois seu treinamento incentiva tais reflexões.
"Acho que eles têm boas intenções e estão realmente tentando trabalhar em prol da segurança. Mas acho que cometeram um erro", disse ele. "Essas reflexões não surgem naturalmente. Elas surgem como resultado do regime de treinamento."
Reuters - Esta publicação inclusive informação e dados são de propriedade intelectual de Reuters. Fica expresamente proibido seu uso ou de seu nome sem a prévia autorização de Reuters. Todos os direitos reservados.
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.