A China impôs novas regras que forçam gigantes de tecnologia a restringir recursos de relacionamentos virtuais em suas IAs, visando combater a dependência emocional e proteger a taxa de natalidade. A medida proíbe parceiros íntimos digitais para menores e veta vínculos afetivos algorítmicos ou manipulação emocional, exigindo avisos periódicos de que se trata de uma máquina. Diante das dificuldades técnicas para adaptar as ferramentas, empresas optaram por encerrar milhares desses serviços.
Embora saiba que tem um filão tecnológico nas mãos, a China também está muito consciente dos problemas que a IA pode trazer. Depois de descobrir que mais de 60% dos menores de idade utilizam inteligência artificial e que mais de 20% preferem conversar com ela a conversar com outras pessoas, a Administração do Ciberespaço da China criou uma nova regra.
Desde julho passado, todas as IAs do país precisam restringir suas funções relacionadas à ideia de companheiros e parceiros virtuais. Se o país já enfrenta sérios problemas para manter sua natalidade, somar mais um concorrente nessa disputa é completamente absurdo. Por isso, a partir de agora, empresas como ByteDance, Alibaba e Tencent precisam modificar suas funções.
Sem exageros
Embora, no caso dos menores de idade, seja expressamente proibida a ideia de oferecer a eles parceiros, familiares ou outras relações íntimas, a ideia não é acabar de uma vez com a IA como companhia. Elas serão obrigadas, sim, a detectar situações de crise e evitar qualquer sinal de dependência ou incentivo a relações tóxicas.
Acabou, por exemplo, a manipulação emocional destinada a criar um vínculo entre a IA e o usuário. O sistema terá de lembrar periodicamente que você não está conversando com uma pessoa real, mas com uma máquina, e todas as mensagens destinadas a estimular uma relação afetiva ficam completamente fora da equação do algoritmo.
Como gerenciar essas mudanças acabava sendo mais difícil do que eliminá-las, várias empresas optaram por esta...
Matérias relacionadas
A nova IA que transforma poucas imagens em um mundo 3D que você pode explorar
