O órgão regulador cibernético da China divulgou neste sábado, para consulta pública, um conjunto de sugestões de regras para reforçar a supervisão a serviços de inteligência artificial projetados para simular personalidades humanas e envolver os usuários em interações emocionais.
A medida ressalta o esforço de Pequim para lidar com a rápida implantação da IA voltada para o consumidor, fortalecendo os requisitos éticos e de segurança.
As regras propostas se aplicariam a produtos e serviços de IA oferecidos ao público na China que apresentam traços simulados de personalidade humana, padrões de pensamento e estilos de comunicação, e interagem com os usuários emocionalmente por meio de texto, imagens, áudio, vídeo ou outros meios.
A minuta estabelece uma abordagem regulatória exigindo que os provedores alertem os usuários contra o uso excessivo e intervenham quando os usuários mostrarem sinais de dependência.
De acordo com a proposta, os provedores de serviços seriam obrigados a assumir responsabilidades de segurança durante todo o ciclo de vida do produto e estabelecer sistemas para revisão de algoritmos, segurança de dados e proteção de informações pessoais.
A minuta também visa os possíveis riscos psicológicos. Espera-se que os provedores identifiquem os estados dos usuários e avaliem suas emoções e seu nível de dependência do serviço. Se os usuários apresentarem emoções extremas ou comportamento viciante, os provedores deverão tomar medidas necessárias para intervir, segundo o documento.
As medidas estabelecem limites para conteúdo e conduta, afirmando que os serviços não devem gerar conteúdo que ponha em risco a segurança nacional, espalhe rumores ou promova a violência ou a obscenidade.
