Carta de princípios para proteger os mais jovens da IA generativa é lançada em Paris

O texto foi concluído durante o Fórum de Paris pela Paz após a entrega ao presidente Emmanuel Macron de um relatório elaborado por uma comissão de nove especialistas. O documento se baseou em entrevistas com 55 profissionais da saúde, pesquisadores, representantes de empresas e associações de proteção à infância.

A comissão havia sido encarregada pelo governo francês de examinar "os riscos e as vulnerabilidades gerados pelo uso de ferramentas de IA para o grande público", especialmente para a saúde mental dos mais jovens.

Notícias relacionadas

Não há evidências científicas de que haverá apagão mundial em novembro; entenda como surgiu o boato envolvendo os Simpsons

Tempestade Charles coloca Portugal e Espanha em alerta máximo para inundações e ventos fortes

Trump volta atrás e questiona resultado das eleições do Congresso dos EUA: 'Alguém acredita?'

A França ocupa a quinta posição mundial no uso dessa tecnologia. A IA generativa, popularizada por assistentes conversacionais como ChatGPT, da OpenAI, Gemini, do Google, e Claude, da Anthropic, já é utilizada por mais da metade dos franceses. Quase 70% dos jovens entre 15 e 24 anos recorrem a essas ferramentas regularmente, aponta o relatório.

A carta de princípios, que não tem caráter obrigatório e conta com o apoio de gigantes americanos como OpenAI e Anthropic, retoma diversas propostas da comissão. Entre elas está a proibição de que essas ferramentas criem conteúdos sexuais não consensuais ou de exploração sexual infantil.

No documento, consultado pela AFP, os signatários também se comprometem a estabelecer "um alto nível de proteção, privacidade e segurança desde a concepção e por padrão" das soluções de IA, que deverão ser adaptadas às diferentes fases do desenvolvimento infantil. O texto prevê ainda a criação de um programa de pesquisa para "ampliar o conhecimento sobre os riscos e as oportunidades da IA" para os jovens usuários.

"Enfraquecimento cognitivo"

"Temos uma proporção realmente considerável de crianças e adolescentes construindo sua vida afetiva e sua visão de mundo por meio das interações" com agentes de IA "que se assemelham a uma personalidade humana e aos quais eles contam tudo, muitas vezes para o pior", lamentou o presidente francês nesta terça-feira, durante uma intervenção no Fórum de Paris pela Paz.

"Colocamos isso nas mãos deles sem verificar se era bom ou ruim para eles", afirmou Macron. Em comparação, os brinquedos tradicionais são submetidos a "regras absolutamente rigorosas", destacou.

No relatório, a comissão de especialistas apontou como preocupação o risco de um "enfraquecimento cognitivo" associado ao uso da IA.

"É uma ferramenta atraente, para a qual delegamos competências" como reflexão, tomada de decisão e pensamento crítico, explicou o professor de psiquiatria Raphaël Gaillard, copresidente da comissão. "Como delegamos essas competências, deixamos de desenvolvê-las. É um problema para os jovens, mas também para todos."

Os especialistas também alertam para os riscos da desinformação. Esses "sistemas se tornam fontes de informação cuja qualidade não é garantida", ressaltou o professor, advertindo para um possível "enfraquecimento da democracia".

Outro risco mencionado é o da dependência emocional, associada especialmente à "antropomorfização" das IAs. Os assistentes conversacionais tendem a se apresentar como interlocutores humanos e praticam a "bajulação", que consiste em validar ou elogiar o usuário, às vezes em detrimento da verdade, detalhou.

"Criamos um tipo de relacionamento emocional que pode acabar substituindo a interação humana. É um sistema disponível o tempo todo, cujo único objetivo é mantê-lo conectado", observou Gaillard.

Com AFP