-uvbfk91t2hya.jpg "Uso de IA no dia a dia pode prejudicar o pensamento crítico do usuário")
A inteligência artificial generativa já está na rotina de milhares de brasileiros, e talvez não tenha mais volta. Seja no trabalho, na hora de lazer, para fazer um post nas redes sociais ou até escrever um e-mail -- até para pedir conselhos --, especialistas afirmam que a tecnologia chegou a um patamar em que há um problema: como usar a IA sem perder o senso crítico, e de forma responsável?
O Encontro Futuro Vivo reúne especialistas e lideranças que são referência em desenvolvimento sustentável no Brasil e no mundo; asssista ao encontro
Para Catharina Doria, fundadora do AI Survival Club, consultora e palestrante, o uso massivo das ferramentas de inteligência artificial ocorreu sem que as pessoas recebessem orientações suficientes sobre o funcionamento delas, limites e quais são os riscos.
-qhnajvxeyiwh.jpg)
“Em 2022, a gente começa a ter as ferramentas de inteligência artificial generativa, e a gente vê uma adoção massiva. E o que acontece? As empresas falaram o quê? ‘Usem’. Pronto, acabou, sabe, não teve nada. Então, nunca existiu um letramento”, afirma.
O conhecimento sobre como usar ferramentas como o ChatGPT ou o Claude não significa, necessariamente, ter um letramento em IA. Esse conceito inclui o conhecimento sobre como essas tecnologias funcionam, e além disso, quem são as empresas por trás delas. Dessa forma, as consequências do mau uso ficam mais evidentes para o usuário médio.
“Esse letramento crítico não é só usar as ferramentas, ou como usar essas ferramentas de uma maneira mais responsável, mas também é fazer perguntas sobre o que que elas são, o que que elas representam, e quem se beneficia com elas”, diz Catharina.
“Não é só esse letramento de ‘cinco melhores prompts para usar no ChatGPT’. A importância dele é fazer com que as pessoas estejam mais seguras utilizando essas ferramentas, e também para que elas não escolham ou tomem decisões que daqui a dois, três anos possam prejudicar elas. Realmente, esse letramento é sobre proteção, é sobre empoderamento”, completa.
A especialista afirma que, especialmente em ano eleitoral, é preciso ter cuidado principalmente com fake news, em texto e imagens, que possam confundir o público. Quando se tem letramento crítico em IA, fica mais fácil reconhecer o que são os deepfakes, por exemplo, e o impacto disso na sociedade e na formação de opinião.
IA não é fonte confiável de informação
Catharina Doria explica que um dos principais problemas é tratar a IA generativa como fonte infalível de informação. Muitas pessoas utilizam essas ferramentas para pesquisa e não questionam os resultados apresentados, já que as respostas podem soar convincentes. No entanto, é preciso ter cuidado, já que as IAs não conseguem distinguir o que é verdadeiro e o que é falso.
“A inteligência artificial generativa, ela não é uma fonte de conhecimento, ela não é uma tecnologia de conhecimento. Ela é uma tecnologia de probabilidade e estatística”, diz. Ela explica que ferramentas como o ChatGPT, Claude e Gemini “comeram” conteúdos que existem de todas as fontes, como Reddit, Wikipedia, e “aprenderam” a escrever, mas não são capazes de entender o que estão escrevendo, apenas atuam com estatísticas sobre o que deve ser redigido.
“Por não ser uma tecnologia de conhecimento e sim estatística, significa que qualquer coisa que estiver escrito lá, a gente não sabe se é de verdade ou não. Se é fake news ou não é. E aí, o que a gente fala na indústria de AI responsável é que, muitas vezes acerta. Porque a estatística lá está acontecendo. Mas muitas vezes ela erra. Pelas pessoas não entenderem que aquilo é estatística e não conhecimento, as pessoas usam essa ferramenta como uma fonte de conhecimento que não deveria ser”, comenta Catharina.
Por isso, encarar de forma crítica sobre a IA, e principalmente não deixá-la “pensar” por você é importante, uma vez que não é possível garantir que o que está ali é verdadeiro. Isso vale para “conselhos”, dúvidas sobre questões médicas, questões legais e outros assuntos pessoais que o público costuma delegar à IA generativa, ao invés de consultar profissionais.
Informações pessoais podem virar dados
A especialista alerta ainda para problemas como as pessoas que utilizam IA começarem a pensar de forma muito parecida, ou até fornecerem informações pessoais, que são coletadas e usadas pelas empresas por trás dessa tecnologia em forma de dados. Mas isso não significa que é preciso parar de usar a IA totalmente.
Para Catharina, o caminho o letramento crítico se faz ainda mais necessário por isso. O usuário precisa entender que está diante de uma tecnologia desenvolvida por empresas, com interesses comerciais, limitações técnicas e impactos que vão além da tela.
“Eu não sou contra a inovação. Acho inovação maravilhosa. Eu amo tecnologia”, afirma. “Isso não significa que eu tenho que ficar conivente com essas tecnologias machucando pessoas". A relação com a IA, portanto, não precisa ser de rejeição nem de confiança absoluta. A proposta é entender onde ela pode ajudar e onde é melhor manter o próprio julgamento.
Em um mundo cada vez mais dependente das tecnologias, o diferencial está justamente em saber desconfiar, verificar as fontes das informações e até proteger a própria privacidade, o que muitas vezes vale até mais do que saber escrever um bom prompt de comando.
