Conversas privadas do ChatGPT apareceram em ferramenta de busca do Google; entenda

Trechos de conversas privadas de usuários do ChatGPT foram parar no Google Search Console, ferramenta usada por administradores de sites para monitorar o tráfego de pesquisa. As mensagens, incluíam desde desabafos pessoais até informações profissionais sensíveis, e levantaram novas dúvidas sobre como a OpenAI lida com dados dos usuários.

O alerta foi dado no mês passado por Jason Packer, dono da consultoria de análise de dados Quantable, que relatou o caso em seu blog ao notar a presença de consultas incomuns no Search Console, que reproduziam conversas aparentemente extraídas do ChatGPT.

Notícias relacionadas

A Valve anunciou a Steam Machine, mas a comunidade já encontrou um nome muito melhor para o console

As baterias de lítio-enxofre para carros elétricos têm um problema; as fezes humanas podem ser a solução

Não é pensamento lento: estudos estadunidenses detectaram síndrome severa ligada ao consumo de cannabis

Segundo testes realizados por Packer junto ao consultor de otimização web Slobodan Manic, a OpenAI pode estar coletando dados diretamente da busca do Google, e parte das conversas enviadas ao ChatGPT foi encaminhada para lá por engano. A dupla diz ter identificado "a primeira prova definitiva" de que o modelo de IA estava obtendo informações de pesquisas reais de usuários do Google, o que indicaria uma brecha de privacidade.

Procurada pelo site Ars Technica, a OpenAI não confirmou a teoria, mas admitiu estar "ciente" do problema. Um porta-voz afirmou que a empresa "resolveu uma falha que afetou temporariamente o encaminhamento de um pequeno número de consultas de pesquisa", mas não detalhou quantos usuários foram atingidos nem se interrompeu a coleta de dados do Google. O buscador, por sua vez, não se pronunciou.

As conversas identificadas por Packer mostram o nível de exposição causado pela falha: uma das mensagens parecia ser de uma jovem pedindo ao ChatGPT que interpretasse o comportamento de um garoto ("ele me provoca, mas depois me ignora, será que ele gosta de mim?") em busca de um conselho amoroso. Outra conversa vinha de uma gerente de escritório, que descrevia o planejamento de um anúncio interno sobre o retorno ao trabalho presencial. Um terceiro registro mostrava um empreendedor pedindo ajuda para redigir um e-mail a um cliente após uma reunião frustrada, expondo detalhes do negócio. Mais de 200 dessas consultas foram detectadas em um único site.

Manic descobriu que as conversas apareciam no Search Console associadas ao endereço usado pelo ChatGPT em suas buscas. Segundo ele, o erro ocorreu porque uma caixa de diálogo defeituosa na interface do ChatGPT fazia com que o texto digitado pelo usuário fosse acidentalmente adicionado ao endereço da busca, enviando a informação ao Google.

Embora a OpenAI tenha afirmado que apenas uma pequena quantidade de consultas foi exposta, a expectativa é que o número real pode ser muito maior, considerando a escala de uso do ChatGPT.