IA generativa pode virar "monstro de Frankenstein" e ameaçar direitos humanos, alerta ONU

O chefe de direitos humanos da ONU, Volker Turk, afirmou que a IA generativa possui "enorme potencial", mas disse no fórum de negócios e direitos humanos da organização que sua "exploração para benefício puramente político ou econômico pode manipular, distorcer e distrair".

"Quando poderosas gigantes da tecnologia introduzem novas tecnologias, como a inteligência artificial generativa, os direitos humanos podem ser a primeira vítima", declarou.

Notícias relacionadas

Segundo Jensen Huang, já chegamos à IAG: o problema é que, por enquanto, ela só serve para alimentar Tamagotchis

Se você come aveia no café da manhã por causa de suas propriedades nutricionais, a ciência tem uma sugestão: seria melhor comê-la no jantar

O Irã está explorando o ponto fraco dos EUA: não são seus caças F-35 ou seus mísseis Patriot, mas sim o custo de cada decolagem

"As ameaças a vários direitos humanos, incluindo privacidade, participação política, liberdade de expressão e trabalho, são claras e presentes", acrescentou.

"Sem salvaguardas e regulamentações adequadas, os sistemas de IA têm o potencial de se transformar em um monstro moderno de Frankenstein", disse ainda.

Consequências imprevisíveis

O Alto Comissário das Nações Unidas para os Direitos Humanos advertiu que as ameaças atuais "podem se materializar em danos que minam a promessa das tecnologias emergentes e podem desencadear consequências imprevisíveis".

"Os governos têm a responsabilidade de se unir para evitar tal desfecho."

Além da IA generativa, Turk destacou a ameaça representada pela crescente concentração de poder corporativo e pela enorme "acumulação de riqueza pessoal e empresarial entre um pequeno número de atores".

"Em alguns casos, isso supera as economias de países inteiros", afirmou, ressaltando que quando "o poder não é limitado pela lei, pode levar ao abuso e à dominação".