URGENTE
Saiba como doar qualquer valor para o PIX oficial do Rio Grande do Sul

Novo estudo revela riscos ainda desconhecidos da IA Generativa

Estudo da Carnegie Mellon University aborda de maneira inédita a segurança da IA Generativa

4 ago 2023 - 06h40
Novo estudo revela riscos ainda desconhecidos da IA Generativa
Video Player

Acaba de sair um paper que deve ser lido, avaliado e pensado por cada organização que usa ou pretende usar Inteligência Artificial Generativa. E ele é tão importante que fiz este vídeo mostrando o tamanho do problema.

Este novo estudo muda MUITO como o mundo vai ter que lidar com a Inteligência Artificial. Muito mesmo – demais! Explico em detalhes o porquê no vídeo. Se você quer entender os novos riscos que a IA apresenta a partir de agora, não deixe de assistir.

Publicidade

Esse documento não fala de nenhum novo grande avanço técnico, veja bem.

Produzido pela Carnegie Mellon University, ele prova que Inteligência Artificial Generativa não é segura. Repare que não digo que 'indica', eu digo que 'prova'. E isso vai ter consequências importantes nos próximos meses e anos.

Porque IA Generativa é um game changer. Tem um potencial de ganhos de produtividade vistos uma vez a cada geração, mas todo mundo que trabalha com ela sempre soube que era perigosa.

O que a gente não sabia, até este estudo ser divulgado, é que é possível usar características específicas dos modelos de linguagem para burlar a segurança destes. E que este problema é crônico, difícil de alterar e que, talvez, estes riscos sejam passíveis de prevenção apenas, mas não de conserto.

Foto: Montagem Homework

Duro? Pois é, vai dar muito pano pra manga.

Publicidade

(*) Alex Winetzki é CEO da Woopi e diretor de P&D do Grupo Stefanini, de soluções digitais.

Homework
Curtiu? Fique por dentro das principais notícias através do nosso ZAP
Inscreva-se