Novo estudo revela riscos ainda desconhecidos da IA Generativa
Estudo da Carnegie Mellon University aborda de maneira inédita a segurança da IA Generativa
Acaba de sair um paper que deve ser lido, avaliado e pensado por cada organização que usa ou pretende usar Inteligência Artificial Generativa. E ele é tão importante que fiz este vídeo mostrando o tamanho do problema.
Este novo estudo muda MUITO como o mundo vai ter que lidar com a Inteligência Artificial. Muito mesmo – demais! Explico em detalhes o porquê no vídeo. Se você quer entender os novos riscos que a IA apresenta a partir de agora, não deixe de assistir.
Esse documento não fala de nenhum novo grande avanço técnico, veja bem.
Produzido pela Carnegie Mellon University, ele prova que Inteligência Artificial Generativa não é segura. Repare que não digo que 'indica', eu digo que 'prova'. E isso vai ter consequências importantes nos próximos meses e anos.
Porque IA Generativa é um game changer. Tem um potencial de ganhos de produtividade vistos uma vez a cada geração, mas todo mundo que trabalha com ela sempre soube que era perigosa.
O que a gente não sabia, até este estudo ser divulgado, é que é possível usar características específicas dos modelos de linguagem para burlar a segurança destes. E que este problema é crônico, difícil de alterar e que, talvez, estes riscos sejam passíveis de prevenção apenas, mas não de conserto.
Duro? Pois é, vai dar muito pano pra manga.
(*) Alex Winetzki é CEO da Woopi e diretor de P&D do Grupo Stefanini, de soluções digitais.
Homework
