Corrida por eficiência com IA pode representar risco estrutural para grandes empresas

A inteligência artificial (IA) é uma tecnologia que acelera o ritmo de produção de diversos processos e mercados, mas pode representar um risco estrutural para grandes empresas. Esse foi o tema de um painel da trilha de IA do Rio Innovation Week, conferência de inovação que acontece no Pier Mauá nesta semana. O painel contou com a participação de Angelo Coelho, CTO do Grupo Light, Andrei Graça, sócio da consultoria EY, Francesco Bottino, conselheiro e sócio aposentado da EY (mediador), e Fernando Augusto Garcia Martins, gerente-geral da Petrobras.

Para Graça, a IA não é mais um tema restrito aos times de tecnologia e passou a ser uma preocupação corporativa. "A (área de) TI tem papel importante para criar fundações e proteções, mas C-Level (altos executivos) e o conselho têm um protagonismo muito importante. Em IA, existe uma aceleração maior do que a da lei de proteção de dados. É uma agenda para a empresa como um todo", afirma.

Notícias relacionadas

Pix já funciona em 8 países: veja onde brasileiros podem pagar compras sem cartão

EUA tornam permanente para 50 países exigência de caução de até US$ 20 mil para emissão de vistos; veja lista

Mega-Sena não tem vencedores e prêmio acumula em R$ 135 milhões; veja dezenas

Coelho, da Light, diz que um dos principais riscos do uso da IA nas empresas é o chamado shadow IT, quando as áreas seguem por conta própria no uso da IA, sem envolver os times de TI - ou seja, os funcionários usam a ferramenta para o trabalho, mas extraoficialmente, oferecendo risco ao compartilhar informações sensíveis. "Fizemos uma avaliação e, inicialmente, bloqueamos todo o acesso a elas (IAs). Foi um caos. Todo mundo começou a entrar em colapso", conta.

Garcia afirma que a governança da IA é algo que todas as empresas precisam tratar, incluindo a Petrobras, mesmo antes de as legislações estarem maduras na sociedade.

"Convidamos todas as áreas para discutir a IA e criamos uma diretriz que tem alguns pilares importantes. A IA precisa ser centrada no ser humano, garantir o direito individual, equidade, diversidade e inclusão. Outro pilar é a responsabilização. Todo o desenvolvimento de IA precisa de revisão humana, que é diretamente proporcional ao risco da IA (se o risco é baixo, a revisão é baixa). O terceiro pilar é a explicabilidade dos modelos, como as decisões foram tomadas. A IA precisa ser auditável", afirma Garcia.

Agentes de IA nas empresas precisam de cuidado adicional

Graça, da EY, lembra que, embora haja uma pressão de mercado para usar IA, as empresas precisam ter clareza sobre como aplicar a tecnologia, e não fazer de qualquer jeito. "Tratar a IA como esteira de produção para capturar valor, sem responsabilidades, é um risco. É preciso ter governança. A IA precisa de mais robustez. Com os agentes, a IA vai tomar decisões que não estão no controle da robotização de processos, que era algo determinístico. É preciso ter uma orquestração. A complexidade aumenta porque ela 'raciocina'", diz.

Na Light, a governança de IA foi feita com embaixadores de diferentes áreas de negócios, que foram treinados no Google. A empresa criou um laboratório de IA com esse time e iniciou o desenvolvimento da tecnologia fora das equipes de TI. Com isso, foram criados núcleos chamados garagens, nome inspirado na mítica história da criação da Apple, onde são criados e analisados projetos de uso de IA nos negócios.

O que os conselhos devem fazer sobre a IA

Garcia, da Petrobras, conta que, após validação dos times de tecnologia, modelos de IA são liberados para a companhia fazer testes de aplicações no dia a dia. Ele conta que a empresa coloca grandes proteções para garantir a privacidade por design no uso da IA.

"Os conselhos precisam fugir das métricas de vaidade e entender qual valor a IA está agregando. Está sendo usada para aumentar a margem de lucro? É sobre isso que os conselhos devem se preocupar, além do lock-in (ficar à mercê) de duas ou três fornecedoras", afirma.

Graça, da EY, lembra que é preciso manter a soberania na era da IA. Ele diz que os conselheiros precisam tomar cuidado ao adotar novas soluções de IA que podem ser desativadas ou parar de funcionar da noite para o dia. "A soberania é pauta de conselho, porque uma empresa pode parar de funcionar por usar uma aplicação de um terceiro que é de fora do País", diz.

Quais são os desafios da implementação da IA

Para Graça, o começo da aplicação da IA é fazer um levantamento tecnológico e entender o que as pessoas estão usando na empresa. "Começaria a criar políticas e diretrizes para usar a IA", afirma.

Garcia indica que uma abordagem positiva é escolher dois ou três problemas que podem ser resolvidos ou melhorados com IA e testar o seu uso, desde que sejam questões de baixo risco.

Coelho alerta que a IA está na moda, mas tudo deve começar com o que deve ser feito e quais são os custos envolvidos no uso da tecnologia. "Depois, é possível criar um comitê e identificar o que pode trazer mais retorno, evitando o shadow IT, porque ele pode se tornar um problema para a companhia. O risco é implementar a IA sem controles e segurança", afirma Coelho.