Projeto para regulamentar inteligência artificial passa por revisão; veja detalhes
A revisão trouxe mudanças importantes no projeto, como a proibição do uso de inteligência artificial em armas
Uma nova revisão do projeto que trata do marco legal da inteligência artificial (IA) no Brasil foi apresentada pelo relator Eduardo Gomes (PL-TO), contendo entre outros aspectos, a proibição significativa de armas autônomas. O projeto será debatido e possivelmente votado no Senado na próxima semana e, se aprovado, seguirá para a Câmara dos Deputados.
Uma revisão do projeto do possível marco legal para a inteligência artificial (IA) no Brasil foi apresentado na última sexta-feira (7) pelo relator, o senador Eduardo Gomes (PL-TO). Nesse texto substituto, há proibição de usar IA em armas automáticas, assim como outras revisões de situações de alto risco, como a avaliação de crédito por IA.
O projeto entrará em debate no plenário do Senado nesta terça-feira (11), com a possibilidade de ser votado no dia 18 de junho. Caso seja aprovado, o texto irá à Câmara dos Deputados.
O relator propõe a criação de um Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), que já era previsto na versão anterior, com uma "autoridade competente" central. Esta seria decidida pelo Poder Executivo Federal para realizar a fiscalização e regulação.
O relatório passa de 33 para 43 páginas, descartando um trecho que autorizava a utilização de armas letais autônomas com "controle humano significativo".
À Folha de S. Paulo, o diretor da Data Privacy Brasil, Bruno Bioni, afirmou que esse tipo de avanço no relatório é significativo, uma vez que as tecnologias não possuem controles ético-legais em seus designs.
Bioni também ressalta que no caso do SIA, é preciso usar ciência e dados para balancear os riscos e benefícios da inteligência artificial. Na visão dele, é necessário um painel participante no SIA, para que traga esse equilíbrio, em vez de ser algo transitório, como está previsto no projeto.
Além disso, a coordenadora de IA da Coalizão Direitos na Rede, Paula Guedes, também destacou ao jornal que apesar da mudança ser importante, ainda há pontos problemáticos, como a possibilidade de utilizar sistemas de reconhecimento facial à distância e em tempo real, que continuou no texto atualizado.
Especialistas acreditam que o principal problema que desses sistemas, em especial quando relacionado à segurança pública, é a alta taxa de erros. Em geral, esses erros são ocasionados pelo racismo algorítmico (que acontece por conta de uma maioria de pessoas brancas nos bancos de dados de IA, o que leva a uma imprecisão contra pessoas negras).
Outro ponto de destaque é a eliminação da IA ser um método para avaliar a capacidade de endividamento de pessoas e empresas da categoria de alto risco. Ou seja, não é mais considerado algo arriscado e é importante, segundo Paula Guedes, pois permite que as pessoas tenham mais acesso aos bens e serviços essenciais.