Nvidia lança ferramentas de software para ajudar chatbots a monitorar sua linguagem

A grande fornecedora de chips e sistemas de computação para inteligência artificial Nvidia lançou nesta terça-feira um conjunto de ferramentas de software destinadas a ajudar os chatbots a monitorar sua linguagem.

As ferramentas de software da Nvidia, fornecidas gratuitamente, são projetadas para ajudar as empresas a se protegerem contra respostas indesejadas de chatbots. Algumas dessas utilizações são diretas -- o fabricante de um chatbot de atendimento ao cliente pode não querer que o sistema mencione produtos de seus concorrentes.

Notícias relacionadas

Mitos desfeitos: como era viver com síndrome de down na Idade Média? Estudos revelam e a verdade não é nada do que imaginávamos

Hackeou o espaço: alemão fez o que a NASA não conseguiu e reativou satélite de 12 anos que a ciência havia dado como morto

A Geração Z está perdendo uma habilidade milenar da humanidade: a fluência comunicativa

Mas as ferramentas da Nvidia também são projetadas para ajudar os criadores de sistemas de inteligência artificial a implementar medidas de segurança importantes, como garantir que os chatbots não respondam com informações potencialmente perigosas, como instruções para criar armas ou enviar aos usuários links desconhecidos que possam conter vírus de computador.

Parlamentares dos Estados Unidos têm pedido a regulação dos sistemas de inteligência artificial, à medida que aplicativos como o ChatGPT, da OpenAI, se tornam populares. Existem poucas regras legais ou padrões do setor sobre como tornar os sistemas seguros.

Jonathan Cohen, vice-presidente de pesquisa aplicada da Nvidia, disse que a empresa tem como objetivo fornecer ferramentas para implementar esses padrões em código de software, caso e quando eles cheguem, seja por meio de consenso da indústria ou de regulamentações.

"Acho difícil falar sobre padrões se você não tem como implementá-los", disse ele. "Se surgirem padrões, haverá um bom lugar para aplicá-los."