Preocupada com o avanço acelerado da inteligência artificial e os riscos da melhoria recursiva — quando a tecnologia cria modelos mais sofisticados sozinha —, a OpenAI propôs padrões técnicos comuns para sistemas de fronteira. A estratégia busca desacelerar a corrida tecnológica e assegurar o controle humano por meio de uma supervisão neutra e externa para segurança e gestão de incidentes, tirando o controle exclusivo das mãos dos laboratórios e de seus respectivos países.
"Nosso objetivo é garantir que a inteligência artificial (IA) geral beneficie toda a humanidade". Assim começa o texto intitulado "Desenvolver os padrões para a próxima fase da IA", publicado ontem pela OpenAI. Sam Altman, diretor-geral da empresa, e Jakub Pachocki, cientista-chefe, demonstraram preocupação publicamente nos últimos dias com o desenvolvimento vertiginoso que a IA está experimentando.
Seja como for, algo está mudando nos principais laboratórios de IA estadunidenses. Até apenas duas semanas atrás, eles haviam se lançado em uma corrida desenfreada para liderar o desenvolvimento dos modelos de fronteira. Agora, essas mesmas corporações querem pisar no freio. No entanto, há algo mais. Elas estão começando a propor roteiros que, em teoria, buscam minimizar os riscos associados à possível chegada de um modelo de IA suficientemente avançado para ser capaz de desenvolver, por conta própria, modelos ainda mais sofisticados. Esse conceito é conhecido como melhoria recursiva.
Produtor plantou pé de manga e banana na beira do rio da própria terra e levou multa: fiscal explica o detalhe na lei que proíbe fruto exótico em Área de Preservação
Designer cria camiseta que confunde câmeras de IA e promete camuflar identidade de quem a veste; saiba quanto custa
A remota ilha onde hackers se preparam para nos defender de uma guerra invisível
A solução para esse cenário proposta pela OpenAI no artigo que publicou ontem exige o estabelecimento de padrões técnicos comuns para os modelos de IA de fronteira. Dessa forma, a segurança, as avaliações e a gestão dos incidentes não dependerão exclusivamente dos laboratórios envolvidos e dos países aos quais pertencem; haverá uma supervisão presumivelmente neutra e superior que aproveitará o trabalho que os institutos de segurança da IA já estão realizando.
O verdadeiro desafio é proteger o ...
Matérias relacionadas
A IA está mudando a forma de consumir ficção: histórias infinitas, fanfics e fantasias sob medida
-rhdd4r9c7kgy.jpg)
