OpenAI apoia startup que visa bloquear armas biológicas criadas por IA
Por Deepa Seetharaman
SÃO FRANCISCO, Estados Unidos - A OpenAI, criadora do ChatGPT, anunciou nesta quinta-feira que investirá em uma startup focada em impedir que agentes mal-intencionados criem armas biológicas com auxílio da inteligência artificial.
Mitos desfeitos: como era viver com síndrome de down na Idade Média? Estudos revelam e a verdade não é nada do que imaginávamos
A Geração Z está perdendo uma habilidade milenar da humanidade: a fluência comunicativa
Hackeou o espaço: alemão fez o que a NASA não conseguiu e reativou satélite de 12 anos que a ciência havia dado como morto
A OpenAI é o principal investidor em uma rodada de US$15 milhões na Red Queen Bio, que está tentando garantir que as defesas da indústria de IA estejam crescendo pelo menos tão rapidamente quanto aqueles que procuram explorar modelos para prejudicar os seres humanos, disse o cofundador da startup, Hannu Rajaniemi.
O investimento faz parte de um esforço mais amplo da OpenAI para atrair startups que buscam conter os riscos apresentados pela IA. No mês passado, a empresa apoiou a Valthos, uma produtora de software de biossegurança sediada em Nova York. O diretor de estratégia da OpenAI, Jason Kwon, disse que a empresa vai considerar investir em outras startups focadas em problemas semelhantes.
"Queremos aumentar a resiliência geral do ecossistema geral", disse Kwon. "Uma das melhores maneiras de lidar com a mitigação de riscos é com mais tecnologia."
Pesquisadores e defensores da segurança afirmam que a tecnologia de IA poderá em breve acelerar o desenvolvimento de medicamentos ou projetar novas vacinas. Mas esses mesmos recursos podem facilitar o desenvolvimento de novas e poderosas armas biológicas por parte de agentes mal-intencionados.
A Red Queen Bio foi criada a partir da Helix Nano, uma empresa de terapia de mRNA em estágio clínico que tem usado a IA no desenvolvimento de medicamentos. A Helix Nano também trabalhou com a OpenAI para criar testes para determinar os riscos biológicos da IA, disse Kwon.
Sam Altman, presidente-executivo da OpenAI, e Nicole Seligman, membro do conselho, que já haviam investido na Helix Nano, receberão ações da Red Queen Bio como parte da transação. Kwon é indiretamente um investidor através da Y Combinator, uma incubadora de startups do Vale do Silício. A participação do executivo está avaliada em menos de US$2.500, informou a OpenAI.
A Red Queen Bio se baseará em modelos de IA, bem como em experimentos laboratoriais mais tradicionais, para descobrir novos riscos e desenvolver novas defesas. O nome da startup vem de uma cena do livro de Lewis Carroll, Through the Looking-Glass (Através do Espelho).
"Ficou claro que os recursos biológicos estavam avançando mais rápido do que prevíamos", disse Rajaniemi. "Sentimos que precisávamos começar a desenvolver defesas."
Outros investidores da Red Queen Bio são a Cerberus Ventures, a Fifty Years e a Halcyon Futures.
Reuters - Esta publicação inclusive informação e dados são de propriedade intelectual de Reuters. Fica expresamente proibido seu uso ou de seu nome sem a prévia autorização de Reuters. Todos os direitos reservados.
