A farmacêutica Ana Helena Ulbrich identificou um problema comum na rotina dos profissionais da sua área e buscou uma solução com o uso de inteligência artificial (IA). Seu time em um hospital no sul do País tinha um grande volume de prescrições de medicamentos para analisar diariamente, o que levava a uma avaliação superficial de muitos casos.
Ana levou o problema e seu conhecimento na área ao seu irmão, Henrique Dias, que adotou o projeto para sua tese de doutorado. A partir disso, os irmãos não criaram um negócio, mas sim um instituto sem fins lucrativos. A plataforma que nasceu desse projeto se chama NoHarm AI e analisa as prescrições com base no histórico e nos quadros dos pacientes, dando uma nota a eles. Isso agiliza o trabalho e ajuda a evitar erros que passariam batidos devido ao alto volume de documentos.
A plataforma de IA é oferecida gratuitamente ao SUS, enquanto se mantém por cobrar pelo uso em hospitais privados, além de receber doações. "Eu não vejo a IA tomando a decisão sozinha, tem de ter um profissional com olhar crítico sobre o que está sendo feito", diz.
No fim do ano passado, a revista americana Time elencou 100 profissionais que transformaram o mundo através de avanços revolucionários na IA. A iniciativa do NoHarm AI levou Ana a ser a única brasileira citada entre as pessoas mais influentes em inteligência artificial pela publicação. Ana será uma das palestrantes da trilha de saúde no Rio Innovation Week, que acontece de 4 a 7 de agosto, no Pier Mauá.
Leia os principais trechos da entrevista a seguir.
Como surgiu o NoHarm.AI?
Eu estava como farmacêutica desde 2012 no Hospital Nossa Senhora da Conceição (Porto Alegre, RS) e eram poucos farmacêuticos para avaliar as prescrições antes de liberar para serem administradas nos pacientes. Eu estava com essa demanda, essa dificuldade de olhar para as percepções de uma forma mais profunda. Eram mais de 1 mil prescrições para cinco ou seis farmacêuticos. Isso levava a fazer uma avaliação mais superficial da prescrição, porque não tínhamos tempo suficiente para olhar exames e diagnóstico do paciente. Sempre me senti insegura nessa avaliação. Eu tinha a impressão de que sempre existia um risco de um erro passar despercebido. Em 2017, levei essa insegurança ao meu irmão, que estava fazendo doutorado em inteligência artificial na PUC do Rio Grande do Sul. Ele percebeu a possibilidade de aplicar a IA num problema real do dia a dia. Conseguimos aplicar o conhecimento dele na realidade do Hospital Conceição.
Entre os estudos, os dois mais importantes foram o uso da IA para detectar eventos adversos em prontuário eletrônico e a detecção de prescrição fora do padrão. São duas inteligências bem diferentes. Uma é sobre texto e outra sobre dados estruturados. Quando eu tenho um medicamento prescrito, por exemplo, uma dipirona 1 g quatro vezes por dia, o algoritmo olha para isso e para o histórico de cada hospital. Ele vai analisar se aquela prescrição é comum ou incomum e dará uma pontuação para ela. O farmacêutico vai avaliar, por exemplo, 20 medicamentos de um paciente crítico. Esse score agiliza o processo e evita que algo passe despercebido.
Criamos esses algoritmos e publicamos em jornais internacionais de informática em saúde. Mas não queríamos deixar isso só numa publicação. Queríamos transformar isso numa ferramenta. Então, construímos todo um negócio e criamos o Instituto de Inteligência Artificial na Saúde, que tem o NoHarm AI. Depois de tentar em seis ou sete hospitais, validamos a solução na Santa Casa de Porto Alegre, que foi o primeiro onde colocamos a ferramenta em prática. Agora, o NoHarm AI está em mais de 200 hospitais, impactando mais de 4 milhões de vidas com a nossa tecnologia.
Em termos práticos, como o NoHarm.AI consegue ajudar no dia a dia?
As mais 4 milhões de vidas impactadas pela ferramenta significam que essas pessoas foram, pelo menos uma vez, atendidas em um hospital e tiveram a prescrição avaliada por um farmacêutico por meio da NoHarm.AI. Além disso, já ultrapassamos o marco de 5 milhões de prescrições diárias avaliadas.
Como lidaram com o problema da alucinação da IA?
A alucinação, nesse caso, não se aplica. Não estamos usando IA generativa. Até tem alguns usos que colocamos posteriormente, mas não nesses dois algoritmos que criamos em 2017. Naquela época, a IA generativa era muito inicial, não era comercial como hoje. Por isso, construímos com as inteligências disponíveis. É um processamento de linguagem natural que não cria, então não tem a possibilidade de alucinar. Ele simplesmente detecta informações no texto.
Como foi receber reconhecimento internacional pelo trabalho do instituto?
O impacto na nossa rotina foi gigante. Nós tínhamos um reconhecimento nichado, dentro da área de farmácia. Não tínhamos visibilidade para o grande público como temos hoje. Tivemos de lidar com uma demanda gigante de demonstrações do produto e ainda estamos aproveitando bem esse momento. Nós não buscamos a Time, ela veio através de uma publicação de uma reportagem sobre o nosso projeto.
Quais foram os maiores obstáculos para levar uma tecnologia desenvolvida no Brasil aos hospitais?
Nem todos os hospitais estão abertos para novas tecnologias. Hoje, a IA generativa permitiu que muitas instituições desenvolvessem sistemas, e isso acaba dificultando ainda mais para os centros de inovação selecionarem uma tecnologia que de fato entregue valor. Na época do nosso crescimento, não tinha tanto disso. De qualquer forma, o hospital tem muitas demandas. Então, priorizar a demanda da farmácia, que não é um setor tão valorizado dentro do hospital, é um ponto difícil. Esse foi o ponto de maior dificuldade para a nossa implantação, mesmo sendo de graça.
No começo do projeto, houve alguma captação de investimento para criar a plataforma tecnológica?
No início, em 2018, ganhamos um prêmio do Google. Não era um grande valor, mas nos ajudou. Também contamos com trabalho voluntário. Muitas pessoas trabalharam voluntariamente ou por um valor bem reduzido para que fosse possível construir a ferramenta. Tanto eu quanto o Henrique, meu irmão, tínhamos empregos concursados. Fizemos o trabalho aos poucos, sem a necessidade de investimentos. Como nosso propósito era entregar isso de graça para o SUS, nossa solução não fazia muito sentido para investidores. Foi por isso que decidimos em 2019 que faríamos um negócio sem fins lucrativos. Fazia mais sentido ser um instituto do que uma empresa. Esse foi um dos grandes motivos da escolha da Time. Não foi só o fato da nossa IA ser de ponta, porque tem muita gente que tem isso.
Como a instituição se mantém?
No nosso modelo de negócio, cobramos pelo uso do NoHarm.AI em leitos privados e entregamos a ferramenta de graça para o SUS. Com essa cobrança dos leitos privados e as doações de investidores sociais é que conseguimos sustentar nossa operação.
Como a plataforma usa IA generativa?
Temos um resumo de informações dos pacientes no momento da alta hospitalar, mas, como é uma questão muito crítica, não temos uso prático. Estamos a nível de pesquisa ainda. Não tivemos muitas alucinações; está ficando cada vez melhor. Mas ainda não é o momento de usar essa solução sem um olhar muito crítico. Além disso, usamos a IA generativa no suporte ao usuário, deixando as respostas mais gentis de forma ágil. Usamos dessa forma, nunca substituindo a pessoa, porque ainda não é o momento de fazer isso.
Como será o hospital do futuro? Teremos hospitais onde a IA tomará mais decisões do que os próprios médicos?
Para mim, a IA na saúde tem de ser para qualificar e não para substituir. Para mim, não tem a possibilidade de substituição. Muitas vezes, vamos ao médico e é preciso confirmar a informação com outro profissional, porque não era exatamente aquilo que se pensava. Então acho que a IA ajuda a qualificar, porque a medicina é muito complexa. Não podemos exigir que as pessoas saibam tudo sobre tudo. Mas, já que temos uma IA que pode dar esse apoio ao profissional na tomada de decisões, isso é fantástico. Eu não vejo a IA tomando a decisão sozinha; tem de ter um profissional com olhar crítico sobre o que está sendo feito.
Qual é o maior erro que o Brasil está cometendo na corrida pela IA na área da saúde?
Existe muito erro de validação das IAs. Às vezes, a validação da IA é feita com a própria IA. Sem um olhar crítico sobre a validação, a ferramenta pode parecer fantástica e não ser. Por exemplo, agora estão vindo algumas ferramentas de IA para análise de imagem que funcionam muito bem, mas foi um longo período para de fato funcionarem.
O que ainda falta realizar com a NoHarm.ai?
Nós temos um projeto novo, é o NoHarm Doadores. Vamos identificar pacientes que são candidatos à doação de córnea. Um dos problemas comuns é que a doação tem que acontecer 6 horas após o óbito do paciente. É um tempo muito curto para tudo acontecer. Fomos selecionados para ajudar nisso em Goiás. Detectar os pacientes que tiveram óbitos de uma forma ágil e trazê-los para a equipe de transplante avaliar se ele é candidato de fato, apoiando a equipe de transplante na tomada de decisão e entregando essa possibilidade para transplante de córnea.
Como será levar a NoHarm AI para o Rio Innovation Week?
Vamos levar a discussão sobre ética da IA da área da saúde. Como eu sou profissional da saúde, sou realmente muito crítica em relação ao uso da IA nessa área. Outro ponto que vamos levar é que nem tudo é IA. Existem problemas que podem ser resolvidos com IA, e outros não. Eles podem ser resolvidos por uma tecnologia padrão. Também vamos falar sobre a IA generativa, que tem grandes vantagens, mas que precisa de um olhar crítico porque a saúde é muito complexa. Temos que ter um profissional à frente para tomar as decisões, baseando-se nos dados sugeridos pela IA. É ele que tomará as decisões em relação a qualquer problema na área da saúde.
