Impactos e Regulação da Inteligência Artificial na saúde

A "inteligência artificial" (IA) é frequentemente comparada a invenções revolucionárias como a internet e os antibióticos, marcando um ponto de inflexão no desenvolvimento humano. Este termo, que já se enraizou em nossa cultura e imaginário coletivo através de representações como o HAL 9000 de "2001: Uma Odisseia no Espaço" e a Samantha de "Ela", está presente em atividades cotidianas, automatizando tarefas, reduzindo erros humanos e organizando conhecimento.

Definindo IA, existe um consenso de que ela representa o uso da computação para simular comportamento inteligente e pensamento crítico de forma comparável à humana. Como John McCarthy, de Stanford, definiu em 1955, IA é “a ciência e a engenharia de fabricação de máquinas inteligentes”.

Contrariando a ideia de ser um conceito recente, as bases da IA remontam a 1950, com John Von Neumann e Alan Turing, que estabeleceram a arquitetura da computação atual e conceituaram uma máquina universal. O Teste de Turing, por exemplo, já questionava os limites e as relações entre máquinas e humanos. A IA passou por períodos de evolução exponencial e de estagnação, misturando excitação, ceticismo e medo.

É importante destacar que, apesar de sua popularidade, há muita desinformação sobre IA. Por exemplo, muitos atribuem modelos neurobiológicos de funções cerebrais à IA, quando na verdade ela se baseia em estatística aplicada a operações computacionais. Dentro da IA, temos:

• Machine Learning (ML): Subconjunto da IA que usa algoritmos de aprendizagem estatística para construir sistemas capazes de aprender e melhorar a partir de experiências sem serem explicitamente programados. Exemplos incluem sistemas de recomendação e assistentes de voz. O ML se subdivide em aprendizagem supervisionada, não supervisionada e por reforço.

• Deep Learning: Tipo de ML baseado na aprendizagem de representações de dados, utilizando algoritmos que modelam abstrações de alto nível com várias camadas de processamento.

• Large Language Models (LLM): Subconjunto da IA Generativa, dentro do Deep Learning, capaz de gerar texto semelhante ao humano, prevendo a probabilidade de uma palavra dadas as palavras anteriores usadas no texto, como o GPT da OpenAI.

Impacto da IA na Saúde e Biotecnologia:

A saúde, um setor extremamente regulado e ainda carente de digitalizações importantes, representa um campo promissor para a aplicação da IA. O potencial de "leapfrogging", ou avanço acelerado, é particularmente relevante na saúde devido à sua resistência histórica às inovações de software, mas que pode ser transformada pela IA. Por exemplo, embora a saúde represente 20% da economia norte-americana, apenas 1 das 100 maiores empresas públicas de software nos EUA pertence a este setor.

Um dos principais desafios na saúde é a adequação entre as entregas feitas e as necessidades dos pacientes. Situações como a prescrição inadequada de quimioterápicos, dietas ineficazes, internações desnecessárias e dosagens desajustadas ilustram este problema. Aqui, a IA pode oferecer soluções personalizadas em grande escala, conectando padrões padronizados a adaptadores criados por ela, como formas mais empáticas de engajamento ou determinação de tratamentos ideais através do cruzamento de bilhões de dados.

Para compreender o impacto significativo do engajamento proporcionado pela inteligência artificial (IA) na saúde, é essencial considerar dados da Organização Mundial da Saúde (OMS), que indicam uma aderência medicamentosa em torno de 50% para muitas condições crônicas. Esse fator contribui para cerca de 30% das admissões hospitalares, representando um grande custo para os sistemas de saúde ao redor do mundo.

A área diagnóstica também tem sido profundamente impactada pela IA. Desde a década de 1970, quando o MYCIN foi desenvolvido em Stanford para diagnosticar infecções bacterianas, a evolução foi notável. Atualmente, a tecnologia alcançou um patamar onde se questiona a necessidade de intervenção humana nos diagnósticos. Um exemplo marcante ocorreu em Paris, onde um algoritmo de IA, ao analisar testes de função pulmonar, mostrou-se duas vezes mais preciso que 120 pneumologistas de 16 hospitais. Além disso, um estudo de Jiayi Shen et al., em 2019, revelou que o desempenho diagnóstico da IA é comparável ao de especialistas clínicos, superando-os em eficiência.

No campo do trabalho humano, a IA tem potencial para reduzir significativamente as tarefas burocráticas e colaterais no cuidado à saúde. A Abridge exemplifica essa transformação ao converter conversas entre médicos e pacientes em registros estruturados, adaptados tanto para uso técnico quanto para simplificação aos pacientes e suas famílias.

No treinamento de profissionais e estudantes de saúde, a IA está promovendo uma revolução por meio de simulações adaptativas e atualizadas, como demonstrado pela Glass.health. Esta plataforma utiliza casos clínicos como ferramentas de apoio à semiologia e ao pensamento dedutivo, essenciais para médicos em formação.

Na área de intervenções, a IA se estende desde copilotos inteligentes que auxiliam cirurgiões até chatbots capazes de conduzir terapias digitais com pacientes. Em relação à descoberta de novas drogas, a IA oferece desde simulações generativas, como as realizadas pela AlphaFold, até a personalização de tratamentos por meio do "infotechnomics", que explora ambientes in silico para testar substâncias e analisar padrões farmacocinéticos.

Políticas de Regulação da Inteligência Artificial na Saúde:

A inovação, que sempre foi um imperativo na indústria de saúde passa a ter uma associação cada vez mais intrínseca com a tecnologia, favorecendo uma mudança de comportamento gradual dos atores envolvidos nesse ecossistema por vezes tão conservador. Todas estas novas ferramentas de IA, quando associadas a um fluxo contínuo de dados estruturados, representativos, interoperáveis e calibrados, têm o potencial de mudar na forma e na substância um amplo contexto de ações envolvendo pesquisa & desenvolvimento, ações de assistência à saúde, gestão de políticas públicas e/ou monitoramento, incorporação e/ou avaliação destas tecnologias nos sistemas de saúde.

Mas expectativas irrealistas de nós, seres humanos, não deveriam encorajar a utilização da inteligência artificial antes de uma confirmação rigorosa sobre a sua aptidão clínica. Aqui vale consultar os achados do Consórcio COVID PRECISE, que consiste em uma avaliação sistemática sobre a eficácia de modelos preditivos utilizados para suporte à decisão clínica durante o período de pandemia. Em um universo de 126.000 publicações analisadas, mais de 99% dos modelos apresentaram um risco de viés considerado alto e provavelmente otimista, podendo gerar mais riscos do que benefícios – artigo publicado no BMJ.

Em termos regulatórios, o ritmo da inovação está, como de costume, superando o da regulação. A parte boa dessa constatação é que, assim como a comunidade científica está aprendendo sobre as aplicações, os limites, riscos e benefícios da IA, os agentes públicos também têm consciência sobre a necessidade de aprender a regular o tema.

O IA Act europeu – em discussão desde 2021 – provavelmente será o primeiro marco legal do mundo a regular a inteligência artificial, ainda que de forma principiológica. No momento, a Comissão Europeia, bem como o Conselho e o Parlamento Europeu negociam os detalhes da redação final da lei, que só deverá entrar em vigor a partir de 2026.

O Brasil também ainda não tem uma lei específica e atualmente discute o PL nº 2.338/2023, fruto de uma Comissão Temporária de IA (“CTIA”) instalada no Senado Federal com o objetivo de unificar as propostas legislativas a respeito do tema, o que resultou em um texto muito semelhante ao europeu. Apenas para contexto, sistema de IA está definido com o sistema computacional, com graus diferentes de autonomia, desenhado para inferir como atingir um dado conjunto de objetivos, utilizando abordagens baseadas em aprendizagem de máquina e/ou lógica e representação do conhecimento, por meio de dados de entrada provenientes de máquinas ou humanos, com o objetivo de produzir previsões, recomendações ou decisões que possam influenciar o ambiente virtual ou real.

Alguns dos principais aspectos abordados tratam:

• dos princípios para uso ético de sistemas de IA incluindo: supervisão humana efetiva, rastreabilidade, não discriminação, transparência, explicabilidade, auditabilidade, confiabilidade, accountability, responsabilização, prevenção e mitigação;

• dos detalhes sobre autoridades competentes para fiscalização e expedição de normas;

• dos direitos conferidos aos usuários - com destaque para: privacidade, proteção de dados pessoais, não-discriminação e correção de vieses discriminatórios – que podem ser considerados os pontos de maior preocupação associados ao uso de IA em saúde.

Um ponto que certamente merece um debate mais aprofundado no setor de saúde diz respeito aos requisitos para categorização de riscos. Tal como já acontece com um dispositivo médico (inclusive softwares médicos) no Brasil e boa parte do mundo, todo sistema de IA estará sujeito à avaliação preliminar para classificação de seu grau de risco previamente ao seu ingresso no mercado. Como é de se esperar, aplicações na área da saúde (inclusive para auxílio diagnóstico e de procedimentos), estão sendo genericamente tratadas como de alto risco, o que implicará regras mais robustas de governança e uma avaliação contínua de impacto algorítmico cobrindo riscos, benefícios, probabilidade e gravidade de consequências adversas, formas de mitigação e lógica de funcionamento. Mas talvez nem todas as aplicações desse espectro necessitem do mesmo rigor – de forma que há um espaço grande para o setor de saúde propor considerações e definições mais detalhadas sobre o tema.

Além disso, também há uma lição de casa em curso por parte das autoridades do setor, principalmente:

• a Anvisa, quando se tratar de uso de IA em softwares médicos, definidos como aplicações destinadas ao(s) propósito(s) de: diagnóstico, prevenção, monitoramento, tratamento, suporte, investigação, controle, concepção e/ou reparação de doença, lesão ou deficiência. A tendência é de que a autoridade faz uma análise de impacto regulatório sobre o tema, o que permitirá uma participação ativa de todos os stakeholders do setor. Também é provável que a Anvisa priorize aspectos envolvendo validação da base de dados e cibersegurança, buscando convergência regulatória com as diretrizes do International Medical Device Regulators Forum e possivelmente com o FDA, que discute uma proposta de framework para regular algoritmos de inteligência artificial e machine learning desde 2019;

• o Ministério da Saúde, com relação à aplicação das soluções no âmbito de saúde pública, gestão administrativa e assistencial do SUS. Um benchmark valioso a ser considerado aqui é o Código de Conduta para Uso de IA e Tecnologias Baseadas em Dados do NHS, sistema de saúde inglês. O documento estabelece o padrão-ouro para que desenvolvedores e prestadores de serviço inovem de forma ética e com qualidade técnica, ao mesmo tempo que protegendo a privacidade dos pacientes e compensando o governo pelo uso dos seus recursos e bases de dados;

• os conselhos profissionais de saúde (CFM, CFF, COFEN, CFP e afins), nas respectivas atuações, eventualmente estabelecendo parâmetros educacionais para uso destas e outras tecnologias associadas à prática assistencial, bem como sobre a responsabilidade pela tomada de decisões clínicas. Uma revisão dos princípios da ética médica para adequação à era de saúde digital contemplaria, na visão de  Brennan Spiegel and Bertalan Mesko, um “Hippocratic Oath upgraded” que passe a focar na prevenção (em vez de tratamento) de doenças através da melhor tecnologia disponível.

Para que todas essas futuras regulações sobre o tema sejam adequadas ao nosso estágio tecnológico, a figura do sandbox regulatório (já prevista no atual marco legal de startus e também no PL nº 2.338/2023de maneira abstrata) é promissora na resolução do desafio de regular o que ainda não conhecemos da IA.

Trata-se de um ambiente regulatório experimental, que poderá ser criado pelas autoridades com a finalidade de suspender temporariamente a obrigatoriedade de determinados requisitos ou proibições, permitindo que empreendedores(as) tenham um regime diferenciado para testar o lançamento de produtos e serviços inovadores no mercado, com menos burocracia e mais flexibilidade, ainda que com o monitoramento e a orientação dos reguladores. O maior desafio nesta nova realidade será o timing para adequação das normas ao estágio tecnológico mais recente das soluções.

O que devemos esperar para o futuro:

No que diz respeito às tendências futuras, a criação de modelos de IA focados na automatização completa de funções diagnósticas e de intervenções, que antes eram realizadas por humanos, parece ser a principal fronteira. Atualmente, a maioria das aplicações de IA na saúde ainda se concentra no apoio, na verificação e na extensão do trabalho dos profissionais da área. Com o aprimoramento da IA generativa e dos modelos de "desaprendizagem", antecipa-se a possibilidade de criação de agentes específicos e confiáveis, livres de erros, alucinações e memórias espúrias ainda presentes nos modelos atuais. Outras áreas parecem evoluir de forma mais incremental, enfrentando desafios de capilaridade, cultura setorial e custo-efetividade.

Em relação aos riscos e reflexões necessárias, é evidente que qualquer tecnologia com potencial para automatizar até 30% das horas de trabalho até 2030, conforme estudo da McKinsey & Co, traz consigo discussões importantes sobre a precarização e vulnerabilidade da classe trabalhadora. Outro aspecto crucial é a possível necessidade de reavaliar as bases operacionais dos sistemas de incentivos na saúde. A digitalização e a redução da intervenção humana em decisões podem diminuir distorções causadas pela maximização de lucros, como nas decisões arbitrárias de operadoras de saúde e intervenções desnecessárias por hospitais e profissionais. Com algoritmos e transparência de dados, importantes vieses podem ser eliminados, dando lugar a novas lógicas de otimização financeira e reconhecimento do sucesso.

De forma mais imediata, é crucial ter cuidado com a inclusão de modelos de IA ainda sujeitos a erros, tanto sistemáticos quanto estocásticos. Diferentemente dos humanos, ainda não existem regras claras de punição ou compensação para danos causados por IA. Em um cenário mais especulativo, podemos passar por uma fase de amplificação e aumento de eficiência, seguida por uma de substituição, que eventualmente dará lugar a uma nova realidade focada em desafios de recursos, já que muitos dos desafios atuais de identificação e indicação de intervenções ideais serão superados.