Por Fernando Carbonieri
Médico, vice-coordenador do Alumni CBEXS Futuro e empreendedor serial em saúde
A inteligência artificial (IA) já impacta a vida dos médicos e outros profissionais assistenciais. Impacta também na atividade de outros profissionais que compõe o complexo econômico industrial assistencial da saúde. Como uma tecnologia disruptiva que finalmente ganhou os early adopters, ela produz um misto de suposições sonhadoras e detratoras, ávidas e resistentes, restritivas e empreendedoras…
A curva de adoção da tecnologia se repete e temos um debate entre innovators, early adopters, early majority, late majority e Laggards. O resultado desse debate posicionará o futuro do nosso país, mais uma vez, como uma nação de criadores de soluções ou, mais uma vez, criaturas viventes do fisiologismo burocrático tupiniquim.
Foi assim com a Lei da Informática, mas não pode ser assim com a regulamentação da Inteligência artificial. Queira você ou não, ela será regulamentada. Minha única certeza que trarei neste texto: a regulamentação ficará com a cara de quem a discutiu. Você está fazendo parte dessa discussão?
De diagnósticos mais precisos a tratamentos personalizados, uma melhor comunicação entre pacientes e profissionais e uma quantificação de dados como nunca antes foi feita, a IA está transformando a maneira como cuidamos da saúde. No entanto, essa revolução traz desafios regulatórios significativos, especialmente no Brasil, e apresenta novas oportunidades profissionais.
Aqui, trago alguns insighs e usos de mundo real com a IA remodelando a saúde, os desafios que enfrentamos para sua regulamentação e as oportunidades emergentes para profissionais de saúde. Tenho, rotineiramente, a oportunidade de vivenciar a IA na prática médica, seja ensinando colegas a usarem no seu dia a dia quando os preparo para próximos passos de carreira, seja como diretor médico da Wellbe, onde trabalhamos inteligência em saúde populacional para mais de 3,5 milhões de vidas
Esse debate está acontecendo não mais somente no whatsapp de “innovators e early adopters”, mas também, tardiamente, nas sociedades médicas de especialidade e demais instituições que representam diversas pessoas que atuam na saúde.
Aproveito esse texto também para ventilar as ideias que trocamos no SintonIA Saúde – Workshop que amplia o debate sobre a regulação da Inteligência Artificial na Saúde no Brasil. Este evento organizado pelo ICOS e pela Fundação Getúlio Vargas, pôs à luz ao debate de temas e reflexões compartilhados pelos palestrantes e mais de 50 representantes da sociedade civil organizada – entre elas o CBEXS (Colégio Brasileiro de Executivos em Saúde), a qual tive o privilégio de representar nesse workshop – sobre o tema contemplando, surpreendente, mais de 30 representantes de sociedades médicas de especialidade.
O Impacto da IA na Saúde
“O médico que não usa Inteligência Artificial será substituído por aquele que usa”
Frase repetida diversas vezes durante o encontro, já é evidente que o mundo mudou. Ela com certeza provocou e provoca reações das mais diversas dos nossos queridos colegas do late majority e laggards. Há muito a ser feito para transformar a prática de quem nunca usou IA para passar a usar com sabedoria, abaixo alguns dos usos práticos que já estão em produção e impactando médicos e pacientes:
- Diagnóstico e Tratamento: Algoritmos de aprendizado de máquina estão melhorando a precisão dos diagnósticos, identificando doenças em estágios iniciais e personalizando planos de tratamento com base em grandes volumes de dados. A radiologia avançou enormemente
- Pesquisa e Desenvolvimento: Ferramentas de IA aceleram a pesquisa clínica e o desenvolvimento de novos medicamentos e dispositivos médicos, possibilitando avanços que antes demorariam anos.
- Gestão Hospitalar: Sistemas de IA estão otimizando a gestão de recursos hospitalares, melhorando a eficiência operacional e reduzindo custos.
- Assistência ao Paciente: Aplicações de IA estão sendo usadas para monitorar pacientes, prever complicações e educar pacientes sobre suas condições e tratamentos.
Há muito para citar, mas talvez seja melhor continuar com a discussão do que ficar falando das 100 últimas inovações que surgiram nas ultimas 48h (viram a do hospital com IA na China?).
Desafios Regulatórios
Apesar do potencial transformador da IA, a regulamentação é um dos maiores desafios que enfrentamos. O Projeto de Lei 2338-2023 visa regular a IA no Brasil e está alicerçado em visões unilaterais, sem a participação de representantes profissionais da saúde e apresenta diversos pontos sensíveis. Aqui estão alguns pontos críticos:
- Restrição ao Desenvolvimento: O PL 2338-2023 pode restringir atividades econômicas, empreendedoras e inovadoras, focando apenas em deveres, princípios e riscos, sem fomentar o desenvolvimento de novas soluções. Enquanto os produtores de tecnologia médica mundial tem uma postura de abraçar a tecnologia como ferramenta e proporcionar criação de possibilidades de diagnóstico, tratamento e econômicas, o documento como está, tira a liberdade de estudo e desenvolvimento de atividades com IA.
- Lacunas na Regulação: O projeto não aborda como lidar com dispositivos que já possuem IA embarcada ou como importar e trabalhar com essas soluções.
- Falta de Participação de Profissionais de Saúde: Há pouca participação de médicos e outros profissionais de saúde na elaboração dessas regulamentações,
O convite aqui é o envolvimento. A Presença da Deputada Federal Adriana Ventura, que se envolve diretamente com temas de saúde digital em frentes parlamentares, como keynote do evento ampliou o espaço para que o debate cheguem na câmara, pois o PL que vem do Senado deve passar por diferentes processos até que chegue a uma versão final. Participar é preciso. Caso tenha uma opinião, entre em contato com a deputada ou com a Frente Parlamentar de Saúde Digital.
Princípios para uma Governança Ética da IA
Para garantir que a IA seja utilizada de forma segura e justa na saúde, é essencial seguir princípios éticos claros. A American Medical Informatics Society sugere os seguintes princípios ( o Original pode ser encontrado AQUI):
I. Autonomia – Os sistemas de IA devem proteger a autonomia de todas as pessoas e tratá-las com cortesia e respeito, incluindo facilitar o consentimento informado.
II. Beneficência – Os sistemas de IA devem ser úteis para as pessoas, modelados após um comportamento humano compassivo, gentil e atencioso.
III. Não maleficência – Os sistemas de IA devem “não causar danos” evitando, prevenindo e minimizando qualquer dano a qualquer parte interessada.
IV. Justiça – Os sistemas de IA devem incluir equidade para as pessoas na representação e acesso à IA, seus dados e seus benefícios. A IA deve apoiar a justiça social.
V. Explicabilidade – Os desenvolvedores de IA devem descrever os sistemas de IA em linguagem apropriada ao contexto para que seu escopo, aplicação adequada e limitações sejam compreensíveis.
VI. Interpretabilidade – Os desenvolvedores de IA devem dotar seus sistemas com a funcionalidade para fornecer um raciocínio plausível para decisões ou conselhos em linguagem acessível.
VII. Imparcialidade – Os sistemas de IA devem ser livres de viés e não discriminatórios.
VIII. Confiabilidade – Os sistemas de IA devem ser robustos, seguros e resilientes. Falhas não devem deixar qualquer sistema em um estado inseguro ou inseguro.
IX. Auditabilidade – Os sistemas de IA devem fornecer e preservar uma “trilha de auditoria” de desempenho, incluindo alterações internas, estado do modelo, variáveis de entrada e saída para qualquer decisão ou recomendação do sistema.
X. Gestão do Conhecimento – Os sistemas de IA devem ser mantidos, incluindo o re-treinamento de algoritmos. Os modelos de IA precisam de criação, revalidação e datas de validade listadas.
Organizações que implementam ou desenvolvem IA
XI. Benevolência – Organizações que implementam ou desenvolvem IA devem estar comprometidas a usar sistemas de IA para fins positivos.
XII. Transparência – A IA deve ser reconhecível como tal ou anunciar sua natureza. Os sistemas de IA não devem incorporar ou ocultar quaisquer interesses especiais e tratar de maneira uniforme e justa todos os atores de boa fé.
XIII. Responsabilidade – Os sistemas de IA devem estar sujeitos à supervisão ativa da organização, e qualquer risco atribuído à IA deve ser relatado, avaliado, monitorado, medido e mitigado conforme necessário. As reclamações e reparações devem ser garantidas.
Considerações especiais
XIV. Populações vulneráveis – IA aplicada a populações vulneráveis exige maior escrutínio para evitar o agravamento da diferença de poder entre os grupos.
XV. Pesquisa de IA – Organizações de pesquisa acadêmica e industrial devem continuar a pesquisar IA para abordar perigos inerentes, bem como benefícios.
XVI. Educação do usuário – Os desenvolvedores de IA têm a responsabilidade de educar os prestadores de serviços de saúde e os consumidores sobre aprendizado de máquina e sistemas de IA.
Oportunidades Profissionais
“Nunca foi um momento tão bom para empreender!”
A frase acima foi dita no contexto de um mundo com IA generativa, na qual as informações podem ser acessadas e articuladas com uma velocidade incrível e numa assertividade crescente. Tive duas reflexões próprias desde o momento que testei a IA pela primeira vez (depois que vi que meu imaginário se repetiu em pessoas exploradoras como eu):
- A IA Generativa faz muito bem o trabalho de pessoas juniores e plenas, que ainda estão aprendendo metodologias com pessoas mais experientes ou em mercados consolidados. Logo, se não precisamos mais de juniores ou plenos, como formamos seniores? Na medicina, em contrapartida, onde o alicerce do aprendizado e da arte médica é o relacionamento humano, como formaremos médicos para cuidar de pessoas se eles não tem mais experiencias humanas?
- O mundo, até o momento, foi das pessoas que tinham todas as respostas. Com o advento da IA generativa, acredito que as pessoas que terão mais impacto na sociedade são aquelas que tem as melhores perguntas. Se não temos mais a capacidade de ensinar a questionar ou não proporcionamos aos indivíduos experiências que gerem dúvidas, como podemos transformar a sociedade? Não tenho resposta, mas a minha reflexão é de que vai ser muito difícil se ainda ficarmos na valorização das certezas ao invés da promoção das boas dúvidas.
E o que está sendo feito?
O evento de ontem me prova que existe um movimento que foi muito bem sucedido em trazer líderes médicos para a mesa de discussão. Tinha a impressão que a maioria nem queria participar e julgaria esta tecnologia digital como algo transitório ou com pouco valor (sem nem mesmo atentar o como seus mundos já são diferentes por causa da revolução digital. Essa foi a grande minoria.
Os presentes oportunizaram-se um momento de aprendizado, conhecimento do novo e de oportunidades que ainda vão se materializando. Perceberam o quanto é fundamental darmos voz e ampliarmos a discussão e que, se não participarem, serão passivos a algo que de fato impacta grandes mudanças em suas vidas e nas vidas dos pacientes. Ao não se envolverem sabem que perderão espaço, influência, pacientes e processos…. Acredito que não querem ver se repetir a história causada pelo impacto das mídias sociais.
Uma das ideias que acho que faz bastante sentido para atender a complexidade da diversidade das necessidades das diferentes especialidades médicas é a criação de um framework, liderado por uma instituição como o ICOS, CBEXS, FGV ou AMB, para padronizar um método de desenvolvimento e avaliação de tecnologia em saúde. Vejo alguns sandbox sendo ventilados por aí, talvez exista uma possibilidade a partir dessa metodologia para a temática em sociedades de especialidade.
O caminho para a discussão e para segurar a caneta para uma regulação que está em curso está dado. Começar a usar para entender é o primeiro passo; discutir de forma curiosa, o segundo; participar de discussões e audiências públicas em âmbitos acadêmicos e da sociedade civil organizada o terceiro.
A pauta está aberta, os interesses estão agitados e longe de serem acomodados. A minha última reflexão recente que adveio deste evento foi:
“Eu, utilizando a inteligência artificial, me torno melhor do que eu.” Fernando Carbonieri
Não há como entregar menos performance sabendo utilizar inteligência artificial. Sabendo utilizar os principios éticos e bioéticos aqui expostos, o mundo tende a ter menos ruído e mais valor.
