Num momento de intenso escrutínio social da inteligência artificial (IA) nos diferentes domínios da nossa vida coletiva, a Faculdade de Medicina da Universidade do Porto debate esta quarta-feira precisamente o impacto desta ferramenta na saúde. Um dos participantes, Rui Nunes, falou àSÁBADOsobre esses meses desafios quer na saúde do ponto de vista das profissões da saúde, quer das mudanças na relação médio-paciente. O presidente e fundador da Associação Portuguesa de Bioética e presidente da International Chair in Bioethics, a maior rede mundial na área da bioética e do biodireito, acredita que se for bem aplicada vai melhorar o acesso aos cuidados de saúde, mas também reduzir as necessidades de muitos profissionais.

O que é que na sua visão vai mudar ou já está a mudar com o uso da IA na medicina?

Na minha perspectiva - tenho me dedicado a este assunto nos últimos dois anos, porque foi o coordenador do grupo de trabalho da inteligência artificial do Conselho Nacional de Ética para Ciências da Vida -, creio que há vários problemas. O primeiro é, precisamente, que não se trata apenas de uma alteração da medicina, vai afetar todas as dimensões da nossa vida. Por exemplo, um dos temas que vai ser tratado no debate é a questão do trabalho, não apenas do trabalho médico, mas em geral, porque, se houver, imaginemos, uma taxa de desemprego muito considerável com a IA, e pensa-se que até 50% dos empregos tradicionais podem desaparecer, obviamente que isso tem um impacto indireto na saúde e na medicina. Durante muitos anos, disse-se que a IA ia impactar as mais diferentes áreas profissionais e que a medicina ficava de fora por causa das questões humanas, da relação médico-doente, hoje percebe-se que é exatamente o contrário. Se há área que está a ser impactada é precisamente a medicina. Portanto, uma segunda questão prende-se com a celeridade do impacto na medicina, nas ciências da vida em geral e, obviamente, no setor da saúde. Por exemplo, a gestão da saúde vai ser profundamente impactada, espera-se pela positiva. Na medicina, vai ser uma revolução total e absoluta e vai desde o ensino à investigação, à prática clínica, à cirurgia.

Do ponto de vista da ciência e da investigação biomédicas, um dos grandes problemas da IA é que, dadas as suas enormes capacidades consegue-se, no fundo, fazer investigação de elevadíssima qualidade, mas sem que a mente humana mais brilhante consiga entender o processo. É o problema de falta de explicabilidade da IA, ou o fenómeno black box. Portanto, são fenómenos intrínsecos à forma como se concebeu a inteligência artificial e que tornam praticamente impossível - já no presente e, no futuro isto será uma realidade absolutamente avassaladora -, perceber, por exemplo, como é que se desenvolveu um novo fármaco. Até se fala que no futuro, o cientista, ou mesmo o médico, vai ser um copiloto da inteligência artificial, para representar esta situação de que vamos, se nada fizermos, perder o controlo do modo como a IA chega a conclusões.

E como vai ser na prática clínica?

A ideia central é de que, se houver bom senso, ponderação e acompanhamento da introdução de sistemas de IA na sociedade, em geral, e na medicina, em particular, isto pode ser extraordinariamente positivo, tem é que ser acompanhado e não ficar em roda livre. Já há hoje sistemas de apoio aos médicos em todas as especialidades, incluindo a medicina geral e familiar, em que os sistemas de IA, no fundo, acompanham e traduzem a relação médico-dolente. Ou seja, no futuro breve, no próprio Serviço Nacional de Saúde (SNS), o médico já não tem que passar a vida a escrever ao computador, vai poder passar novamente a falar com os doentes, a olhar nos olhos o próprio doente, o que não acontece agora. Porque a inteligência artificial vai captar o som da entrevista e vai, no fundo, conceber de novo o registro de saúde eletrónico. O problema é que esta ferramenta já está hoje, com base nesta entrevista, a fazer diagnóstico diferencial. Portanto, o médico, com certeza, que também utiliza a sua expertise para fazê-lo, mas a própria aplicação já o faz, o que pode ajudar a decidir melhor. Mas, mais uma vez, com o problema de como é que a IA chegou a esses diagnósticos diferenciais, a essas sugestões de meios auxiliares de diagnóstico e tratamento, recomendações de tratamento e até de cirurgia?

Outro exemplo, a cirurgia robótica. Estive, há duas semanas, no Congresso Nacional dos Médicos Dentistas, precisamente a participar num painel sobre este tema, e foi apresentado lá um sistema de inteligência artificial para cirurgia robótica dentária, que já está em utilização na China, e que está a deixar os médicos dentistas asiáticos em pânico, porque eles estão a acompanhar a cirurgia, mas este robô é totalmente autónomo e não são os médicos que decidem nada.

Portanto, nada fica igual até na essência da relação médico-doente. Ou seja, a inteligência artificial na medicina vai ajudar os médicos bons a serem excecionais e ser bom para a sociedade, mas, por outro lado, os menos bons tenderão a ficar pelo caminho, porque os sistemas de IA poderão substituí-los em tarefas mais básicas.

O médico pode tornar-se obsoleto e passarmos a ir fazer exames e consultas apenas a um sistema de máquinas?

Depende do que nós, humanos, neste momento escolhermos. Já foi inaugurado na China, no final do mês de setembro, um hospital-piloto, ainda não está propriamente aberto sistematicamente ao público, mas eles pretendem replicar, sem médicos humanos, só com médicos digitais. Portanto, depende do que nós, humanidade, quisermos. Partindo do pressuposto que a evolução da IA é inultrapassável, quer dizer, não queremos parar o progresso, agora, temos necessariamente que encontrar um ponto de equilíbrio, concretamente na medicina, entre aquela que é a dimensão mais humana, e, ao mesmo tempo, apoiada e alavancada por sistemas modernos e que, no fundo, cheguem a todas as pessoas.

Podem ajudar a colmatar a falta de médicos?

É por isso que estão a implementar estes sistemas em massa na China, é que permite aumentar a equidade do acesso à saúde. Nós, por um lado, queremos a presença de médicos físicos, digamos assim. Por outro lado, também vemos a escassez, muitas vezes, que há no acesso à saúde. Portanto, a conjugação da telemedicina com a IA vai fazer com que os utentes, nomeadamente em grandes países, tenham acesso à saúde com muito mais facilidade do que têm agora.

Haverá sempre lugar para médicos físicos, mas temos coletivamente que perceber que se trata de uma trajetória que é imparável e há áreas da medicina mais suscetíveis. Tudo o que tem imagem é mais suscetível. Radiologia, citologia, anatomia patológica, biópsias, portanto, tudo o que tem a ver com análise de imagem, teoricamente, a inteligência artificial pontua melhor, para não dizer muito melhor, do que o humano. O que depois evoca outro tipo de questão, que é da responsabilidade pelos atos médicos.

Esse é um problema. Quem é responsável num caso de falha da IA?

Este é um problema dramático. Pessoalmente, ando a bater-me por esta discussão em Portugal e na Europa, ao longo dos últimos dois anos, não vejo que haja uma preocupação, e aqui o legislador tem que ter esta preocupação, porque, imagine, quando surgirem os primeiros robôs totalmente autónomos em Portugal, o sistema de responsabilidade civil médica vai mudar radicalmente. Hoje há uma consequência negativa para o utente, o sistema de responsabilidade civil vai verificar se o médico agiu ou não de acordo com a leges artis, por exemplo, se houve negligência, imprudência, se houve imperícia, e se houve, então determina-se a culpa do médico e o doente tem direito a ser civilmente ressarcido. Agora, imagine que é amanhã o robô que faz a cirurgia e que há um mau desfecho. Como é que ficamos, em matéria de responsabilidade civil? Não há uma resposta para esta questão, neste momento, em parte nenhuma do mundo, mas é bom que se comece a pensar, porque isto vai ser introduzido no mercado muito rapidamente.

Todos estes problemas têm que ser vistos de forma integrada e temos que estar muito conscientes da sua utilização e, sobretudo, com esta ideia central, tem que haver, primeiro, supervisão humana, na gíria da IA diz-se "the human in the loop", ela não se pode desenvolver por si só, porque uma das características da inteligência artificial é que aprende a aprender. Portanto, se não fizermos nada, a IA acaba por se desenvolver por si própria e acabamos por perder completamente o controle e isto não pode acontecer. E, segundo, enfatizar o bem-estar das pessoas e das coletividades e, terceiro, muito importante, do ponto de vista ético, não permitir que a inteligência artificial na medicina e na saúde agrave as desigualdades. Este aspecto é absolutamente central, porque, se houver uma orientação para o combate às desigualdades e às vulnerabilidades, aí pode ser muito positiva, mas, se nada fizermos, vai acabar por agravar.

Podia ser uma solução para Portugal ou ainda desconfiamos da máquina?

Ninguém consegue responder, porque os dados são contraditórios. A experiência empírica que tenho, mas não há nenhuma base científica, nem em Portugal, nem no estrangeiro, é que, pelo menos na Europa e na Europa continental, os cidadãos costumam ter confiança nas tecnologias digitais. Portanto, pessoalmente, acredito que, se as aplicações de inteligência artificial na saúde forem corretamente implementadas, podem gerar alguma confiança junto à população, se elas não se sentirem discriminadas, se perceberem que é eficaz, que resolve problemas, que permite melhorar o acesso à saúde, se os resultados, pelo menos os preliminares, forem positivos, creio que não vamos fazer com que as pessoas se sintam discriminadas. Muitas delas já se sentem hoje, quando estão à espera, por tempos infindáveis, por uma consulta ou por uma cirurgia.

Se for corretamente aplicada, a inteligência artificial pode melhorar, por exemplo, a gestão operacional da saúde, pode reduzir custos, pode permitir a alocação de recursos para outras áreas onde a presença humana seja mais necessária. Por outro lado, em alguns casos, como, por exemplo na telemedicina, pode aproximar os doentes do sistema de saúde e dos próprios médicos. 

Numa altura que temos as reivindicações da classe médica em relação à valorização das carreiras e a questão de que não existem médicos a mais, mas que não estão bem distribuídos, o facto de poderem ser substituídos em algumas funções pela IA não vem contrariar estas reivindicações?

As associações públicas profissionais, nomeadamente a Ordem dos Médicos, outras associações médicas, associações de outros profissionais de saúde, têm que estar profundamente atentas a esta evolução. Porque nunca haverá uma substituição total do ser humano pela máquina, mas há muitos processos que podem ocorrer e, portanto, o que temos é que encontrar aqui um ponto de equilíbrio para manter as boas condições de trabalho, recorrer às novas tecnologias e utilizar todas as novas tecnologias, incluindo a inteligência artificial, para gerir com mais eficiência a saúde e, assim, libertar recursos, por exemplo, para as questões de natureza salarial.

Agora, Portugal aqui vai estar um pouco numa encruzilhada, porque todos sabemos que o problema não é falta de médicos, é uma questão de gestão e organização, e pode haver a tendência para ultrapassar essa questão com uma implementação em massa da inteligência artificial. Portanto, antecipo a introdução em massa da inteligência artificial nos próximos anos, que os bons médicos fiquem melhores, que o sistema de saúde invista em IA quando for comprovadamente eficaz, e isso, provavelmente, vai fazer com que se possa dignificar mais a profissão médica, mas, ao mesmo tempo, não haverá tantas necessidades de profissionais de saúde como há hoje.

É assim que antevejo um futuro para a próxima década, muito francamente. Até acho que isso pode ajudar a resolver as questões salariais e de dignidade da profissão, mas é para aqueles que forem retidos no SNS. E o setor privado também, como é evidente, vai utilizar estas ferramentas mais rapidamente. Os médicos serão, por assim dizer, mais preciosos, porque farão um trabalho mais diferenciado, se calhar, até do que fazem hoje. Agora, também temos que garantir que toda a população tem acesso a esses médicos topo.

Como se garante esse acesso. Esses médicos de topo estariam no SNS?

Vão ter que estar disponíveis no SNS. Agora, uma outra questão, e que é uma emergência, é reinventar o SNS para captar, por um lado, e por outro lado, reter esses profissionais, concretamente esses médicos. Isso é que eu, francamente, não estou a ver acontecer. Mas, enfim, isso vai ter que acontecer mais cedo ou mais tarde, até porque Portugal já dispende 10% do produto interno bruto na saúde, dados de 2023. Portanto, a questão não é de recursos nem humanos, nem tecnológicos, nem sequer financeiros. É uma questão de gestão. E com essa alteração da gestão que vai ter que acontecer, enfim, não sei quando, aí é que vamos passar, penso eu, a reter esses profissionais.

Há pouco disse que um dos desafios é o facto de alguns mecanismos da IA não serem compreendidos pelos humanos.

Exatamente. É o principal problema, do meu ponto de vista.

Como é que o médico pode confiar num diagnóstico ou numa sugestão de tratamento, se não perceber como é que surgiu?

Ora, bom, essa é a pergunta que não tenho resposta, porque os sistemas, nomeadamente no plano diagnóstico, mas também no plano do tratamento, são sistemas que se estão a desenvolver, obviamente, com supervisão médica e dos investigadores e dos cientistas. Agora, progressivamente, é natural que eles não alguns dos passos. Penso que isto se vai agravar no futuro. Mas, ao mesmo tempo, as metodologias de investigação, um ensaio clínico de um novo fármaco, vão manter os mesmos passos. Vamos chegar a resultados positivos com os testes feitos de acordo com a metodologia convencional, mas isso não vai ultrapassar o facto de que não vamos compreender alguns passos. Porquê é que vamos confiar? Olhe porque se traduzem bons resultados. Imagine, sei lá, a vacina da Covid-19, de facto, foi um contribuinte líquido para o fim da pandemia. Agora, se me perguntar, mas temos a certeza absoluta de como é que ela foi desenhada e como é que chegou a determinados resultados, francamente não sei responder a essa questão. Mas a verdade é que se utilizou. Se amanhã for desenvolvido o um novo medicamento para o cancro da mama, e se nos ensaios clínicos der resultado, as pessoas vão usar. Mesmo que conheçam menos bem o processo pelo qual foi criado. Agora, vamos ter que tentar responder a esta questão. Reconheço que é a questão central, do ponto de vista até ético, da inteligência artificial.

Vai haver um momento, e eu reconheço que isto é problemático o que eu vou dizer, mas vai haver um momento em que a IA vai ganhar com intencionalidade ou não uma vida própria porque se recria a si mesma, como os humanos fazem. E espero que seja sempre para promover, digamos, a humanidade e a humanitude.

A Europa tem o AI Act, o Regulamento da Inteligência Artificial, que foi um passo muito importante para chamar a atenção que isto não pode ficar em roda livre. Não é proibir, mas não é ficar em roda livre. E na saúde, o AI Act coloca-a como o segundo nível de risco. Portanto, tem que haver grande supervisão humana para termos a certeza que isto está a desenvolver a medicina em prol da humanidade e das pessoas e dos doentes, e não o seu contrário.

O facto de colocarmos todos os nossos dados de saúde, de como se desenvolvem as doenças, como é que se tratam, nas mãos de uma máquina que pode ganhar a vida própria, não pode ser um risco para a própria humanidade?

Sim. O problema dos dados é um problema muito complexo. E esse já não está apenas ligado com a inteligência artificial, é um problema mais profundo. O cidadão comum não tem ideia de que os dados pessoais são o mais íntimo que temos. É, digamos, o core, o valor mais intrínseco da nossa personalidade, da nossa privacidade e da nossa intimidade. Portanto, temos que fazer todos os esforços para os proteger. Isto não quer dizer que não possam ser utilizados para fins de investigação, etc., mas têm que ser muito protegidos. Reconheço que isso já não é para o futuro breve, é no presente.

Não foi a tecnologia que ultrapassou uma determinada fronteira, nós é que não valorizamos a proteção de dados da forma que o deveríamos fazer. Estas tecnologias vão conseguir penetrar em qualquer sistema digital onde os dados estão armazenados. Isso não vale a pena termos ilusão. Por exemplo, estão neste momento, ou vão ser apresentados em breve, os dois sistemas de computação quântica mais avançados do mundo, que é o chinês e o americano. E a computação quântica vai penetrar em qualquer computador, em qualquer sistema digital. Então, eu diria que temos que ter uma cultura diferente. Repare que até o Regulamento Geral de Proteção de Dados, há uns anos, criou um novo direito humano, que é o direito ao esquecimento.

Este problema é tão sério, que, por exemplo, do ponto de vista ético, já se fala que os estudos de investigação no futuro poderão não utilizar dados primários de doentes, mas dados sintéticos que não pertencem a doente algum, mas a doentes imaginários, para que não haja o problema da violação de dados. O problema da privacidade é, no momento atual, se calhar, um dos principais problemas éticos e sociais destas novas ferramentas, incluindo a IA. Mas isso exige legislação adequada. A Europa está na vanguarda da proteção dos direitos humanos, mas não sei se há uma cultura, agora concretamente em Portugal, de respeito por esse Regulamento Geral de Proteção de Dados. É que a Europa regula e o resto do mundo não segue. Mas qual é a solução? É abdicarmos dessa visão civilizacional porque os outros não fazem? Creio que não. Creio que é, não criando barreiras ao conhecimento e ao desenvolvimento científico excessivas, mas, ao mesmo tempo, lutar por aquilo em que acreditamos. E a proteção da privacidade da pessoa é um valor absolutamente central. Em bom rigor, é uma das questões mais centrais na distinção entre uma democracia e um regime autocrático.

Artigos Relacionados

Robert Seamans: "A inteligência artificial vai ter, obrigatoriamente, de chegar às salas de aula"

Yuval Noah Harari: “A informação deu-nos muito poder, mas pouca sabedoria”

João Martins: "Se não regularmos a IA vamos deixar a máquina a controlar tudo e nós fazemos o quê?"

Artigo Anterior Próximo Artigo