Candidata:
Maria Helena Sampaio de Mendonça Montenegro e Almeida
Data, Hora e Local:
16 de junho de 2026, às 14:30, na Sala de Atos da Faculdade de Engenharia da Universidade do Porto
Presidente do Júri:
Doutor Carlos Miguel Ferraz Baquero-Moreno, Professor Catedrático do Departamento de Engenharia Informática da da Faculdade de Engenharia da Universidade do Porto
Vogais:
Doutor Peter Johannes Schüffler, Professor at the Technical University of Munich, Germany;
Doutor Carlos Jorge Andrade Mariz Santiago, Assistente de Investigação no Laboratório de Robótica e Sistemas de Engenharia (LARSyS) e Professor Auxiliar Convidado do Departamento de Engenharia Eletrotécnica e de Computadores do Instituto Superior Técnico da Universidade de Lisboa;
Doutor Jaime dos Santos Cardoso, Professor Catedrático do Departamento de Engenharia Eletrotécnica e de Computadores da Faculdade de Engenharia da Universidade do Porto (Orientador);
Doutor Luís Filipe Pinto de Almeida Teixeira, Professor Associado do Departamento de Engenharia Informática da Faculdade de Engenharia da Universidade do Porto.
Resumo:
Nos últimos anos, modelos de Inteligência Artificial têm sido extensivamente explorados para tarefas de análise de imagem médica, alcançando resultados notáveis. No entanto, o raciocínio obscuro dos modelos e a falta de evidência que o suporte fazem com que clínicos e pacientes desconfiem das suas previsões, impedindo a sua adoção em contextos clínicos. Nos últimos anos, a comunidade científica tem-se focado no desenvolvimento de explicações capazes de revelar o raciocínio de um modelo. Entre os vários tipos de explicações, explicações baseadas em casos surgem como particularmente intuitivas para profissionais de saúde. Apesar destes tipos de explicações serem largamente explorados, ainda possuem limitações que comprometem a sua aplicação no mundo real. O objetivo principal desta tese é ultrapassar as limitações de explicações baseadas em casos médicas, permitindo a sua incorporação na prática clínica.
Para identificar as principais fraquezas de explicações baseadas em casos, realizámos uma revisão da literatura sobre modelos que fornecem estas explicações na área da saúde. Através da análise de trabalhos existentes, verificámos que as explicações geram preocupações sobre privacidade na partilha de imagens sensíveis de pacientes e não possuem a interatividade necessária para que clínicos se interessem pela explicação. Para além disso, a maioria dos trabalhos não avaliam nem validam as explicações através de estudos clínicos. Considerando estas limitações, propomos modelos generativos para obter explicações controláveis, interativas e que protegem a privacidade dos pacientes, para explicar as decisões de modelos de aprendizagem computacional.
Para propor um sistema de preservação de privacidade para partilhar explicações baseadas em casos de forma segura, começamos por rever a literatura científica sobre técnicas de anonimização de imagem, identificando as suas vulnerabilidades. Em particular, identificamos vulnerabilidades através da proposta de dois ataques de privacidade: um ataque direcionado a modelos generativos que geram imagens sintéticas, e um modelo de decomposição de imagens para reverter a média de imagens, frequentemente usada como estratégia de anonimização. Depois de definir os requisitos que um sistema de preservação de privacidade para explicações médicas tem de cumprir, propomos modelos de privacidade simultaneamente capazes de anonimizar imagens médicas e gerar explicações contrafactuais. O sistema proposto separa identidade e características clínicas em vetores independentes, permitindo a sua manipulação individual. Através desta estratégia, também podemos separar e manipular fatores causais, relacionados com a tarefa clínica, para obter explicações contrafactuais controláveis. Para obter explicações contrafactuais interativas, propomos modelos para manipular regiões de imagens médicas de acordo com uma máscara de segmentação, verificando o seu impacto numa previsão. Para avaliar os modelos propostos, realizámos experiências com dados médicos como radiografias torácicas, verificando a capacidade dos modelos de manipular imagens médicas considerando o objetivo de geração de explicações.
Por fim, para mostrar a grande aplicabilidade dos modelos propostos em contextos para além do seu propósito original de geração de explicações baseadas em casos, aplicámo-los como sistemas de apoio à decisão na saúde. Mais especificamente, adaptámos os modelos para prever os resultados estéticos de tratamento para cancro da mama, para facilitar a escolha de tratamento das pacientes. Realizámos também um estudo clínico com cirurgiões de mama de várias instituições de saúde para avaliar as previsões dos modelos propostos.
Para concluir, através de várias contribuições em Inteligência Artificial explicável e sistemas de suporte à decisão, esta tese contribui para o uso seguro de modelos de Inteligência Artificial confiáveis e que preservam privacidade na saúde.
