O Centro de IA Responsável, liderado pela Unbabel, que tem a Faculdade de Engenharia da Universidade do Porto (FEUP) como centro de investigação do consórcio, realizou no dia 19 de novembro o Center for Responsible AI Forum ‘24, que, pela primeira vez, teve lugar no Porto, na Casa da Música. O evento reuniu startups de IA, centros de investigação e líderes da indústria para demonstrar seis produtos inovadores de Inteligência Artificial e discutir o impacto da IA na sociedade.
Durante o evento, foram anunciados os vencedores da 1ª edição dos prémios SPARK, que reconhecem os melhores trabalhos de investigação em IA Responsável entre alunos de mestrado e doutoramento. Entre os destaques, Cátia Teixeira, alcançou o 2º lugar dos 16 trabalhos a concurso, com a sua apresentação “Hubris Benchmarking with AmbiGANs”, desenvolvida no âmbito da sua tese de Mestrado em Engenharia e Ciência de Dados (MECD), em colaboração com Inês Gomes (estudante do Programa Doutoral em Engenharia Informática (ProDEI)) e Jan van Rijn (Professor na Leiden University).
Uma das principais limitações da I&D em ML/AI é a avaliação correta dos modelos e algoritmos. Estes modelos estão a assumir um papel cada vez mais importante na nossa sociedade e economia, mas a avaliação continua a centrar-se na precisão da previsão, que é reconhecidamente insuficiente. Cátia propôs o AmbiGANs, uma metodologia que gera conjuntos de dados de instâncias ambíguas para estimar se os modelos de previsão são demasiado confiantes.
O Fórum contou também com apresentações de outros estudantes do Departamento de Engenharia Informática, que exploraram novas metodologias para melhorar a avaliação de modelos e algoritmos:
Ricardo Inácio (estudante do Mestrado em Engenharia Informática e Computação (M.EIC), em curso) com Meta-learning and Data Augmentation for Stress Testing Forecasting Models, apresentado na Discovery Science;
Inês Gomes (estudante do ProDEI, em curso) com Finding Patterns in Ambiguity: Interpretable Stress Testing in the Decision Boundary, apresentado num workshop CVPR;
Luís Roque (estudante do ProDEI, em curso) com RHiOTS: A Framework for Evaluating Hierarchical Time Series Forecasting Algorithms, apresentado na KDD.
Além das apresentações académicas, o evento destacou-se por keynotes de renome, como Virginia Dignum (AI Advisory Body da ONU), Pedro Bizarro (Feedzai), Francisco Pereira (National Institute of Mental Health dos EUA), André Martins (Unbabel) e Pedro Saleiro (Opnova).
Com painéis como “AI Regulation – Time to (AI) Act”, o Fórum reforçou a importância de regular e utilizar a IA de forma ética e responsável, alinhando avanços tecnológicos com impacto positivo na sociedade.