DEI Talks | “The Cognitive and Human Factors of Formal Methods” pelo Prof. Shriram Krishnamurthi (Brown University)

A palestra intitulada “The Cognitive and Human Factors of Formal Methods” será apresentada no dia 23 de julho, às 11:00, na sala B025, com a moderação da Prof. Alexandra Mendes (DEI).

Sobre a Palestra:

“As formal methods improve in expressiveness and power, they create new opportunities for non-expert adoption. In principle, formal tools are now powerful enough to enable developers to scalably validate realistic systems artifacts without extensive formal training. However, realizing this potential for adoption requires attention to not only the technical but also the human side—which has received extraordinarily little attention from formal-methods research.
This talk presents some of our efforts to address this paucity. We apply ideas from cognitive science, human-factors research, and education theory to improve the usability of formal methods. Along the way, we find misconceptions suffered by users, how technically appealing designs that experts may value may fail to help, and how our tools may even mislead users.”

Sobre o Orador:

Shriram Krishnamurthi is a Professor of Computer Science at Brown University. With collaborators and students, he has created several influential systems like DrRacket, Margrave, Flapjax, LambdaJS, Flowlog, and Pyret. He has also written multiple widely-used books. He also co-directs the Bootstrap integrated computing outreach program. For his work he has received SIGPLAN’s Robin Milner Young Researcher Award, SIGPLAN’s Software Award (jointly), SIGSOFT’s Influential Educator Award, SIGPLAN’s Distinguished Educator Award (jointly), and Brown’s Wriston and Philip J. Bray teaching awards. He has authored over twenty papers recognized for honors by program committees. He has an honorary doctorate from the Università della Svizzera Italiana.

DEI Talks | “On the State of Client-Side Web Vulnerabilities: DOM-XSS and JavaScript Libraries” pela Prof. Limin Jia (CMU)

A palestra intitulada “On the State of Client-Side Web Vulnerabilities: DOM-XSS and JavaScript Libraries” será apresentada no dia 24 de julho, às 14:30, na sala B025, com a moderação da Prof. Alexandra Mendes (DEI).

Sobre a Palestra:

“Client-side web vulnerabilities continue to pose significant security risks. In this talk, I will present two research efforts that provide a broader view of the modern web attack surface. First, I will introduce SWIPE, a system for large-scale detection of DOM-based cross-site scripting (DOM-XSS). SWIPE combines interaction-based fuzzing with dynamic symbolic execution (DSE) to systematically explore event-driven behaviors and automatically synthesize URL parameters and fragments. This enables the discovery of vulnerabilities that traditional static or non-interactive techniques miss, significantly improving detection coverage. Second, I will present LIBINSPECTORJS, an end-to-end pipeline for identifying vulnerable JavaScript libraries and assessing their exploitability in practice. Our initial results show that vulnerable libraries are widespread, but not all instances lead to exploitable conditions.”

Sobre a Palestrante:

Limin Jia é Professora e Investigadora no Departamento de Engenharia Eletrotécnica e de Computadores na Carnegie Mellon University e membro do CyLab, o instituto de segurança informática e privacidade da Carnegie Mellon. Doutorou-se em Princeton em 2008. A sua investigação situa-se na interseção entre linguagens de programação, métodos formais e segurança informática. Tem particular interesse na aplicação de métodos formais à análise das garantias de segurança de sistemas de software e no desenvolvimento de mecanismos para tornar os sistemas de software mais seguros.

DEI Talks | “Trustworthy AI Under Constraints: From Small Language Models to Adaptive Antibiotic Treatment” por Vi Ngoc-Nha Tran (UiT The Arctic University of Norway)

A palestra intitulada “Trustworthy AI Under Constraints: From Small Language Models to Adaptive Antibiotic Treatment” será apresentada no dia 14 de julho, às 16:00, na sala B001, com a moderação do Prof. Gil Gonçalves (DEI).

Sobre a Palestra:

“This talk presents two current research directions in trustworthy and efficient AI systems for sensitive domains. The first part focuses on small language models as a practical alternative to large language models in settings where cost, energy use, privacy, local deployment, and governance are important. I will present our recent work on privacy risks in chatbots built on small language models, showing that standard template-based evaluations can underestimate personally identifiable information leakage. Our results motivate a broader view of reliability, where prompts, role formatting, decoding choices, and deployment settings are treated as part of the AI system itself.
The second part introduces OptiRegi, a project that uses reinforcement learning to study optimized dynamic antibiotic dosing regimens. The goal is to explore how treatment decisions can adapt over time while balancing bacterial killing, toxicity, resistance development, and changing infection dynamics. Together, these two projects highlight a common theme: building AI systems that remain trustworthy under real-world constraints, from privacy and deployment challenges in small language models to safe and adaptive treatment optimization.”

Sobre a Oradora:

Dr. Vi Ngoc-Nha Tran é Professora Associada de Ciência da Computação na UiT The Arctic University of Norway e membro do grupo diretor da NORA.startup, a rede de inovação do Consórcio Norueguês de Pesquisa em Inteligência Artificial. É doutorada em Ciência da Computação pela UiT, foi investigadora visitante na Rutgers University, EUA, e recebeu uma bolsa Erasmus Mundus para um Mestrado europeu em Engenharia de Software. A sua investigação abrange aprendizagem automática, tecnologia da saúde, computação de alto desempenho e computação energeticamente eficiente. Atualmente lidera dois projetos como investigadora principal: um projeto financiado pela UiT sobre modelos de linguagem pequenos e fiáveis para domínios regulados, e o OptiRegi, um projeto financiado pelo Conselho de Investigação da Noruega sobre dosagem dinâmica otimizada de antibióticos através de aprendizagem por reforço.

DEI Talks | “Natural and artificial trust for decision-making in human-machine teamwork” por Carolina Centeio Jorge

A palestra intulada “Natural and artificial trust for decision-making in human-machine teamwork” será apresentada no dia 25 de junho, às 11:00, na sala B011, e contará com a moderação do Prof. Rosaldo Rossetti (DEI).

Sobre a Palestra:

“As equipas humano-máquina dependem da colaboração entre seres humanos e agentes artificiais. Nas equipas exclusivamente humanas, utilizamos a confiança para tomar decisões, como determinar qual o colaborador mais adequado para executar uma determinada tarefa, com base naquilo que acreditamos ter maior probabilidade de sucesso. Esta previsão do sucesso de uma tarefa assenta nas nossas crenças acerca da fiabilidade dos outros membros da equipa, a qual pode ser analisada em várias dimensões, como a competência, a vontade, fatores externos, entre outras.

À medida que a autonomia dos agentes artificiais aumenta, também aumenta a diversidade de interdependências nas equipas humano-máquina. Consequentemente, os membros da equipa precisam de considerar diferentes formas de alcançar o sucesso coletivo, tirando o melhor partido da colaboração entre humanos e máquinas. Torna-se, assim, importante que todos os intervenientes, humanos e máquinas, disponham das crenças de confiança e de fiabilidade necessárias para tomar decisões que promovam os objetivos da equipa e mitiguem potenciais riscos. Ao formalizar estas crenças de confiança e fiabilidade, é possível aumentar a transparência das decisões, quer sejam tomadas por humanos quer por máquinas.

Nesta palestra, abordarei os conceitos de confiança, fiabilidade (trustworthiness), interdependência e design coactivo, enquadrados no contexto da tomada de decisão em equipas humano-máquina. Apresentarei também alguns trabalhos de investigação multidisciplinar, que contribuem para aumentar a compreensão, por parte dos humanos e das máquinas, do comportamento e das características do colega humano durante a colaboração. Consequentemente, estes trabalhos permitem também tornar o agente artificial mais compreensível para os seus colaboradores humanos.”

Sobre a Palestrante:

Carolina Centeio Jorge é atualmente Data Scientist na Glintt Next, em Portugal. Fez o doutoramento no grupo Interactive Intelligence da Universidade Técnica de Delft (TU Delft), onde investigou modelos mentais e confiança em equipas humano-IA, tendo também sido investigadora visitante na University of Michigan.

Participou ativamente em atividades de serviço académico, incluindo a cofundação da série de workshops MultiTTrust e a participação no Conselho de Integridade da TU Delft. Tendo vivido em Tóquio, Barcelona e Delft, valoriza ambientes multidisciplinares e multiculturais.

Atualmente, combina a sua experiência de investigação com a prática industrial, focando-se em customer intelligence.

A entrada é livre, sem necessidade de inscrição.

DEI Talks | “Fifty Years of the Algorithm Selection Problem: John Rice’s Enduring Legacy” pela Prof.ª Kate Smith-Miles (University of Melbourne)

A palestra intulada “Fifty Years of the Algorithm Selection Problem: John Rice’s Enduring Legacy” será apresentada no dia 27 de maio, às 11:00, na sala B008, com a moderação do Prof. Carlos Soares (DEI).

Sobre a Palestra:

“The seminal paper “The Algorithm Selection Problem” by John Rice was published 50 years ago. This paper formalizes the problem of selecting the best algorithm for a given problem, which is important in Machine Learning, Optimization and many areas of Computer Science. In this talk, I discuss the paper, its impact and challenges it raises which are still open today.”

Sobre a Oradora:

“Kate Smith-Miles AO FAA is Pro Vice-Chancellor (Research Capability) and a Melbourne Laureate Professor in the School of Mathematics and Statistics at The University of Melbourne. She is also Director of the ARC Training Centre in Optimisation Technologies, Integrated Methodologies, and Applications (OPTIMA). She has previously held a five year Laureate Fellowship from the Australian Research Council with a Georgina Sweet Award, and has held positions as President of the Australian Mathematical Society (2016-2018), a member of the Australian Research Council College of Experts (2017-2019), and Associate Dean (Enterprise and Innovation) in the University’s Faculty of Science (2019-2023). Prior to joining The University of Melbourne in September 2017, she was Professor of Applied Mathematics at Monash University, where she was also Head of the School of Mathematical Sciences (2009-2014), and inaugural Director of the Monash Academy for Cross & Interdisciplinary Mathematical Applications (MAXIMA) from 2013-2017. She was also previously Head of the School of Engineering and Information Technology at Deakin University (2006-2009) with a Chair in Engineering. She obtained her first Professorship in Information Technology at Monash University, where she worked from 1996-2006. Professorships in three disciplines (mathematics, engineering, and information technology) have given her an interdisciplinary breadth reflected in much of her research.”

DEI Talks | “O Turing Award de 2025: Partilha de Chaves Secretas usando Mecânica Quântica” pelo Prof. Sagar Pratapsi (DEI/FEUP)

A palestra intitulada “O Turing Award de 2025: Partilha de Chaves Secretas usando Mecânica Quântica” será apresentada no dia 3 de junho, às 14:30, na sala B004, com a moderação da Prof. Ana Paiva (DEI).

Sobre a Palestra:

O Turing Award de 2025 foi atribuído este ano a Charles H. Bennet e Gilles Brassard, pelo seu trabalho em criptografia quântica. No seu artigo de 1984, introduziram o famoso Protocolo BB84, onde mostraram como duas pessoas podem partilhar uma chave criptográfica secreta. A segurança deste protocolo é garantida pelas próprias leis da física quântica. Nesta palestra, o Orador explicará este protocolo e o seu significado. Não são necessários conhecimentos profundos de mecânica quântica.

Sobre o Orador:

Sagar Silva Pratapsi é Professor Auxiliar do Departamento de Engenharia Informática da FEUP. É investigador em computação e informação quântica, com um foco em princípios fundamentais da mecânica quântica, controlo de sistemas quânticos, e alguns algoritmos.
Doutorou-se pelo Instituto Superior Técnico em 2024 e foi Professor Auxiliar Convidado na Universidade de Coimbra até 2026, onde leccionou sobre computação e informação quânticas. Foi também estudante investigador convidado na Universidade de Califórnia, Berkeley em 2024, financiado pela Fundação Luso-Americana para o Desenvolvimento, e estudante visitante da Universade de Maryland em Baltimore em 2023, no âmbito de uma bolsa de doutoramento financiada pela Fundação “la Caixa”. Antes do doutoramento, trabalhou como Research Analyst no Banco Central Europeu. Teve também outros reconhecimentos, como bolseiro do programa Novos Talentos da Matemática, da Fundação Calouste Gulbenkian, e é medalhado das Olimpíadas Internacionais da Física.

DEI Talks | “Developing high-risk AI systems for mental health applications” pelo Prof. Lars Bongo (UiT The Arctic University of Norway)

A palestra intitulada “Developing high-risk AI systems for mental health applications” será apresentada no dia 21 de maio, às 14:30, na sala I-105, com a moderação do Prof. António Coelho (DEI).

Sobre a palestra:

“In the TRUSTING project, we are developing a speech-based tool to predict relapse in psychosis. The tool is being designed for six languages and will be evaluated in a clinical trial. While large language models offer promising opportunities for cognitive testing, their use in high-risk AI systems raises significant challenges. These include ensuring safety, trustworthiness, and compliance with emerging AI regulations. In this talk, I will present the key challenges we encounter in data collection, infrastructure development, and cognitive test design, and reflect on the added complexity of developing high-risk AI systems across multiple languages. Finally, I will present our design principles and lessons learned.”

Sobre o Orador:

Dr. Lars Ailo Bongo é atualmente Professor de tecnologia da saúde no Departamento de Ciência da Computação da UiT – The Arctic University of Norway. O seu principal interesse de investigação consiste em criar e avaliar experimentalmente sistemas de infraestrutura que apoiem os métodos em desenvolvimento pelos colaboradores nas áreas da bioinformática e das ciências da saúde. É o investigador principal do Health Data Lab. Bongo também está empenhado na promoção de uma cultura de empreendedorismo na UiT. É cofundador da Medsensio AS, coordenador de inovação na SFI Visual Intelligence e cofundador do Laboratório de Inovação em Tecnologia Digital da UiT. Bongo ocupa um cargo de professor adjunto na Universidade de Ciências Aplicadas de Sámi, onde cofundou recentemente o Sámi AI Lab, que visa utilizar a IA para melhorar a sociedade Sámi.

DEI Talks | “Hybrid neural systems: neuromorphic computing for real-time control of brain activity” por Paulo Aguiar (i3S-U.Porto)

A palestra intitulada “Hybrid neural systems: neuromorphic computing for real-time control of brain activity“, será apresentada no dia 15 de junho, pelas 14:00, na sala I-105. A moderação ficará a cargo de Henrique Lopes Cardoso (DEI).

Sobre a Palestra:

“The brain is a powerful model for fast, adaptive and energy-efficient information processing. Translating these principles into computing systems is a major challenge with direct relevance for the next generation of intelligent neural interfaces. In this talk I will present work from my research group where we developed a hybrid neural system combining biological neurons with neuromorphic hardware, where artificial spiking neurons process ongoing brain activity in real time. By converting biological signals into spike-based representations, we trained spiking neural networks (SNNs) to identify short-lived electrophysiological patterns and deployed them on neuromorphic hardware. This system was integrated with open-source electrophysiology tools to create a closed-loop pipeline capable of detecting ongoing brain states and triggering targeted stimulation with low latency. Using this approach, we show that hybrid systems linking artificial and biological neurons can support real-time interaction with living neural circuits. These results provide a proof-of-concept for accessible neuromorphic neural interfaces and open new possibilities for adaptive, low-power and biologically inspired computing technologies.”

Sobre o Orador:

Paulo Aguiar é licenciado em Física (Universidade de Lisboa, PT) e doutorado em Neurociência Computacional pelo Instituto de Computação Adaptativa e Neural (Universidade de Edimburgo, Reino Unido). Desde 2016, dirige o Laboratório de Neuroengenharia e Neurociência Computacional (i3S-UPorto, PT). O seu grupo adota uma abordagem ascendente, centrando-se na compreensão de como os circuitos neurais processam e armazenam informação. A equipa combina conhecimentos especializados em neurobiologia, métodos analíticos avançados e modelos computacionais, para revelar e reparar a função neural. Já foi (co)investigador principal/líder de tarefa em mais de 20 projetos de investigação nacionais e internacionais obtidos através de concursos.

DEI Talks | “nanoML: Pushing the Limits of Edge AI with Weightless Neural Networks” pela Prof. Lizy John (UT Austin)

A palestra intitulada “nanoML: Pushing the Limits of Edge AI with Weightless Neural Networks“, será apresentada pela Prof. Lizy Kurian John (University of Texas at Austin) no dia 6 de maio, às 14:30, na sala I-105. A sessão será moderada pelo Prof. Pedro Diniz (DEI).

Sobre a Palestra:

“Mainstream artificial neural network models, such as Deep Neural Networks (DNNs) are computation-heavy and energy-hungry. Weightless Neural Networks (WNNs) are natively built with RAM-based neurons and represent an entirely distinct type of neural network computing compared to DNNs. WNNs are extremely low-latency, low-energy, and suitable for efficient, accurate, edge inference. The WNN approach derives an implicit inspiration from the decoding process observed in the dendritic trees of biological neurons, making neurons based on Random Access Memories (RAMs) and/or Lookup Tables (LUTs) ready-to-deploy neuromorphic digital circuits. WNNs are a natural fit for edge AI due to the low area, energy and latency properties offered by them. This talk will describe the state of the art of Weightless Neural Networks, and their applications for edge inferencing.”

Sobre a Oradora:

Lizy Kurian John is Truchard Foundation Chair in Engineering at the University of Texas at Austin. Her research interests include workload characterization, performance evaluation, and high performance architectures for emerging workloads. She is recipient of many awards including Joe J. King Professional Engineering Achievement Award (2023), and The Pennsylvania State University Outstanding Engineering Alumnus Award (2011). She has authored 3 books and has edited 4 books including a book on Computer Performance Evaluation and Benchmarking. She holds 18 US patents and is an IEEE Fellow (Class of 2009), ACM Fellow, AAAS Fellow and Fellow of the National Academy of Inventors (NAI).”

Agradecimentos: Lizy K. John é atualmente especialista Fulbright. A sua investigação é financiada, em parte, pelas bolsas n.º 2326894 e n.º 2425655 da Fundação Nacional de Ciência dos Estados Unidos (NSF), pela Semiconductor Research Corporation (SRC) task 3148.001 e pela bolsa do Programa de Aceleração de Investigação Aplicada da NVIDIA.

DEI Talks | “When AI meets Performance Engineering: Challenges and Opportunities” pela Prof. Lizy John (UT Austin)

A palestra intitulada “When AI meets Performance Engineering: Challenges and Opportunities“, será apresentada pela Prof. Lizy Kurian John (University of Texas at Austin), no dia 29 de abril, às 14:30, na sala L119 (DEMec). A sessão será moderada pelo Prof. Pedro Diniz (DEI).

Sobre a palestra:

“Artificial Intelligence/Machine Learning (AI/ML) has transformed hardware design, software systems, and system architectures. Emerging hardware for AI accelerators have become heterogeneous and complex, that traditional modeling methodologies, benchmarks, and metrics for prior systems may not work for assessing AI models and AI hardware. The single-most commonly used operation in AI is matrix multiplication. Hardware accelerators like GPUs have created Tensor Cores to support matrix multiplication. Google TPUs support matrix multiplication by the hardware systolic arrays. However, matrix multiplication cannot be a reliable benchmark for benchmarking, due to its high sensitivity to optimizations. The MLPerf consortium creates ML benchmarks, however those benchmarks are prohibitively difficult to manage for many small companies and academic researchers. What are good benchmarks for AI/ML? How can you evaluate AI hardware in pre-silicon and post-silicon stages? Complete system simulation was a popular mode of pre-silicon evaluation but prohibitively expensive. This talk will describe some of the opportunities and challenges when AI meets Performance Engineering.”

Sobre a Oradora:

Lizy Kurian John is Truchard Foundation Chair in Engineering at the University of Texas at Austin. Her research interests include workload characterization, performance evaluation, and high performance architectures for emerging workloads. She is recipient of many awards including Joe J. King Professional Engineering Achievement Award (2023), and The Pennsylvania State University Outstanding Engineering Alumnus Award (2011). She has authored 3 books and has edited 4 books including a book on Computer Performance Evaluation and Benchmarking. She holds 18 US patents and is an IEEE Fellow (Class of 2009), ACM Fellow, AAAS Fellow and Fellow of the National Academy of Inventors (NAI).”

Agradecimentos: Lizy K. John é atualmente especialista Fulbright. A sua investigação é financiada, em parte, pelas bolsas n.º 2326894 e n.º 2425655 da Fundação Nacional de Ciência dos Estados Unidos (NSF), pela Semiconductor Research Corporation (SRC) task 3148.001 e pela bolsa do Programa de Aceleração de Investigação Aplicada da NVIDIA.