Provas de Doutoramento em Media Digitais: ”Modelo para utilização da prosódia e da interacção no acesso às expressões matemáticas através da fala sintetizada para pessoas com deficiência visual”

Candidata:
Adriana Silva Souza

Data, Hora e Local:
10 de julho, às 10:30, na Sala de Atos da FEUP

Presidente:
Doutor António Fernando Vasconcelos Cunha Castro Coelho, Professor Associado com Agregação da Faculdade de Engenharia da Universidade do Porto.

Vogais:
Doutor Vitor Manuel Pereira Duarte dos Santos, Professor Auxiliar da NOVA Information Management School da Universidade Nova de Lisboa;
Doutor João Manuel Pereira Barroso, Professor Associado com Agregação, Vice-Reitor para a Inovação, Transferência de Tecnologia e Universidade Digital da Universidade de Trás-os-Montes e Alto Douro;
Doutor João Paulo Ramos Teixeira, Professor Coordenador do Departamento de Eletrotecnia da Escola Superior de Tecnologia e Gestão do Instituto Politécnico de Bragança;
Doutora Maria Selene Henriques da Graça Vicente, Professora Auxiliar do Departamento de Psicologia da Faculdade de Psicologia e de Ciências da Educação da Universidade do Porto;
Doutora Maria do Rosário Marques Fernandes Teixeira de Pinho, Professora Associada do Departamento de Engenharia Eletrotécnica e de Computadores da Faculdade de Engenharia da Universidade do Porto;
Doutor Diamantino Rui da Silva Freitas, Professor Associado do Departamento de Engenharia Eletrotécnica e de Computadores da Faculdade de Engenharia da Universidade do Porto (orientador).

Resumo:

“A fala sintetizada de conteúdos matemáticos ainda apresenta diversos desafios, pois a Matemática para ser compreendida pelas pessoas com deficiência visual, precisa ser verbalizada detalhadamente, o que gera longas saídas e ocasiona sobrecarga cognitiva, além disso, a matemática possui regras que são bastaste peculiares, portanto, os limites prosódicos como pausas e entoação, na maioria das vezes, não são sintetizados da forma adequada. Para minimizar essa problemática, essa investigação propõem um modelo que faz uso da prosódia e da interacção para acessar as expressões matemáticas. Para desenvolvimento do modelo, nos apoiamos na metodologia de Pesquisa Baseada em Design e dividimos a investigação em quatro etapas, na primeira etapa foi feita uma revisão sistemática da literatura, realizamos uma investigação de exploração inicial com entrevistas com estudantes com deficiência visual e professores de braille e analisamos também a matemática falada pelos sintetizadores de voz. Na segunda etapa da investigação, foi criado um corpus de expressões matemáticas falados por professores da área para dar suporte à investigação sobre a prosódia. A entoação e as pausas foram os componentes prosódicos investigados. Embora os estudos não tenham sido aprofundados na entoação, fizemos alguns ensaios de modulação prosódica da frequência fundamental, a destacar trechos das expressões matemáticas de acordo com o nível na árvore MathML. No respeitante às pausas, identificamos os seus principais padrões nas expressões matemáticas. Realizamos também um experimento de rastreamento ocular com pessoas videntes, para compreender os processos cognitivos em torno da observação, análise e processamento das expressões matemáticas. Na terceira etapa, foi criado e avaliado com estudantes com deficiência visual um modelo de regressão linear que calcula as pausas para as expressões matemáticas de forma dinâmica. Os resultados mostraram avanços introduzidos pelas soluções encontradas, avanços percebidos principalmente quando as expressões matemáticas não são familiares aos estudantes. Os resultados do experimento de rastreamento ocular apontaram que além da complexidade da expressão matemática, foi necessário propôr um novo conceito formal que foi denominado diversidade, quantificando essa propriedade subjectiva das estruturas das expressões, porque se verificou que também impacta durante o processamento cognitivo das expressões. A análise dos dados forneceu pistas para a criação do modelo de interacção que faz uso da diversidade para controlar a carga cognitiva no acesso às expressões matemáticas durante o processo. A avaliação do modelo com pessoas com deficiência visual mostrou um avanço em relação aos trabalhos existentes, uma vez que os estudantes tiveram melhor desempenho ao acessar as expressões matemáticas com o modelo. Na quarta etapa fizemos a proposição final do modelo com base na avaliação das pessoas com deficiência visual. Os resultados alcançados nessa investigação possibilitam uma maior autonomia na leitura das expressões matemáticas, podendo as pessoas com deficiência visual governar a interacção no acesso auditivo de acordo com a necessidade de reforço da sua memória, além disso, pode diminuir o tempo na manipulação de expressões matemáticas em comparação com as ferramentas tradicionais, melhorar o processo de escrita, uma vez que à escrita está atrelada a leitura e aliviar a memória do estudante. Além destas contribuições citadas, podemos destacar também a descoberta do novo parâmetro diversidade, que se relaciona fortemente com o processamento cognitivo das expressões. De modo geral, estas contribuições tornam possível a melhoria e desenvolvimento na educação matemática, particularmente no processo ensino-aprendizagem das pessoas com deficiência visual, a torná-los seres mais autonómos, o que, além dos contributos científicos, pode gerar também impactos sociais e económicos decorrentes da acessibilidade.”

 Palavras-chave: Fala Sintetizada, Matemática, Acessibilidade, Deficiência Visual, Complexidade, Diversidade.

Posted in Destaque, Eventos, Notícias, Provas PhD.