A oclusão pode facilitar a compreensão humana? Avaliação de explicabilidade no reconhecimento de entidades nomeadas
Open Access
- 21 July 2024
- conference paper
- Published by Sociedade Brasileira de Computação
- p. 13-24
Abstract
Técnicas de Explicabilidade são métodos que auxiliam usuários a entender os resultados de um modelo de aprendizado de máquina. Nesse contexto, este trabalho investiga se a técnica de explicabilidade de Oclusão consegue gerar respostas similares às esperadas por humanos na classificação de palavras para o Reconhecimento de Entidades Nomeadas. Para isso, utilizou-se uma LSTM bidirecional e o conjunto de dados CoNLL 2003, bem como foi utilizado a anotação manual de 849 sentenças criando-se, assim, uma base de dados de referência. Os resultados mostram que a Oclusão é capaz de indicar pelo menos uma palavra relevante e compatível com a compreensão humana.Keywords
This publication has 14 references indexed in Scilit:
- Automated Concatenation of Embeddings for Structured Prediction2021
- LUKE: Deep Contextualized Entity Representations with Entity-aware Self-attention2020
- Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI)IEEE Access, 2018
- A Survey of Methods for Explaining Black Box ModelsACM Computing Surveys, 2018
- European Union Regulations on Algorithmic Decision Making and a “Right to Explanation”AI Magazine, 2017
- Explaining Recurrent Neural Network Predictions in Sentiment Analysis2017
- Discrimination-aware data mining2008
- Explaining Classifications For Individual InstancesIEEE Transactions on Knowledge and Data Engineering, 2008
- Christopher D. Manning and Hinrich Schutze. Foundations of Statistical
Natural Language Processing. MIT Press, 2000. ISBN 0-262-13360-1. 620 pp. $64.95/£44.95 (cloth).Natural Language Engineering, 2002
- The anatomy of a large-scale hypertextual Web search engineComputer Networks and ISDN Systems, 1998