AS DUALIDADES ENTRE O USO DA INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO E OS RISCOS DE VIESES ALGORÍTMICOS
Open Access
- 1 January 2025
- journal article
- artigos
- Published by FapUNIFESP (SciELO) in Educação & Sociedade
- Vol. 46, e289323
Abstract
O estudo busca identificar as dualidades entre o uso da inteligência artificial (IA) na educação e os riscos de vieses algorítmicos. A pesquisa se insere como qualitativa e uma revisão sistemática de literatura com apoio bibliométrico. A coleta de dados ocorreu nas bases Scopus, Web of Science e ScienceDirect, e ao final foram selecionados 16 artigos para análise e interpretação. A hipótese levantada é de que os vieses algorítmicos na educação podem comprometer a equidade e a eficácia dos processos educativos. Os vieses foram apontados desde a codificação dos algoritmos até o processamento automatizado, o que pode impactar o desempenho dos alunos e ampliar as desigualdades. Medidas sugeridas para mitigação incluem os cuidados nas fases de treinamento e implementação dos algoritmos, desenvolvimento de práticas de reparação algorítmica, supervisão das plataformas e a necessidade de tecnologias justas e confiáveis. Como resposta à hipótese, conclui-se que a eficácia da IA na educação depende de um treinamento contínuo e inclusivo dos algoritmos e da conscientização de seus usuários sobre os riscos dos vieses algorítmicos, de forma que os sistemas possam ser aperfeiçoados para evitar a reprodução de injustiças sociais. Recomenda-se uma abordagem ética e colaborativa para garantir que a IA contribua para uma educação mais justa. A interação entre os alunos e a IA pode suscitar uma reflexão crítica sobre os feedbacks recebidos, pois eles precisam saber identificar se os resultados são confiáveis, atualizados e não tendenciosos, uma vez que a IA pode demorar a incorporar novos dados de treinamento nos algoritmos.Keywords
This publication has 18 references indexed in Scilit:
- Expanding on the Frames: Making a Case for Algorithmic LiteracyCommunications in Information Literacy, 2023
- A INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃOAmor Mundi, 2023
- UMA REVISÃO LITERÁRIA DAS VANTAGENS E DESVANTAGENS DA INCLUSÃO DA INTELIGÊNCIA ARTIFICIAL (IA) NO ENSINO A DISTÂNCIAAmor Mundi, 2023
- TrustScapes: A Visualisation Tool to Capture Stakeholders’ Concerns and Recommendations About Data Protection, Algorithmic Bias, and Online SafetyInternational Journal of Qualitative Methods, 2023
- Algorithmic Bias in EducationInternational Journal of Artificial Intelligence in Education, 2022
- Interrogating Algorithmic Bias: From Speculative Fiction to Liberatory DesignTechTrends, 2022
- Conservative AI and social inequality: conceptualizing alternatives to bias through social theoryAI & SOCIETY, 2021
- Deep auto encoders to adaptive E-learning recommender systemComputers and Education: Artificial Intelligence, 2021
- Algorithmic bias: on the implicit biases of social technologySynthese, 2020
- bibliometrix : An R-tool for comprehensive science mapping analysisJournal of Informetrics, 2017