Análisis comparativo de la evaluación humana y la evaluación basada en inteligencia artificial generativa de resúmenes científicos
Open Access
- 1 July 2025
- journal article
- Published by Campus Educa Sportis in EDUCA. Revista Internacional Para la Calidad Educativa
- Vol. 5 (2) , 1-21
Abstract
El presente estudio analiza las diferencias en la evaluación de resúmenes enviados al II Congreso de Investigación Educativa COIE-CIEDU 2024, entre las valoraciones emitidas por dos expertos en el área con las generadas por una inteligencia artificial generativa. Se utilizó una misma rúbrica de evaluación, aplicando pruebas de diferencia de medias a fin de determinar la existencia de discrepancias significativas. Los resultados muestran que, si bien no se hallaron diferencias significativas entre los expertos humanos, sí se identificaron discrepancias estadísticamente significativas entre las evaluaciones humanas y las de la inteligencia artificial generativa (p < 0,05). Este hallazgo evidencia que, aunque el juicio humano mantiene una consistencia metodológica, la inteligencia artificial generativa no logra aún emular los estándares de calidad aplicados por revisores expertos. Se concluye que la inteligencia artificial generativa, aunque útil como herramienta de apoyo en tareas técnicas o administrativas del proceso de revisión, no está aún preparada para desempeñar de forma autónoma funciones de arbitraje académico. Se recomienda su implementación como complemento, bajo protocolos de supervisión humana y con validación continua de su desempeño, a fin de garantizar la equidad, la rigurosidad y la integridad en la evaluación de contenidos científicos.Keywords
This publication has 24 references indexed in Scilit:
- Evaluating science: A comparison of human and AI reviewersJudgment and Decision Making, 2024
- Enhancing peer review efficiency: A mixed‐methods analysis of artificial intelligence‐assisted reviewer selection across academic disciplinesLearned Publishing, 2024
- Evaluating AI and human authorship quality in academic writing through physics essaysEuropean Journal of Physics, 2024
- The great detectives: humans versus AI detectors in catching large language model-generated medical writingInternational Journal for Educational Integrity, 2024
- Artificial intelligence to support publishing and peer review: A summary and reviewLearned Publishing, 2023
- Artificial intelligence in systematic reviews: promising when appropriately usedBMJ Open, 2023
- An evaluation of the process of peer reviewPalynology, 2022
- Integrity of Scientific Research2022
- Is Peer Review a Good Idea?The British Journal for the Philosophy of Science, 2021
- Peer review: Academia's most important but least understood taskThe Electronic Journal of Information Systems in Developing Countries, 2020