Ética y desafíos de la inteligencia artificial en la educación: privacidad, equidad y el futuro del aprendizaje humano
DOI:
https://doi.org/10.59169/pentaciencias.v7i5.1639Palabras clave:
ética; desafíos; inteligencia artificial; educación; aprendizaje humanoResumen
El objetivo del presente artículo fue valorar la ética y los desafíos de la IA en la educación: privacidad, equidad y el futuro del aprendizaje humano y se desarrolló desde un enfoque cualitativo que priorizó la investigación bibliográfica y el análisis temático, lo que permitió arribar a las siguientes conclusiones: La IA en la educación no es inherentemente ética o anti-ética; su impacto depende críticamente de su diseño, implementación y gobernanza; la privacidad de los datos educativos es una quimera en la práctica actual, con riesgos significativos para la autonomía y seguridad de los estudiantes; lejos de ser un ecualizador, la IA en la educación está, en la práctica, amplificando las brechas de equidad existentes debido a la brecha digital y los sesgos algorítmicos; el futuro del aprendizaje humano bajo la influencia de la IA exige un equilibrio delicado entre la eficiencia tecnológica y el desarrollo integral de las habilidades humanas esenciales y la urgente necesidad de una alfabetización ética en IA para todos los actores educativos (estudiantes, docentes, padres y administradores) es fundamental para una implementación responsable.
Descargas
Citas
Baker, R. S., & Siemens, G. (2018). Educational data mining and learning analytics. In A. F. O'Donnell & M. J. Hannafin (Eds.), Handbook of research on educational communications and technology (4th ed., Pp. 263-273). Routledge. Doi: 10.4324/9781315612711-20
Breslow, L., & Johnson, D. (2017). Learning in a data-rich world: The promise of learning analytics. New Directions for Institutional Research, 2017(174), 5-15. DOI: 10.1002/ir.20233
Chen, X., Xie, H., & Hwang, G. J. (2020). A review of artificial intelligence in education: Recent trends and future directions. Journal of Educational Technology & Society, 23(1), 1-19.DOI: 10.1007/s11423-019-09689-x
Crawford, K. (2021). Atlas of AI: Power, politics, and the planetary costs of artificial intelligence. Yale University Press. DOI: 10.12987/9780300262102
Eubanks, V. (2018). Automating inequality: How high-tech tools profile, police, and punish the poor. St. Martin's Press.
Floridi, L. (2019). Establishing the rules for building trustworthy AI. AI & Society, 34(3), 329-335. DOI: 10.1007/s00146-018-0857-4
Gardner, P., Miller, T., & Williamson, B. (2019). Data justice and education: Critical perspectives on the ethics of data in education. British Journal of Educational Technology, 50(6), 3123-3136. DOI: 10.1111/bjet.12869
Holstein, K., Wortman, D. T., & Williams, S. (2019). The ethics of AI in education: Exploring the challenges of designing, developing, and deploying AI in educational contexts. In Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems (pp. 1-13). ACM. DOI: 10.1145/3290605.3300627
Holzinger, A., Müller, H., & Sarić, J. (2019). Explainable AI (XAI) for education: Bringing transparency and interpretability to learning analytics. Proceedings of the 9th International Conference on Learning Analytics & Knowledge (LAK) (pp. 1-10). ACM. DOI: 10.1145/3303772.3303777
Hwang, G. J., Chen, X., & Tsai, C. C. (2020). A review of research on artificial intelligence in education: From machine learning to deep learning. Computers & Education: Artificial Intelligence, 1, 100004. DOI: 10.1016/j.caeai.2020.100004
Jobin, A., Ienca, M., & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1(9), 389-399. Doi: 10.1038/S42256-019-0088-2
Khalifa, N., & Al-Hadwer, B. (2019). Cybersecurity and privacy in educational data: Challenges and opportunities. Journal of Cybersecurity and Information Management, 3(1), 1-10.
Luckin, R., Bligh, B., Clark, J., Heller, K., Hennessy, S., & Roschelle, J. (2016). Intelligence Unleashed: An argument for AI in education. UCL Knowledge Lab.
O'neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy. Crown.
OECD. (2021). Artificial Intelligence in Education: Addressing the ethical, legal and socio-economic impacts. OECD Publishing. DOI: 10.1787/d2c679a9-en
Rubel, A., & Jones, K. (2016). Student privacy in the age of big data: A review of legal and ethical issues. Education and Information Technologies, 21(6), 1629-1643. DOI: 10.1007/s10639-015-9387-y
Russell, S. J., & Norvig, P. (2021). Artificial intelligence: A modern approach (4th ed.). Pearson.
Roll, I., & Wylie, R. (2016). Goldilocks and the two SATs: How tutoring feedback and self-explanation support student learning. Instructional Science, 44(6), 565-585. DOI: 10.1007/s11251-016-9387-y
Sclater, N. (2019). Learning analytics and educational data mining: A critical perspective. Routledge. DOI: 10.4324/9781315694298
Selwyn, N., Nemorin, S., & Pimlott-Wilson, H. (2020). What can AI do for children? A review of the literature and some cautionary notes. Learning, Media and Technology, 45(1), 1-14. DOI: 10.1080/17439884.2019.1659929
Siemens, G. (2017). Learning analytics, AI, and the future of education. In B. E. Adair & M. L. Nielson (Eds.), Handbook of research on artificial intelligence in education (pp. 1-15). IGI Global. DOI: 10.4018/978-1-5225-2578-3.ch001
UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000380455
Williamson, B. (2017). Big data in education: The digital future of learning, policy and practice. Sage Publications. DOI: 10.4135/9781473957235
World Economic Forum. (2018). The Future of Jobs Report 2018. World Economic Forum. https://www3.weforum.org/docs/WEF_Future_of_Jobs_2018.pdf
Zawacki-Richter, D., Marín, V. I., Bond, M., & Gouverneur, F. (2019). Systematic review of research on artificial intelligence applications in higher education – where is the evidence of impact on student learning and teaching quality? International Journal of Educational Technology in Higher Education, 16(1), 39. DOI: 10.1186/s41239-019-0171-0
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2025 Revista Científica Arbitrada Multidisciplinaria PENTACIENCIAS
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
