ОБЪЯСНИМЫЙ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ (XAI): ОБЕСПЕЧЕНИЕ ПРОЗРАЧНОСТИ И ДОВЕРИЯ ПОЛЬЗОВАТЕЛЕЙ В ОБРАЗОВАТЕЛЬНЫХ РЕШЕНИЯХ — КОНЦЕПТУАЛЬНАЯ МОДЕЛЬ
DOI:
https://doi.org/10.65164/3tzepp77Kalit so‘zlar:
объяснимый искусственный интеллект, XAI, прозрачность AI, доверие пользователей, SHAP, LIME, образовательные технологии, интерпретируемость моделей, искусственный интеллект в образовании, EU AI Act.Abstrak
В статье исследована проблема применения методов объяснимого искусственного интеллекта (XAI — Explainable Artificial Intelligence) в образовательных системах с целью обеспечения прозрачности принимаемых решений и формирования доверия у студентов и педагогов. Систематизированы концептуальные основы XAI: базовые подходы (ante-hoc и post-hoc интерпретация), ключевые методы (SHAP, LIME, Attention Visualization, ANCHORS) и таксономии объяснимости. Разработана четырёхуровневая концептуальная модель доверия пользователей к AI-системам в образовании, включающая уровни данных, модели, интерфейса и управления. Проведён сравнительный анализ XAI-методов по критериям прозрачности, точности объяснений и применимости в образовательном контексте. Обоснована необходимость соответствия XAI-систем регуляторным требованиям EU AI Act 2024. Предложены рекомендации по интеграции XAI в образовательные AI-платформы высших учебных заведений Узбекистана.
Havolalar
1. Cai, C. J., Winter, S., Steiner, D., Wilcox, L., & Terry, M. (2019). "Hello AI": Uncovering the onboarding needs of medical practitioners for human-AI collaborative decision-making. Proceedings of the ACM on Human-Computer Interaction, 3(CSCW), 1–24. https://doi.org/10.1145/3359206
2. European Commission. (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union. https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32024R1689
3. Gebru, T., Morgenstern, J., Vecchione, B., Vaughan, J. W., Wallach, H., Daumé III, H., & Crawford, K. (2021). Datasheets for datasets. Communications of the ACM, 64(12), 86–92. https://doi.org/10.1145/3458723
4. Gunning, D., & Aha, D. (2019). DARPA's explainable artificial intelligence (XAI) program. AI Magazine, 40(2), 44–58. https://doi.org/10.1609/aimag.v40i2.2850
5. Herm, L. V., Heinrich, K., Wanner, J., & Janiesch, C. (2023). Stop ordering machine learning algorithms by their explainability! A user study of explanatory effects on AI trust. Computers & Human Behavior, 139, 107530. https://doi.org/10.1016/j.chb.2022.107530
6. Jain, S., & Wallace, B. C. (2019). Attention is not explanation. Proceedings of NAACL-HLT 2019, 3543–3556. https://doi.org/10.18653/v1/N19-1357
7. Kendjayeva, D. Kh. (2023). Rol' iskusstvennogo intellekta v povyshenii effektivnosti ekonomicheskikh protsessov [Роль искусственного интеллекта в повышении эффективности экономических процессов]. Toshkent amaliy fanlar universiteti. https://scholar.google.com/citations?user=c0FaPIIAAAAJ
8. Kendjayeva, D. Kh. (2024). Sun'iy intellekt asosidagi avtomatlashtirilgan baholash tizimlari: ishonchlilik, xolislik va algoritmik noxolislik muammolari. Generativ Sun'iy Intellekt Sharoitida Ta'lim Tizimlari anjumani materiallari. Toshkent: TUAS.
9. Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80. https://doi.org/10.1518/hfes.46.1.50_30392
1139
10. Linardatos, P., Papastefanopoulos, V., & Kotsiantis, S. (2021). Explainable AI: A review of machine learning interpretability methods. Entropy, 23(1), 18. https://doi.org/10.3390/e23010018
11. Lipton, Z. C. (2018). The mythos of model interpretability. Queue, 16(3), 31–57. https://doi.org/10.1145/3236386.3241340
12. Lundberg, S. M., & Lee, S. I. (2017). A unified approach to interpreting model predictions. Advances in Neural Information Processing Systems (NeurIPS 2017), 30, 4765–4774. https://proceedings.neurips.cc/paper/2017/hash/8a20a8621978632d76c43dfd28b67767-Abstract.html
13. Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., ... & Gebru, T. (2019). Model cards for model reporting. Proceedings of the ACM Conference on Fairness, Accountability, and Transparency (FAccT), 220–229. https://doi.org/10.1145/3287560.3287596
14. NIST. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.100-1
15. Poursabzi-Sangdeh, F., Goldstein, D. G., Hofman, J. M., Vaughan, J. W., & Wallach, H. (2021). Manipulating and measuring model interpretability. Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems, 1–52. https://doi.org/10.1145/3411764.3445315
16. Prezident Respubliki Uzbekistan. (2024). Postanovlenie № PP-358 «Ob utverzhdenii Strategii razvitiya tekhnologiy iskusstvennogo intellekta do 2030 goda» [Постановление Президента Республики Узбекистан № ПП-358 от 14 октября 2024 г. «Об утверждении Стратегии развития технологий искусственного интеллекта до 2030 года»]. https://lex.uz/ru/docs/7158606
