Nghiên cứu phát triển hệ thống thông minh ngoại tuyến phục vụ khai thác dữ liệu quản lý ngành khoa học công nghệ sử dụng mô hình ngôn ngữ lớn và kỹ thuật truy xuất tăng cường sinh (RAG)
DOI:
https://doi.org/10.54939/1859-1043.j.mst.114.2026.175-182Từ khóa:
Text-to-SQL; Sinh tăng cường truy xuất (RAG); Mô hình ngôn ngữ lớn; Quản lý ngành khoa học công nghệ.Tóm tắt
Bài báo trình bày nghiên cứu phát triển hệ thống thông minh ngoại tuyến phục vụ khai thác dữ liệu quản lý khoa học và công nghệ trong môi trường mạng nội bộ có yêu cầu cao về bảo mật thông tin. Hệ thống được xây dựng trên cơ sở kết hợp các mô hình ngôn ngữ lớn (LLM) mã nguồn mở với kỹ thuật Retrieval-Augmented Generation (RAG), cho phép người dùng truy vấn, thống kê và tổng hợp dữ liệu bằng ngôn ngữ tự nhiên tiếng Việt mà không cần kiến thức về ngôn ngữ truy vấn cơ sở dữ liệu. Nghiên cứu tập trung vào ba nội dung chính: (1) xây dựng mô hình Text-to-SQL nhằm chuyển đổi câu hỏi tự nhiên thành câu lệnh SQL trên cơ sở dữ liệu chuyên ngành; (2) tích hợp cơ chế RAG để truy xuất lược đồ cơ sở dữ liệu, từ điển dữ liệu và các quy tắc nghiệp vụ, qua đó nâng cao khả năng hiểu ngữ cảnh và độ chính xác của truy vấn; và (3) triển khai các mô hình LLM hoạt động hoàn toàn trên hạ tầng nội bộ nhằm bảo đảm tính độc lập, giảm phụ thuộc vào dịch vụ đám mây và hạn chế nguy cơ rò rỉ dữ liệu. Ba mô hình Qwen 3, Meta-Llama và Gemma được đánh giá trên bộ dữ liệu truy vấn chuyên ngành. Kết quả thực nghiệm cho thấy hệ thống hoạt động ổn định trong môi trường ngoại tuyến, hỗ trợ hiệu quả truy vấn tiếng Việt tự nhiên, nâng cao khả năng khai thác dữ liệu và đáp ứng yêu cầu an toàn thông tin đối với cơ sở dữ liệu chuyên ngành.
Tài liệu tham khảo
[1]. S. Adiyono and et al., “AI and Digital Transformation Trends: A Systematic Review with Multi-Criteria Analysis”, Journal of Information Systems and Informatics, Vol. 8, No. 1, pp. 1011–1044, (2026).
[2]. T. Chowdhury, “Cloud-Based Information Retrieval for Big Data: A Survey of Architectures and Scalability Challenge”, The Eastasouth Journal of Information System and Computer Science, Vol. 3, No. 3, pp. 312–322, (2026).
[3]. Z. Hong et al., “Next-generation database interfaces: A survey of llm-based text-to-sql”, IEEE Transactions on Knowledge and Data Engineering, (2025).
[4]. Z. Luo, Z. Yang, Z. Xu, W. Yang and X. Du, “Llm4sr: A survey on large language models for scientific research”, arXiv preprint arXiv:2501.04306, (2025).
[5]. M. Klesel and H. F. Wittmann, “Retrieval-Augmented Generation (RAG)”, Business & Information Systems Engineering, Vol. 67, pp. 551–561, (2025). DOI: 10.1007/s12599-025-00945-3.
[6]. T. Yu, R. Zhang, K. Yang, M. Yasunaga, D. Wang, Z. Li et al., “Spider: A large-scale human-labeled dataset for complex and cross-domain semantic parsing and text-to-sql task”, Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing, pp. 3911–3921, (2018).
[7]. T. H. Nguyen, T. T. Bui and N. H. H. Luong, “A study on deep learning for Vietnamese text classification”, Journal of Military Science and Technology, Vol. 95, pp. 85–94, (2024). DOI: 10.54939/1859-1043.j.mst.95.2024.85-94.
[8]. S. Gupta, R. Ranjan and S. N. Singh, “A comprehensive survey of retrieval-augmented generation (rag): Evolution, current landscape and future directions”, arXiv preprint arXiv:2410.12837, (2024).
[9]. P. P. Mishra, K. P. Yeole, R. Keshavamurthy, M. B. Surana and F. Sarayloo, “A Systematic Framework for Enterprise Knowledge Retrieval: Leveraging LLM-Generated Metadata to Enhance RAG Systems”, arXiv preprint arXiv:2512.05411, (2025).
[10]. L. C. Chen, M. S. Pardeshi, Y. X. Liao and K. C. Pai, “Application of retrieval-augmented generation for interactive industrial knowledge management via a large language model”, Computer Standards & Interfaces, Vol. 94, p. 103995, (2025).
[11]. H. Thakkar and A. Manimaran, “Comprehensive examination of instruction-based language models: A comparative analysis of mistral-7b and llama-2-7b”, 2023 International Conference on Emerging Research in Computational Science (ICERCS), IEEE, pp. 1–6, (2023).
[12]. L. Ouyang, J. Wu, X. Jiang, D. Almeida, C. Wainwright, P. Mishkin, C. Zhang et al., “Training language models to follow instructions with human feedback”, Advances in Neural Information Processing Systems, Vol. 35, pp. 27730–27744, (2022).
[13]. T. H. Phan, M. P. Nguyen, H. H. Nguyen, T. T. T. Pham and T. L. Le, “Tabular text embedding for Vietnamese text-based person search”, Journal of Military Science and Technology, Vol. 93, pp. 128–136, (2024). DOI: 10.54939/1859-1043.j.mst.93.2024.128-136.
