تصميم وتقييم شبكات قابلة للتعافي الذاتي باستخدام تعلم Q وتقنية التوأم الرقمي
سجل المقالة
الصفحات
85-104الملخص
تتطلب شبكات الاتصال الحديثة ذات التعقيد المتزايد اليوم خصائص أساسية لا غنى عنها في البنى التحتية المستقبلية، مثل الاعتمادية، والمرونة، وسرعة استعادة الأعطال. إلا أن حلول إدارة الأعطال الحالية تعتمد بشكل كبير على الأساليب اليدوية أو الأنظمة الثابتة المعتمدة على قواعد مسبقة، مما يجعلها غير قادرة على التعامل بكفاءة مع الأعطال الديناميكية والواسعة النطاق في الشبكات الحديثة. لذلك، يهدف هذا البحث إلى تصميم واختبار إطار عمل لشبكات ذاتية الإصلاح تعتمد على دمج التعلم المعزز (Reinforcement Learning) والتوأم الرقمي (Digital Twin) لتحقيق إصلاح ذاتي مستقل، تكيفي، وآني. تعتمد الفكرة الأساسية للنظام المقترح على تصميم وكيل تعلم باستخدام خوارزمية Q-learning يتفاعل باستمرار مع بيئة شبكة محاكاة لتعلم أفضل استراتيجيات الإصلاح، بالتوازي مع استخدام التوأم الرقمي لمحاكاة الشبكة الفعلية والتنبؤ بالأعطال المحتملة اعتمادًا على البيانات التاريخية والبيانات اللحظية. يتكون الإطار المقترح من عدة وحدات معالجة، تشمل محاكي شبكة يدعم طوبولوجيات مختلفة مثل الشبكات صغيرة العالم، العشوائية، التكيفية، عديمة المقياس، الكاملة، النجمية، والشبكات الشبكية (Grid). كما يتضمن وحدة مراقبة وتنبؤ لحالة العقد والوصلات تعتمد على التوأم الرقمي، بالإضافة إلى خوارزمية Q-learning بأسلوب ε-greedy لاتخاذ قرارات تكيفية في عمليات الإصلاح، وآلية حساب درجة صحة مركبة تعتمد على حالة العقد والوصلات. كما يستخدم النظام نماذج للتنبؤ بالأعطال، وإدارة البيانات التاريخية، وتقنيات تحسين المكافأة لتعزيز تقارب التعلم وزيادة مرونة الشبكة. تشمل معايير التقييم: صحة الشبكة، متوسط زمن الإصلاح (MTTR)، دقة كشف الأعطال، معدل الإيجابيات الكاذبة، توافر الشبكة، ونسبة نجاح الإصلاح. أظهرت النتائج التجريبية أن إطار العمل المقترح (RL–Digital Twin) يتفوق بشكل ملحوظ على الطرق التقليدية مثل عدم القيام بأي إجراء، والإصلاح العشوائي، والإصلاح القائم على القواعد، حيث حقق متوسط صحة شبكة قدره 89.4%، ومتوسط زمن إصلاح يبلغ 3.1 خطوة، ودقة تنبؤ بالأعطال وصلت إلى 91.2%. كما تمكن الوكيل الذكي من التكيف مع مختلف طوبولوجيات الشبكات وتحقيق تقارب خلال 65 إلى 100 حلقة تدريبية. ورغم هذه النتائج الإيجابية، فإن الدراسة تقتصر على شبكات محاكاة لا تتجاوز 30 عقدة، وتركز بشكل أساسي على الأعطال التشغيلية وليس الهجمات السيبرانية. كما أن هناك تحديات تتعلق بقابلية التوسع في الشبكات الأكبر بسبب القيود المرتبطة بخوارزمية Q-learning التقليدية.
الكلمات المفتاحية:
المراجع
- [1] A. Agrawal, G. Dubey, M. Dubey, P. Narwaria, and D. Khatri, “NEXT GENERATION NETWORKS: ADVANCEMENTS, CHALLENGES, AND OPPORTUNITIES FOR SCALABLE AND SECURE INFRASTRUCTURE,” 2024, pp. 58–71. DOI:10.58532/V3BGNC2P2CH2
- [2] A. Kumar, M. Masud, M. H. Alsharif, N. Gaur, and A. Nanthaamornphong, “Integrating 6G technology in smart hospitals: challenges and opportunities for enhanced healthcare services.,” Front. Med., vol. 12, p. 1534551, 2025. doi: 10.3389/fmed.2025.1534551
- [3] S. Katragadda and G. D, “Self-Healing Networks: Implementing AI-Powered Mechanisms to Automatically Detect and Resolve Network Issues with Minimal Human Intervention,” Dec. 2023. https://doi.org/10.3390/computers15040231
- [4] N. Kumar, E. Groenewald, S. Kulkarni, and A. Kariveliparambil, “Self-Healing Networks AI-Based Approaches for Fault Detection and Recovery,” Power Syst. Technol., vol. 47, pp. 371–386, Dec. 2023. DOI:10.52783/pst.206
- [5] G. Shingade, “Applications of Artificial Intelligence and Machine Learning in Power System Operation and Control: A Comprehensive Review,” Commun. Appl. Nonlinear Anal., vol. 32, pp. 2007–2022, Mar. 2025. DOI:10.1109/TPWRS.2022.3220799
- [6] Y. Zahraoui et al., “AI Applications to Enhance Resilience in Power Systems and Microgrids—A Review,” Sustainability, vol. 16, no. 12, 2024. https://doi.org/10.3390/su16124959
- [7] A. Inamdar, W. D. van Driel, and G. Zhang, “Digital Twin Technology—A Review and Its Application Model for Prognostics and Health Management of Microelectronics,” Electronics, vol. 13, no. 16, 2024. https://doi.org/10.3390/electronics13163255
- [8] A. Khdoudi, T. Masrour, I. El Hassani, and C. El Mazgualdi, “A Deep-Reinforcement-Learning-Based Digital Twin for Manufacturing Process Optimization,” Systems, vol. 12, no. 2, 2024. https://doi.org/10.3390/systems12020038
- [9] P. Almasan et al., “Network Digital Twin : Context , Enabling Technologies and Opportunities,” no. Ml, pp. 1–7, 2022. DOI:10.1109/MCOM.001.2200012
- [10] F. B. Mismar and B. L. Evans, “Deep Q-Learning for Self-Organizing Networks Fault Management and Radio Performance Improvement,” 2019. DOI:10.1109/ACSSC.2018.8645083
- [11] D. Saxena, A. K. Singh, and S. Member, “A Self-Healing and Fault-Tolerant Cloud-based,” pp. 1–10, 2025. DOI:10.48550/arXiv.2505.01215
- [12] N. Cheng, S. Member, X. W. Id, S. Member, Z. L. Id, and S. Member, “Toward Enhanced Reinforcement Learning-Based Resource Management via Digital Twin : Opportunities , Applications , and Challenges,” pp. 1–7, 2024. DOI:10.48550/arXiv.2505.01215
- [13] N. Majid and O. Isreal, “AI-Driven Network Automation: A Systematic Review of Self-Organizing and Self- Healing Computer Networks,” Jan. 2026.
- [14] A. Hakiri, A. Gokhale, S. Ben Yahia, and N. Mellouli, “A comprehensive survey on digital twin for future networks and emerging Internet of Things industry,” Comput. Networks, vol. 244, p. 110350, 2024. DOI:10.1016/j.comnet.2024.110350
- [15] T. Ward, N. T. City, K. H. Province, T. Engineering, and I. Technology, “Self-Healing Networks AI-Based Approaches for Fault Detection and Recovery. *1,” vol. 47, no. 4, pp. 4–10, 2023. DOI:10.52783/pst.206
- [16] Z. Noun, M. Saied, H. Muhieddine, H. Shraim, C. Francis, and H. Noura, “Reinforcement learning in fault tolerance and diagnosis fields: A literature review,” Annu. Rev. Control, vol. 61, p. 101055, 2026. DOI:10.1016/j.arcontrol.2026.101055
- [17] R. van Dinter, B. Tekinerdogan, and C. Catal, “Predictive maintenance using digital twins: A systematic literature review,” Inf. Softw. Technol., vol. 151, p. 107008, 2022. https://doi.org/10.1016/j.infsof.2022.107008
- [18] Y. Yang, X. Chen, R. Tan, and Y. Xiao, “IoT Technologies and Applications,” in Intelligent IoT for the Digital World: Incorporating 5G Communications and Fog/Edge Computing Technologies, 2021, pp. 1–60. DOI: 10.1002/9781119593584.ch7
- [19] T. Omar, T. Ketseoglou, O. Naffaa, A. Marzvanyan, and C. Carr, “A Precoding Real-Time Buffer Based Self-Healing Solution for 5G Networks,” J. Comput. Commun., vol. 09, pp. 1–23, Jan. 2021. DOI:10.3390/fi15070244
- [20] S. A. Kauffman, A. Roli, A. Mater, and S. Università, “Beyond the Newtonian Paradigm : A Statistical Mechanics of Emergence,” pp. 1–20, 2021. DOI:10.1098/rsfs.2022.0063
- [21] A. Mujezinović, E. Turajlić, A. Alihodžić, M. M. Dedović, and N. Dautbašić, “Calculation of Magnetic Flux Density Harmonics in the Vicinity of Overhead Lines,” Electronics, vol. 11, no. 4, 2022. https://doi.org/10.3390/electronics11040512
- [22] K. Madala, H. Do, and D. Aceituna, “A Combinatorial Approach for Exposing Off-Nominal Behaviors,” in 2018 IEEE/ACM 40th International Conference on Software Engineering (ICSE), 2018, pp. 910–920. https://doi.org/10.1145/3180155.3180204
المعرفات
معرف الكائن الرقمي DOI: 10.33899/jes.v35i4.62252
هذا العمل مرخص بموجب رخصة 




