رقم المقالة : 1401061639261 زيارة : 5686 الصفحة: 209 - 230

نوع المخطوط: المحکّمة

رایانش با کارایی بالا: الزامات، نیازمندی‏های نسل‏های آتی و محورهای تحقیقاتی

الموضوعات :

احسان آریانیان ¹ , محمدمهدي اثني عشري ² , فاطمه احسانی بشلی ³ , شقایق سادات حسینی بیان ⁴ , مسعود ده یادگاری ⁵ , بهنام صمدی ⁶

1 - عضو هیئت علمی پژوهشگاه ارتباطات و فناوری اطلاعات
2 - دانشکده مهندسی کامپیوتر، دانشگاه صنعتی خواجه نصیرالدین طوسی، تهران
3 - دانشکده مهندسی کامپیوتر، دانشگاه صنعتی خواجه نصیرالدین طوسی، تهران
4 - دانشکده مهندسی کامپیوتر، دانشگاه صنعتی خواجه نصیرالدین طوسی، تهران
5 - عضو هیئت علمی پژوهشگاه ارتباطات و فناوری اطلاعات
6 - دانشکده مهندسی کامپیوتر، دانشگاه صنعتی خواجه نصیرالدین طوسی، تهران

تاريخ الإرسال : 09 السبت , ذو القعدة, 1442 تاريخ التأكيد : 26 الأربعاء , ربيع الثاني, 1443 تاريخ الإصدار : 18 الأربعاء , صفر, 1444

الکلمات المفتاحية: رایانش با کارایی بالا, محاسبات Exascale, آینده پژوهی, معماری‏های سخت‏افزاری, معماری‏های نرم‏افزاری,

ملخص المقالة :

حرکت فعلی جهان در جهت هرچه توانمندتر کردن سامانه‏های رایانش با کارایی بالا، نشان‏دهنده نیاز روزافزون به این فناوری است. بدیهی است که هرچه این نیاز افزایش یابد، این سامانه‏ها نیز لازم است که توانمندتر شوند تا بتوانند فعالیت‏های بیشتر و سنگین‏تری را اجرا نمایند. در یک نگاه کلان‏نگر، نسل‏های آتی رایانش با کارایی بالا در دو دسته کلی قرار می‏گیرند؛ نسل‏های رایانشی مبتنی بر فناوری‏های نوظهور نظیر نورومورفیک و کوآنتوم و نسل‏های رایانشی مرسوم که به سمت Exascale در حال حرکت هستند. با توجه به اینکه در آینده نزدیک، احتمال عملیاتی شدن کامل و استفاده در مقیاس وسیع از فناوری‏های نوظهور پایین است، در این مقاله، تمرکز بر نسل‏های رایانشی مرسوم قرار گرفته و سعی شده است الزامات و نیازمندی‏های آنها از جنبه‏های سخت‏افزاری و نرم‏افزاری مورد بررسی قرار گیرند. همچنین، فناوری‏های هوش مصنوعی و رایانش ابری به عنوان موتورهای محرکه رایانش با کارایی بالا در جهان مورد بررسی قرار گرفته‏اند تا تاثیر متقابل آنها بر رایانش با کارایی بالا مشخص گردد. در نهایت، موضوعات و محورهای تحقیقاتی در سطح جهان که مورد توجه هستند بررسی و تدوین شده است.

المصادر:

"What is High-Performance Computing?," ed. https://www.netapp.com/data-storage/high-performance-computing/what-is-hpc/, 2021.
[2] "High Performance Computing with Accelerators," ed. https://www.seminarsonly.com/computer%20science/High-Performance-Computing-with-Accelerators.php, 2021.
[3] "HPC IN 2020: COMPUTE ENGINE DIVERSITY GETS REAL," ed. https://www.nextplatform.com/2020/01/13/hpc-in-2020-compute-engine-diversity-gets-real/, 2020.
[4] "HPC PROCESSORS – GREATER PERFORMANCE OVER TRADITIONAL CPUS," ed. https://www.aspsys.com/solutions/hpc-processors/, 2020.
[5] "What is GPU Computing?," ed. https://www.e4company.com/en/2021/02/what-is-gpu-computing/, 2021.
[6] "What Is a GPU?," ed. https://www.intel.com/content/www/us/en/products/docs/processors/what-is-a-gpu.html, 2020.
[7] "AMD Announces World’s Fastest HPC Accelerator for Scientific Research¹," ed. https://www.amd.com/en/press-releases/2020-11-16-amd-announces-world-s-fastest-hpc-accelerator-for-scientific-research, 2020.
[8] "Re-Imagining Codesign," ed. https://www.orau.gov/ASCR-CoDesign/, 2021.
[9] "GRAPHCORE IPU-M-2000," ed. https://www.boston.co.uk/products/ipu-m2000.aspx, 2021.
[10] "An AI acceleration solution for production environments," ed. https://www.hpcwire.com/2021/02/22/massively-scalable-ai-that-seamlessly-works-with-your-existing-infrastructures-power-availability-and-budget/, 2021.
[11] L. Armasu, "Google's Big Chip Unveil For Machine Learning: Tensor Processing Unit With 10x Better Efficiency (Updated)," Tom's Hardware, 2016.
[12] Y. E. Wang, G.-Y. Wei, and D. Brooks, "Benchmarking tpu, gpu, and cpu platforms for deep learning," arXiv preprint arXiv:1907.10701, 2019.
[13] P. Teich, "Tearing apart Google’s TPU 3.0 AI coprocessor," Retrieved June, vol. 12, p. 2018, 2018.
[14] N. P. Jouppi et al., "A domain-specific supercomputer for training deep neural networks," Communications of the ACM, vol. 63, no. 7, pp. 67-78, 2020.
[15] P. G. A. Tekin.Tuncer Durak. Piechurski. Kaliszan. Aylin Sungur. Robertsén, "State-of-the-Art and Trends for Computing and Interconnect Network Solutions for HPC and AI," 2020.
[16] "2020 Roadmap," ed. https://ethernetalliance.org/technology/2020-roadmap/, 2020.
[17] "Terabit Ethernet: The New Hot Trend in Data Centers," ed. https://www.lanner-america.com/blog/terabit-ethernet-new-hot-trend-data-centers/, 2019.
[18] "High-Performance Computing Storage," ed: https://dzone.com/articles/high-performance-computing-storage-hybrid-cloud-pa, 2020.
[19] "Introduction to Lustre," ed. https://wiki.lustre.org/Introduction_to_Lustre, 2017.
[20] D. P. C. Prof. Dr. Theo Ungerer, "Eurolab4HPC Long-Term Vision on High-Performance Computing (2nd Edition)," 2020.
[21] "Introduction to Parallel Computing Tutorial " Livermore Computing Center. https://hpc.llnl.gov/training/tutorials/introduction-parallel-computing-tutorial (accessed 2021).
[22] "MVAPICH: MPI over InfiniBand, Omni-Path, Ethernet/iWARP, and RoCE." Network-Based Computing Laboratory. https://mvapich.cse.ohio-state.edu/ (accessed.
[23] "OpenMP 5.0 API Reference Guide," 2019.
[24] "KOKKOS package." Sandia Corporation. https://lammps.sandia.gov/doc/Speed_kokkos.html (accessed 2021).
[25] C. Kessler and J. Keller, "Models for parallel computing: Review and perspectives," Mitteilungen-Gesellschaft für Informatik eV, Parallel-Algorithmen und Rechnerstrukturen, vol. 24, pp. 13-29, 2007.
[26] "The OmpSs Programming Model." 2021 Programming Models Group BSC. https://pm.bsc.es/ompss (accessed April, 2021).
[27] V. K. Pallipuram, M. Bhuiyan, and M. C. Smith, "A comparative study of GPU programming models and architectures using neural networks," The Journal of Supercomputing, vol. 61, no. 3, pp. 673-718, 2012.
[28] "The OpenCL Specification," 2020. [Online]. Available: https://www.khronos.org/registry/OpenCL/specs/3.0-unified/pdf/OpenCL_API.pdf
[29] "rCUDA v20.07 alpha User’s Guide," 2020.
[30] T. K. S. W. Group, "SYCL 2020 Specification (revision 3)," 2020.
[31] "SkePU Autotunable Multi-Backend Skeleton Programming Framework for Multicore CPU and Multi-GPU Systems." https://skepu.github.io/ (accessed 2021).
[32] J. Szuppe, "Boost. Compute: A parallel computing library for C++ based on OpenCL," in Proceedings of the 4th International Workshop on OpenCL, 2016, pp. 1-39.
[33] "WHAT IS HDF5?" https://support.hdfgroup.org/HDF5/whatishdf5.html (accessed 2021).
[34] "HDF5, the new ICM+ data format." University of Cambridge. https://icmplus.neurosurg.cam.ac.uk/home/icm-features/hdf5-new-icm-data-format/ (accessed 2021).
[35] "PnetCDF." Center Of Ultra-Scale Computing and Information Security. http://cucis.ece.northwestern.edu/projects/PnetCDF/ (accessed 2021).
[36] T. Grass et al., "MUSA: a multi-level simulation approach for next-generation HPC machines," in SC'16: Proceedings of the International Conference for High Performance Computing, Networking, Storage and Analysis, 2016: IEEE, pp. 526-537.
[37] M. Radulovic, R. Sánchez Verdejo, P. Carpenter, P. Radojković, B. Jacob, and E. Ayguadé, "PROFET: modeling system performance and energy without simulating the CPU," Proceedings of the ACM on Measurement and Analysis of Computing Systems, vol. 3, no. 2, pp. 1-33, 2019.
[38] "Extra-P." https://www.scalasca.org/scalasca/software/extra-p/download.html (accessed 2021).
[39] "Dimemas: predict parallel performance using a single cpu machine." BSC. https://tools.bsc.es/dimemas (accessed 2021).
[40] "Paraver: a flexible performance analysis tool." BSC. https://tools.bsc.es/paraver (accessed 2021).
[41] R. Farber, "AI-HPC is Happening Now," 5082598570, 2017.
[42] M. Savonin. "How to Leverage High Performance Computing (HPC) for AI." (accessed.
[43] V. Lee, "Progress in HPC + AI Convergence High performance Computing ( HPC )."
[44] S. Conway, A. Norton, B. Sorensen, and E. Joseph, "Technology Spotlight The Future of HPC Cloud Computing Sponsored by Google," 2019.
[45] T. Vopham, J. E. Hart, F. Laden, and Y. Y. Chiang, "Emerging trends in geospatial artificial intelligence (geoAI): Potential applications for environmental epidemiology," Environmental Health: A Global Access Science Source, vol. 17, pp. 1-6, 2018, doi: 10.1186/s12940-018-0386-x.
[46] Y. Fan, Z. Lan, T. Childers, P. Rich, W. Allcock, and M. E. Papka, "Deep Reinforcement Agent for Scheduling in HPC," arXiv preprint arXiv:2102.06243, 2021.
[47] J. Bang et al., "HPC Workload Characterization Using Feature Selection and Clustering," presented at the Proceedings of the 3rd International Workshop on Systems and Network Telemetry and Analytics, 2020.
[48] Y. Liu et al., "GPTune: Multitask learning for autotuning exascale applications," presented at the Proceedings of the ACM SIGPLAN Symposium on Principles and Practice of Parallel Programming, PPOPP, 2021.
[49] G. Batra, Z. Jacobson, S. Madhav, A. Queirolo, and N. Santhanam, "Artificial-intelligence hardware: New opportunities for semiconductor companies," McKinsey & Company, New York, NY, USA, Tech. Rep, 2018.
[50] A. Rodriguez. "Lowering Numerical Precision to Increase Deep Learning Performance." https://www.intel.com/content/www/us/en/artificial-intelligence/posts/lowering-numerical-precision-increase-deep-learning-performance.html (accessed.
[51] C. Y. A. C. Zhang Kai. "The Development Trends of Six Major Container Technologies in 2021." https://www.alibabacloud.com/blog/the-development-trends-of-six-major-containertechnologies-in-2021_597227 (accessed.
[52] E. Hsu, "Cloud Adoption is Driving HPC Toward Digital R&D," 2021. [Online]. Available: http://www.bigcompute.org/blog/state-of-cloud-hpc
[53] "Google Cloud Announces ‘Pre-Tuned’ HPC VM Images." https://www.hpcwire.com/off-the-wire/google-cloud-announces-pre-tuned-hpc-vmimages (accessed.

نص كامل:

الگوي تهيه مقالات

دو فصلنامه علمي

فناوري اطلاعات و ارتباطات ایران

سال چهاردهم، شمارههای ‌51 و 52 ، بهار و تابستان 1401

صص: 209_230

$E:\E Drive\logo\iicta Logo0.JPG$

رایانش با کارایی بالا: الزامات، نیازمندی‏های نسل‏های آتی و محورهای تحقیقاتی

احسان آریانیان* محمد مهدی اثنی‏عشری** فاطمه احسانی بشلی** شقایق سادات حسینی بیان*** مسعود ده‏یادگاری** بهنام صمدی**

*گروه سکوهای فناوری اطلاعات، پژوهشکده فناوری اطلاعات، پژوهشگاه ارتباطات و فناوری اطلاعات

**دانشکده مهندسی کامپیوتر، دانشگاه صنعتی خواجه نصیرالدین طوسی، تهران

*** دانشکده مهندسی کامپیوتر، دانشگاه خوارزمی

تاریخ دریافت: 29/03/1400 تاریخ پذیرش: 10/09/1400

نوع مقاله: مروری

چكیده

واژگان کلیدی: رایانش با کارایی بالا، محاسبات Exascale، آینده پژوهی، معماری‏های سخت‏افزاری، معماری‏های نرم‏افزاری

1. مقدمه

رایانش با کارایی بالا، به سرعت در حال گسترش در سطح جهان است و بسیاری از کشورهای پیشرفته و نیز در حال پیشرفت،

نویسنده مسئول: احسان آریانیان ehsan_arianyan@itrc.ac.ir

سرمایه‏گذاری‏های کلانی را در این راستا آغاز نموده‏اند تا بتوانند در جمع دارندگان ابررایانه‏های قدرتمند باشند. کشور ما نیز از حدود

اوایل دهه ۱۳۸۰ به صورت کاملاً جدی درگیر ساخت ابررایانه‏ها بوده است و موفقیت‏های چشم‏گیری نیز تا کنون در این زمینه کسب کرده است . آخرین نمونه از این موفقیت‏ها و دستاوردها، راه‏اندازی ابررایانه سیمرغ بوده است که با سرمایه‏گذاری مشترک و همکاری وزارت ارتباطات و فناوری اطلاعات، وزارت علوم، تحقیقات و فناوری، پژوهشگاه فناوری ارتباطات و اطلاعات و دانشگاه صنعتی

امیرکبیر راه‏اندازی شده و توان پردازشی TFLOPS500 دارد.

رقابت بسیار شدیدی در این حوزه بین کشورهای مختلف وجود دارد که جایگاه مناسبی را در صدر فهرست ¹Top500 ابررایانه‏های جهان به خود اختصاص دهند. در این راستا، برنامه‏های آینده‏پژوهانه متعددی در آمریکا²، اتحادیه اروپا³، ترکیه⁴، عربستان⁵، چین⁶ و بسیاری از کشورهای دیگر اجرا شده است، چرا که فناوری در این حوزه به شدت در حال پیشرفت است و عدم همسویی با این پیشرفت‏ها، می‏تواند به سرعت جایگاه یک کشور را در سطح جهان تغییر دهد.

بر این مبنا، در این مقاله سعی کرده‏ایم با نگاهی به آینده حوزه رایانش با کارایی بالا در سطح جهان، فناوری‏های سخت‏افزاری و نرم‏افزاری مورد نیاز برای رسیدن به توان پردازشی Exascale را مرور نماییم و الزامات و نیازمندی‏های آنها را تبیین نماییم. همچنین، موضوعات تحقیقاتی مطرح در این زمینه را بررسی کرده و مشخص نموده‏ایم که کدام موضوعات بیشتر مورد توجه هستند. این اطلاعات می‏تواند به سیاست‏گذاران، فعالین و محققین این حوزه در سطح کشور کمک کند که بتوانند مسیر درستی را جهت اقدامات آتی خود انتخاب نموده و گام‏های معقولی را در این زمینه بردارند، به نحوی که در نهایت منجر به نقش‏آفرینی هرچه موثرتر ایران در سطح جهان در این حوزه گردد.

ادامه این مقاله به این شکل سازماندهی شده است. در بخش دوم، در خصوص فناوری‏ها و نیازمندی‏های سخت‏افزاری نسل‏های آتی رایانش با کارایی بالا پرداخته شده است. بخش سوم، معماری‏ها و سامانه‏های نرم‏افزاری مرتبط را مورد توجه قرار داده است. بخش‏های چهارم و پنجم به معرفی تأثیرات متقابل یادگیری ماشین و رایانش ابری بر آینده رایانش با کارایی بالا اختصاص یافته است. این دو فناوری در شکل‏دهی به آینده رایانش با کارایی بالا اهمیت بسزایی دارند و از این رو مورد توجه ویژه قرار گرفته‏اند. بخش ششم به معرفی محورها و موضوعات تحقیقاتی مطرح در این حوزه می‏پردازد. در نهایت، بخش هفتم جمع‏بندی مقاله خواهد بود.

2. معماری‏های سخت‏افزاری

2_1 مقدمه

با بزرگ شدن ابعاد مسئله‌های پیش رو به لحاظ پیچیدگی محاسباتی و حجم داده‌های مورد نیاز برای پردازش و نیاز به شبیه‌سازی‌های با دقت بسیار بالا در حوزه‌های مختلفی چون علوم، مهندسی و تجارت، گستره‌ای از تلاش‌ها در جهت تجمیع توان محاسباتی در اختیار و ایجاد سیستم‌های با توان محاسباتی بالاتر از کامپیوترهای شخصی برای حل مسائل بزرگ مطرح شده و در حال پیگیری است که مجموعه‌ی فعالیت‌های در این حوزه تحت عنوان رایانش با کارایی بالا شناخته می‌شود⁷.

یکی از شناخته‌شده‌ترین انواع راه حل‌های رایانش با کارایی بالا، ابررایانه است. ابررایانه‌ها، آخرین فناوری مبتنی بر سیستم‌های محاسباتی بزرگ هستند که قادرند پروژه‌ها یا برنامه‌های عظیمی را اجرا کنند که بر روی سیستم‌های رایج قابل‌اجرا نیستند. یک ابررايانه شامل هزاران گره محاسباتی است که با هم کار می‌کنند تا یک یا چند کار را انجام دهند و با ترکیب قدرت محاسباتی، سرعت پردازش را برای انجام رایانش با کارایی بالا افزایش می‌دهند. عملکرد یک ابررايانه معمولاً برحسب تعداد عملیات نقطه شناور در ثانیه (FLOPS) به جای تعداد میلیون دستور در ثانیه (MIPS) اندازه‌گیری می‌شود. راه حل‌های رایانش با کارایی بالا دارای سه جز اصلی هستند: محاسبات، شبکه و ذخیره‌سازی [1].

2_2 راه حل‌های رایانش با کارایی بالا در محاسبات

در چند سال گذشته، کلاس جدیدی از سیستم‌های رایانش با کارایی بالا ظهور کرده است. این سیستم‌ها برای محاسبات سنگین از معماری‌های نامتعارف پردازنده استفاده می‌کنند و بیشتر از واحدهای پردازش مرکزی (CPU) برای کارهای غیرمحاسباتی مانند ورودی و خروجی و ارتباطات استفاده می‌کنند. نمونه‌های برجسته این سیستم‌ها شامل Cell-based Roadrunner محصول آزمایشگاه ملی لوس آلاموس و خوشه ATI GPU-based Tianhe-1 محصول دانشگاه ملی فناوری دفاعی چین است [2].

2_2_1 واحد پردازش مرکزی

چندین سال است که انتخاب پردازنده‌های موجود برای رایانش با کارایی بالا از اهمیت زیادی برخوردار است. برای این نوع پردازش کمتر از سه نوع عمده وجود دارد که شامل معماری‌های X86، Arm و Power می‌باشد. امروزه اکثر قریب به اتفاق سیستم‌های رایانش با کارایی بالا، از پردازنده‌های اینتل و گاهی اوقات از پردازنده‌های گرافیکی Nvidia تغذیه می‌شوند.

در عمل، نسل دوم پردازنده‌های Epyc، معروف به "Rome"، بخش قابل توجهی از سهم بازار اینتل را در فضای سرور، هم در رایانش با کارایی بالا و هم در سایر نقاط مصرف خواهند کرد. انتظار می‌رود، پردازنده‌های جدید Xeon (SP Xeons های 14 نانومتری "Cooper Lake") و به ویژه Xeon SP های 10 نانومتری "Ice Lake") بتوانند تا حدی این آسیب به بازار اینتل را کاهش دهند. استفاده از معماری Arm نیز به آرامی به رایانش با کارایی بالا رسیده است که نقطه قوت آن این است که IP آن قابل صدور است و بنابراین، این معماری می‌تواند پایه و اساس تعداد زیادی پردازنده‌های سفارشی باشد. Hyperion Research که مدتی است فروش Arm را در HPC ردیابی می‌کند، 64.7 درصد نرخ رشد مرکب سالانه⁸ درآمد پردازنده Arm را در این فضا طی 5 سال آینده پیش‌بینی می‌کند و انتظار دارد تا سال 2024، فروش تراشه‌‌های Arm مخصوص دستگاه‌های HPC به بیش از 610،000 برسد [3].

2_2_2 شتاب دهنده‌های همه‌منظوره

شتاب دهنده‌ها اجزای محاسباتی حاوی واحدهای عملیاتی همراه با سیستم‌های حافظه و کنترل هستند که می‌توانند به راحتی به رایانه‌ها اضافه شوند تا بخش‌هایی از برنامه‌ها را تسریع کنند. دلیل اصلی استفاده از شتاب دهنده‌ها به دلیل نیاز به افزایش کارایی برنامه در جهت کاهش زمان محاسبه و یا افزایش اندازه مسئله‌ای است [2].

اصطلاح GPU computing به معنی استفاده از GPU (واحد پردازش گرافیک) به‌عنوان پردازنده مشترک برای تسریع پردازنده‌های مرکزی برای محاسبات علمی و مهندسی است. از آنجا که هر روز نیاز به قدرت محاسبات توسط GPU بیشتر می‌شود، محققان بیشتری سعی می‌کنند از پردازنده‌های مختلف رایانش با کارایی بالا و پردازنده‌های گرافیکی عمومی (GPGPU) برای بهبود عملکرد کد خود استفاده کنند. GPU با بارگیری برخی از قسمت‌های محاسباتی و وقت‌گیر کد، برنامه‌های در حال اجرا روی CPU را تسریع می‌کند. بقیه برنامه‌ها هنوز روی CPU اجرا می‌شوند. از دید کاربر، برنامه سریع‌تر اجرا می‌شود زیرا از قدرت پردازش کاملاً موازی GPU برای افزایش عملکرد استفاده می‌کند. این به‌عنوان محاسبات "ناهمگن " یا "ترکیبی" شناخته می‌شود.

پردازنده مرکزی از چهار تا هشت هسته پردازنده تشکیل شده است، در حالی که GPU از صدها هسته کوچک‌تر تشکیل شده است. آنها با هم کار می‌کنند تا داده‌های موجود در برنامه را خرد کنند. این معماری کاملاً موازی همان چیزی است که به پردازنده گرافیکی عملکرد بالایی را ارائه می‌دهد. تعدادی از برنامه‌های شتاب‌دهنده GPU وجود دارد که راهی آسان برای دستیابی به رایانش با کارایی بالا ارائه می‌دهند. NVIDIA پیشگام محاسبات توسط شتاب‌دهنده با GPGPU های خود بوده است. در گذشته، عملکرد GPU با اتصال PCIe محدود شده بود. امروزه، معماری Pascal شرکت NVIDIA از SMX2 استفاده می‌کند که اتصال NVLink را برای پهنای باند دوطرفه پرسرعت که پنج برابر سریعتر از PCIe است، امکان‌پذیر می‌کند [4].

توسعه دهندگان نرم‌افزار با استفاده از یک پلتفرم برنامه‌نویسی موازی طراحی شده توسط NVIDIA به نام "CUDA"، عملکرد معماری GPU موازی را کنترل می‌کنند. این پلتفرم با استفاده از OpenCL (آخرین نسخه‌ی آن OpenCL 3.0 است که در سپتامبر 2020 منتشر شد) به‌عنوان یک استاندارد باز، گسترده‌ترین مدل برنامه‌نویسی برای محاسبات GPU است. پردازنده‌های گرافیکی Tesla به‌عنوان شتاب‌دهنده‌های محاسباتی یا کمک پردازنده‌های بهینه‌شده برای کاربردهای محاسبات علمی و فنی طراحی شده‌اند. آخرین پردازنده‌های گرافیکی سری 20 تسلا بر اساس آخرین پیاده‌سازی‌های پلتفرم CUDA موسوم به "Fermi architecture" ساخته شده‌اند [5,6].

امروز AMD با رونمایی از AMD Instinct MI100 سریع‌ترین پردازنده گرافیکی رایانش با کارایی بالا، گام بزرگی به سمت محاسبات پردازش سریع برمی دارد که به‌طور ویژه برای بارهای مورد نیاز در محاسبات علمی، هدف گذاری شده است. شتاب‌دهنده جدید AMD Instinct MI100، سریع‌ترین HPC GPU جهان و اولین GPU سرور x86 است که از سد TFLOPS 10 (FP64)پیشی گرفته است. MI100، همراه با پردازنده‌های AMD EPYC و بستر نرم‌افزاری باز ROCm 4.0، با پشتیبانی از پلتفرم‌های جدید محاسباتی تسریع‌شده از شرکت‌هايDell ،GIGABYTE ، HPE و Supermicro، برای پیشبرد اکتشافات جدید قبل از عصر Exascale طراحی شده است.

پردازنده گرافیکی AMD Instinct MI100 که بر اساس معماری جدید AMD CDNA ساخته شده است، در صورت جفت شدن با نسل دوم پردازنده‌های AMD EPYC، کلاس جدیدی از سیستم‌های شتاب‌دهنده را برای رایانش با کارایی بالا و AI امکان‌پذیر می‌کند. MI100 حداکثر عملکرد TFLOPS 11.5 با دقت FP64 و حداکثر عملکرد TFLOPS 46.1 با دقت FP32 برای بارهای محاسباتی در هوش مصنوعی و یادگیری ماشین ارائه می‌دهد. MI100 با استفاده از فناوری جدید AMD Matrix Core، در مقایسه با شتاب دهنده‌های نسل قبلی AMD، تقریباً 7 برابر افزایش در عملکرد حداکثری محاسبات نقطه شناور FP16 برای بارهای آموزشی AI فراهم می‌کند [7].

2_2_3 شتاب‌دهنده‌های خاص‌منظوره

ASIC⁹ (مدار مجتمع خاص‌منظوره) یک مدار مجتمع است که برای استفاده خاص تنظیم‌شده‌است، و نه برای استفاده عمومی مانند CPU. مدارات مجتمع خاص‌منظوره از GPU ها اختصاصی‌تر هستند، زیرا GPU هنوز یک پردازنده کاملاً موازی با هزاران واحد محاسباتی است که قادر به اجرای الگوریتم‌های مختلف است، در حالی که ASIC پردازنده‌ای است که برای انجام یک سری محاسبات بسیار کوچک (مثلاً فقط ضرب ماتریسی) طراحی شده است اما بسیار خوب انجام می‌شود. در حال حاضر حرکت‌های زیادی به سمت ASIC انجام شده است و نام‌های مختلفی برای این پردازنده‌ها وجود دارد: NPU¹⁰، XPU، TPU، IPU که به نظر می‌رسد IPU¹¹ و TPU مشهورترین نمونه‌های ASIC در حوزه‌ی رایانش با کارایی بالا باشند. به‌طور کلی، به نظر می‌رسد که کاهش تدریجی قانون مور¹² منجر به دامنه وسیع‌تری از کاربرد شتاب دهنده‌ها یا فناوری‌های نسبت به آنچه در سه دهه گذشته دیده‌ایم، می‌شود [8].

شکل 1. نمودار پيچيدگي نرم‌افزاری و سخت افزاري ابررايانه‌ها [8]

2_2_3_1 شتاب دهنده‌های Graphcore IPU

مدل‌های دانشی که می‌خواهیم در سیستم‌های هوش ماشین ایجاد و دستکاری کنیم، به‌طور طبیعی به‌صورت گراف بیان می‌شوند که در آنها رأس‌ها ویژگی‌های داده را نشان می‌دهند و لبه‌ها همبستگی یا علل بین ویژگی‌های متصل را نشان می‌دهند. همه چارچوب‌های اصلی یادگیری ماشین مانند Tensorflow ، MXnet ، Caffe و غیره از گراف‌ها به‌عنوان ساختار اصلی داده‌ها استقبال کرده‌اند. این گراف‌ها موازی سازی زیادی را در داده‌ها و محاسبات نشان می‌دهد که می‌تواند توسط یک پردازنده کاملاً موازی و مخصوص پردازش گراف مورد بهره برداری قرار گیرد.

آخرین فناوری شرکت نیمه‌هاديGraphcores ، واحد پردازش هوشمند یا IPU است که یک پردازنده‌ی کاملاً موازی برای تسریع در عملیات هوش مصنوعی است. یک هسته اصلی و جدید برای زیرساخت‌های هوش مصنوعی، IPU-M2000 است که توسط چهار پردازنده IPU نسل دوم به نام Colossus Mk2 GC200، ساخته شده‌است. این هسته، محاسبات هوش مصنوعی با سرعت 1PetaFlops با دقت مختلط، حداکثر 450 گیگابایت حافظه تبادل¹³ (DRAM بیرون تراشه) و 2.8 ترابایت در ثانیه IPU-Fabric برای ارتباط با تأخیر فوق العاده کم را در یک تیغه باریک 1U¹⁴ پوشش می‌دهد تا بیشترین میزان بارهای هوش ماشین را برطرف کند. همچنین IPU-M2000 دارای طراحی پیمانه‏ای و انعطاف پذیر است و به کاربر این امکان را می‌دهد تا با یک واحد شروع کند و مقیاس آن را به هزاران برساند. ظرفیت مقیاس سازی با فناوری اتصال بی نظیر IPU-Fabric تکمیل می‌شود. IPU-Fabric یک فناوری شبکه AI ویژه برای سیستم‌های IPU-M2000 و IPU-POD است که در نهایت سرعت پردازش حجم کار هوش مصنوعی را تسریع می‌کند. IPU-Fabric با پوشش ارتباط درون و بین رک‌ها، ضمن مقیاس دهی هزار IPU، تاخیر ارتباطی را با استفاده از توپولوژی 3D ring نزدیک به ثابت حفظ می‌کند [9].

سیستم‌های IPU برای مراکز داده مجازی طراحی شده‌اند. آنها تخصیص و تأمین منابع سخت افزاری مجازی شده را با استفاده از ابزارهای استاندارد صنعتی مانند Docker و Kubernetes ارائه می‌دهند [10].

2_2_3_2 واحد پردازش تنسور Google TPU

واحد پردازش تنسور¹⁵ (TPU) یک مدار مجتمع با کاربرد خاص(ASIC) است که توسط گوگل به‌طور خاص با هدف تسریع در محاسبات شبکه‌های عصبی، توسعه یافته است. این تراشه به‌طور خاص برای چارچوب TensorFlow Google طراحی شده است.

در مقایسه با واحد پردازش گرافیک، TPU برای حجم بالایی از محاسبات با دقت کم (مثلاً با دقت 8 بیت) [11] و با عملیات ورودی/خروجی بیشتر در هر ژول¹⁶ طراحی شده‌است.

انواع مختلف پردازنده‌ها برای انواع مختلف مدل‌های یادگیری ماشین مناسب هستند، TPU ها برای CNN مناسب هستند در حالی که GPU ها برای برخی شبکه‌های عصبی کاملاً متصل مزیت‌هایی دارند و CPU ها می‌توانند مزایایی برای شبکه‌های RNN داشته باشند [12].

Google از طریق سرویس Cloud TPU خود که بخشی از بستر Google Cloud Platform است و همچنین از طریق سرویس مبتنی بر نوت بوک Kaggle، امکان دسترسی اشخاص ثالث به TPU را میسر کرده است.

در مرکز داده Google، دستگاه‌های TPU با پیکربندی‌های زیر برای TPU v2 و TPU v3 در دسترس هستند. تک دستگاه‌های TPU که از طریق یک شبکه اختصاصی با سرعت بالا به یکدیگر متصل هستند و TPU Podها که ابررايانه‌هایی از دستگاه‌های TPU هستند که از طریق شبکه‌های اختصاصی پرسرعت به یکدیگر متصل می‌شوند. در جدول 1 نسل‌های 2 و 3 TPU با یکدیگر مقایسه شده‌اند.

2_3 راه حل‌های رایانش با کارایی بالا در شبکه‌سازی

برای ساخت یک معماری رایانش با کارایی بالا، سرورهای محاسبات به‌صورت خوشه‌ای با هم شبکه می‌شوند. برنامه‌ها و الگوریتم‌های نرم‌افزاری به‌طور همزمان روی سرورهای موجود در خوشه اجرا می‌شوند. این خوشه برای ذخیره خروجی به شبکه ذخیره‌سازی داده متصل است. این اجزا با هم یکپارچه عمل می‌کنند تا مجموعه متنوعی از وظایف را انجام دهند.

جدول 1. مقایسه نسل‏های مختلف TPU [13,14]

ویژگی	TPUv2	TPUv3
تعداد هسته در هر تراشه	2	2
تعداد تراشه در هر کارت	4	4
تعداد کارت در هر قفسه	4	2
تعداد قفسه در هر رک	8	16
تعداد رک در هر پاد	4	8
تعداد تراشه در هر پاد	256	1024
نرخ کلاک (MHz)	700	940
حافظه HBM در هر تراشه (GB)	16	32
حافظه HBM در هر کارت (GB)	64	128
توان مصرفی در هر تراشه (W)	280	450
فناوری ساخت	کمتر ازnm12	کمتر ازnm12
حداکثر کارایی در هر تراشه (PFLOPS)	(16بیت) 46 (32بیت) 3	(16 بیت) 123 (32 بیت) 4
حداکثر کارایی در هر پاد (PFLOPS)	11.8	126

برای کار با حداکثر عملکرد، هر یک از اجزا باید با سایر قطعات همگام باشد. به عنوان مثال، مؤلفه ذخیره‌سازی باید بتواند همگام با سرعت پردازش داده‌ها، آن‌ها را از سرورهای محاسباتی خوانده و یا ذخیره کند. به همین ترتیب، اجزای شبکه باید بتوانند از انتقال سریع داده‌ها بین سرورهای محاسباتی و ذخیره اطلاعات پشتیبانی کنند. اگر یک جز نتواند با مابقی هماهنگ شود، عملکرد کل زیرساخت رایانش با کاریی بالا آسیب می‌بیند [1].

اتصالات پرسرعت در رایانش با کارایی بالا را می‌توان تقریبا به دو دسته‌ی تقسیم کرد: اتصالات میان‌گره‌ای (اتصالاتی که بین گره‌های محاسباتی استفاده می‌شود) و اتصالات درون‌گره‌ای (اتصالاتی که در داخل هر گره محاسبه استفاده می‌شود) [15].

2_3_ 1 اتصالات میان‌گره‌ای

شبکه‌های میان‌گره‌ای یک نیاز اساسی برای اتصال گره‌ها به منظور تشکیل یک سیستم مستقل و بزرگ هستند. تاکنون، برای سیستم‌های مقیاس متوسط و بزرگ، اتصال میان‌گره‌ای معمولاً به دو بخش اتصالات میان‏گره‏ای برای انتقال ترافیک کاربر و اتصالات میان‏گره‏ای برای انتقال اطلاعات مدیریتی تقسیم شده است. این تمایز عموماْ به دلایل امنیتی انجام می‌شود. بسیاری از شبکه‌هایی که در حال حاضر مورد استفاده قرار می‌گیرند، شبکه‌های مبتنی بر سوئیچ هستند که در توپولوژی‌های مختلف مستقر شده‌اند تا پهنای باند کلی را بهینه کنند و تأخیر را پایین نگه دارند. برخی از اتصالات میان‌گره‌ای پرسرعت در رایانش با کارایی بالا عبارتند از: Ethernet، ROCE، InfiniBand، Omni-Path، Bull eXascale، Slingshot و...

از میان موارد فوق، اترنت (Ethernet) به عنوان یکی از مهم‌ترین اتصالات میان‌گره‏ای است که به صورت گستردهای در ابررایانهها مورد استفاده قرار میگیرد. اترنت 200 و 400 گیگابیتی در پایان سال 2017 به‌عنوان یک استاندارد تصویب شده است و محصولات آن در حال حاضر در دسترس هستند. به عنوان مثال Mellanox هم کارتهای شبکه 200 گیگابیت بر ثانیه و هم سوئیچ‌های 400 گیگابیت بر ثانیه را در دسترس قرار داده است. دو نرخی که به احتمال زیاد به‌عنوان نرخ‌های بعدی تعیین می‌شوند، 800 گیگابیت بر ثانیه و 1.6 ترابیت بر ثانیه است. در حال حاضر، هنوز هیچ استانداردی وجود ندارد که بتواند یک ترابیت بر ثانیه را از طریق اترنت فقط با یک کابل نوری (یا طول موج) فعال کند. اما وعده رسیدن به ترابیت اترنت نزدیک‌تر از آن است که به نظر می‌رسد. ائتلاف اترنت 2020 پیش بینی می‌کند که سرعت‌های 800 گیگابیت بر ثانیه و 1.6 ترابیت در ثانیه احتمالاً بین 2023 تا 2025، به استاندارد IEEE تبدیل شوند [16].

ماژول‌های نوری احتمالاً یکی از مهم‌ترین اجزای فناوری ترابیت اترنت هستند، به ویژه فرستنده و گیرنده‌های مهمی مانندQSFP28 ،QSFP-DD ، OSFP و CFP8. این ماژول‌های کوچک، قابل اتصال، کم مصرف و سازگار با فروشندگان مختلف هستند. امروزه، ماژول فرستنده/ گیرنده‌ی نوری QSFP28 به‌طور گسترده‌ای مورد استفاده قرار می‌گیرد. تجهیزات شبکه که از 100 گیگابایت پشتیبانی می‌کنند اغلب با QSFP28 همراه هستند. به ویژه QSFP-DD دارای یک ماژول نوری جدید است که با مدولاسیون PAM4 بر روی فیبر نوری کار می‌کند. این ماژول قادر به پشتیبانی از 200 گیگابیت بر ثانیه و حتی 400 گیگابیت بر ثانیه از پهنای باند کل است [17].

2_3_2 اتصالات درون‌گره‌ای

اتصال درون گره‌ای یکی از مهم‌ترین چالش‌های بهبود کارایی معماری‌های ناهمگن است. سرورهای مدرن شامل تعداد زیادی دستگاه مختلف است که نیاز به برقراری ارتباط با یکدیگر دارند. یک گره معمولی رایانش با کارایی بالا ممکن است شامل چندین پردازنده مرکزی (CPU)، پردازنده گرافیکی (GPU)، کارتهای شبکه (Network Adapter) و حافظه ذخیره‌سازی SSD (حافظه SSD) باشد که همه برای کارکرد آن باید به یکدیگر متصل شوند. یک سرور معمولی شامل چندین اتصال داخلی پر سرعت است. به عنوان مثال، گره‌ای با چندین CPU اینتل از UPI برای اتصال CPU ها به یکدیگر، از PCI-e برای اتصال حافظه، شبکه و GPU استفاده می‌کند، در حالی که از یک لینک پهنای باند بالا مانند NVIDIA NVLink، برای اتصال همه شتاب دهنده‌ها به یکدیگر استفاده می‌کند. برخی از اتصالات درون‌گره‌ای پرسرعت در رایانش با کارایی بالا عبارت‌اند از: PCI-e ، CXL¹⁷، CCIX¹⁸ ، UPI¹⁹/QPI²⁰، Infinity Fabric، CAPI/OpenCAPI²¹، NVLin، Gen-Z و...

PCI express (PCI-e) اصلی‌ترین گذرگاه داخلی است که امروزه برای اتصال دستگاه‌ها به پردازنده‌ها در داخل یک گره استفاده می‌شود. استاندارد PCI-e به‌سرعت در حال پیشرفت است. در حال حاضر صنعت به‌سرعت در حال انتقال به PCI-e Gen 4 با نرخ انتقال 16GT/s²² با توان نظری GT/s 31.5 برای درگاه 16x با همان رمزگذاری PCI-e Gen 3 است. در حال حاضر، کمپانی‌های AMD و IBM و Intel سرورهایی با PCI-e Gen 4 ارائه می‌دهند. مرحله تکاملی بعدی PCI-e Gen 5 است که نرخ انتقال نسبت به Gen 4 به دو برابر می‌شود و تقریباً 63 گیگابایت در ثانیه پهنای باند را از یک پورت 16x می‌گیرید. CPU و GPU های پشتیبانی کننده از PCI-e Gen 5 انتظار می‌رود بین سال‌های 2021 و 2022 باشند [17].

2_4 راه حل‌های رایانش با کارایی بالا در ذخیره‌سازی

حجم داده‌های در دسترس در مجموعه‌داده‌های در اختیار برای پردازش و به موازات آن کاربردهای دارای نیازمندی به پردازش سریع داده‌ها شدیداً در حال رشد هستند بنابراین عمليات ذخیره‌سازی در رایانش با کارایی بالا باید به گونه‌اي باشد که بتواند داده ها با سرعت نور پردازش شود تا بازده محاسبات در بالاترين سطح حفظ شود. داده هایی که باید از سیستم ذخیره‌سازی خوانده شوند و یا روی آن بنویسند، باید در حد اگزابایت (EB) باشد. سیستم ورودی و خروجی برای ذخیره‌سازی باید تا حد امکان از پردازنده مستقل باشند تا به محاسبات ارزشمندی که در حال انجام است وقفه‌اي وارد نشود. سیستم‌های ذخیره‌سازی رایانش با کارایی بالا اين امکان را به پردازنده‌ها مي‌دهند تا در حالی که سيستم در حال نوشتن و ياخواندن داده‌ها از روي ديسک است، به پردازش خود ادامه دهند. این مساله باید از امنیت داخلی بالایی برخوردار باشد، تحمل‌پذيري اشکال داشته باشد، به‌صورت پیمانه‏ای طراحی شده باشد و از همه مهمتر از نظر مقیاس به‌صورت یکپارچه باشد.

بیش از 50 درصد از معماری ذخیره‌سازی جهاني، Luster را که یک فایل‌سیستم موازی متن باز برای پشتیبانی از خوشه های رایانش با کارایی بالا است، ترجیح می دهند. اين فايل سيستم علاوه بر این، قابلیت های ذخیره‌سازی گسترده اطلاعات همراه با پیکربندی یکپارچه، مدیریت متمرکز، نصب ساده و مقیاس پذیری قدرتمندي را فراهم می کند [18].

Luster یک فايل‌سيستم موازی توزیع‌شده متن‌باز، تک فضاي نام جهانی²³ و سازگار با POSIX²⁴ است که به منظور مقیاس پذیری، عملکرد بالا و در دسترس بودن بالا طراحی شده است. Luster بر روی سیستم عامل های مبتنی بر Linux اجرا می‌شود و از معماری شبکه کلاينت-سرور استفاده می‌کند. فضای ذخیره‌سازی توسط مجموعه ای از سرورها فراهم می شود که می‌تواند به جمعيت‌هايي که تا چند صد میزبان دارند برسند. سرورهای لوستر فقط يک فايل‌سيستم، می‌توانند ده‌ها پتابایت فضای ذخیره‌سازی با بیش از یک ترابایت در ثانیه توان ترکیبی را در اختیار هزاران کلاينت محاسباتی قرار دهند [19].

Luster فایل‌سیستمی است که نیازهای برنامه‌هایی که بر روی طیف وسیعی از سیستم‌ها (از رایانش با کارایی بالا در مقیاس کوچک تا بزرگترین ابررايانه‌ها) اجرا می‌شوند را برآورده می‌کند و با استفاده از بلوک های سازنده‌ي ذخیره‌سازی مبتنی بر شی برای ایجاد مقیاس پذیری بیشتر ایجاد شده است.

یک راه حل بهینه براي ذخيره‌سازي در رایانش با کارایی بالا آن است که براساس نیازهای رایانش با کارایی بالا، مقیاس بندی شود. در حالت ایده‌آل، باید ترکیبی مناسب از اين دو مورد را داشته باشد: فضای ذخیره‌سازی سنتی (دیسک درایوها) و cloud ( SSD ها و HDD ها). عمليات ورودي/خروجي پیچیده و پرمصرف داده را می‌توان به SSD هدایت کرد، در حالی که جریان داده‌های معمول را می‌توان توسط دیسک درایوها اداره کرد. ترکیبی کارآمد از ابر هيبريدي، فضاي ذخیره‌‌سازی تعریف شده توسط نرم‌افزار و پیکربندی سخت‌افزار، در نهایت به کارايي مقیاس کمک می کند و نیاز به داشتن یک لایه ذخیره‌سازی جداگانه را از بين مي‌برد. همچنين، حافظه رایانش با کارایی بالا باید از طریق سیستم ورودی و خروجی پیچیده از فايل سيستم‌هاي موازی هم پشتیبانی کند.

3. معماری‏های نرم‏افزاری

3_1 مقدمه

گسترش و توسعه‏ی نرم افزارهای مختلف همگام با فناوری‏های سخت‌افزاری در روند توسعه‏ی رایانش با کارایی بالا از اهمیت بالایی برخوردار است. با توجه به پیشرفت و گسترش معماری‏ها و فناوری‏های سخت افزاری در راستای توسعه‏ی رایانش با کارایی بالا نیاز به گسترش و توسعه‏ی ابزارهای نرم‌افزاری متناسب با سخت‌افزار آن بیش از پیش وجود دارد. در این راستا بسیاری از سازمان‏ها و شرکت‏های توسعه دهنده‏ی مدل‏های برنامه نویسی و نرم‌افزار و ابزارهای توسعه‏ی رایانش با کارایی بالا،‏ اقدام به نوآوری و تولید و یا گسترش فناوری‏های موجود پرداخته‌اند. در بخش‏های بعدی بررسی بر روی مدل‏های برنامه نویسی موازی رو به رشد و نرم افزارها و ابزارهای توسعه یافته در حوزه‏های مختلف و فعالیت‏های نرم‌افزاری برخی مراکز فعال در این زمینه بررسی می‏شود.

3_2 فناوری‏های نرم‏افزاری

تعداد بسیاری از استراتژی‏ها، پلت فرم‏ها و کتابخانه ها در سال‏های اخیر ارائه شده‏اند که هیچ کدام از آن‏ها را نمی‏توان به عنوان یک راه حل کلی برای معماری‏های موازی در حال حاضر در نظر گرفت. در میان مدل‏های نرم افزاری مختلف، مدل‏هایی که در دو سال اخیر روند رو به رشدی داشته‌اند و سرعت بیشتری در گرایش به سمت رشد و به کارگیری در راستای رایانش با کارایی بالا داشته‌اند بر طبق گزارش [20] مورد بررسی قرار گرفته‌اند.

3_2_1 مدل‏ برنامه نویسی مبتنی بر پیغام/حافظه‏ی توزیع شده

مدل‏های برنامه نویسی مبتنی بر پیغام مدل‏هایی هستند که پردازش‏ها از حافظه‏ی محلی خود در طول محاسبات استفاده می‏کنند. پردازش‏ها می‏توانند در یک ماشین و یا در میان تعداد دلخواهی از ماشین‏ها اجرا شوند. پردازش‏های موازی داده را از طریق انتقال پیام بین یکدیگر انجام می‏دهند. این ارتباطات می‏توانند به طور غیرهمزمان (زمانی که پیام می‏تواند قبل از اینکه دریافت کننده آماده باشد ارسال شود.) و یا همزمان (زمانی که دریافت کننده باید آماده باشد.) باشند. در ادامه مهم‏ترین و شناخته شده ترین مدل برنامه نویسی بر این مبنا معرفی می‏شود [21].

3_2_1_1 رابط انتقال پیام²⁵

سیستم رابط انتقال پیام MPI یک استاندارد مشخص و قابل حمل است که به منظور به کار بردن در معماری‏های محاسباتی موازی مختلف استفاده می‏شود. این استاندارد مفاهیم و سینتکس‏های مجموعه‏ای از کتابخانه‏های معمول را برای استفاده در محدوده‏ی گسترده‏ای از کاربردها برای برنامه-های قابل حمل ارسال پیام در C++ ,C و Fortran تعریف می-کند. سیستم‏های رابط انتقال پیام برای ماشین‏های پردازش انبوه استفاده می‏شود. چندین پیاده‏سازی کارآمد و آزمایش‏شده برای MPI وجود دارد که بسیاری از آن‏ها منبع باز و در دامنه‏های عمومی در اختیار گرفته‏اند. MPI یک پروتکل ارتباطی برای برنامه‏نویسی کامپیوترهای موازی است که هم ارتباط نقطه به نقطه و هم ارتباط جمعی را پشتیبانی می‏کند. استاندارد MPI تا کنون در سه نسخه‏ی MPI-1 و MPI-2 و MPI-3 معرفی شده است که MP-1محتوایی برای حافظه‏ی اشتراکی نداشت و MPI-2 تنها محتوای محدودی برای حافظه‏ی اشتراکی توزیع-شده داشت. برنامه نویسی قطعی حافظه اشتراکی در MPI-3 به طور کامل معرفی شده‌است. اکثر پیاده‌سازی‏های MPI شامل مجموعه‏ی مشخصی از روال‏ها هستند که به طور مستقیم در C ,C++ و Fortran و هر زبان دیگری که بتواند رابط با این کتابخانه‏ها داشته باشد مانند C# ,Java و Python قابل اجرا هستند.

MVAPICH یک پیاده‏سازی متن باز از MPI می‏باشد که برای استفاده در رایانش با کارایی بالا از آن استفاده می‏شود. تا کنون حدود 1.2 میلیون بارگیری داشته است و تعداد سازمان-هایی که از آن استفاده کرده‏اند حدود 3125 سازمان می‏باشد. این پروژه توسط آزمایشگاه محاسبات مبتنی بر شبکه‏²⁶ی دانشگاه دولتی اوهایو هدایت می‏شود. این پیاده سازی که براساس استاندارد MPI 3.1 می‏باشد .بهترین عملکرد و قابلیت را برای سیستم‏های فوق سریع و سرورهایی که از فناوری-های شبکه‌ای InfinitBand,OmniPath,Ethernet/WARP,RoCE استفاده می‏کنند، دارد. همچنین آزمایشگاه محاسبات مبتنی بر شبکه یک نسخه‏ی جدید به نام MPI4cuML ارائه کرده است که برای پایتون 3.7 و یا کودا 10.1 یا 10.2 یا 11 ساخته شده است که یک پشتیبانی بهینه از وظایف یادگیری ماشین در سطح MPI ارائه کرده است که سیستم پیام جمعی مانند Allreduce را نیز پشتیبانی می‏کند [22].

3_2_2 مدل برنامه نویسی مبتنی بر حافظه‏ی اشتراکی

در مدل‏های برنامه نویسی مبتنی بر حافظه‏ی اشتراکی پردازش‏های موازی یک فضای آدرس عمومی که می‏توانند به طور غیرهمزمان به آن دسترسی داشته باشند به اشتراک می-گذارند. سازوکارهای بسیاری از جمله قفل‏ها²⁷ و سمافورها²⁸ برای کنترل دسترسی به حافظه‏ی اشتراکی و جلوگیری از ایجاد شرایط رقابتی و وقوع بن بست به کار می‏روند [21].

3_2_2_1 پردازش چندگانه‏ی باز²⁹ OpenMP

OpenMP یک رابط ساده و انعطاف پذیر برای توسعه‏ی برنامه نویسی موازی در C, C++ و Fortran است. ویژگی‏های OpenMP برای برنامه‏های کابردهای پیچیده‏ای که نیاز به الگوریتم‏های موازی سازی بی قاعده دارند استفاده می‏شوند. ویژگی‏های OpenMP راه به روزی برای ارائه‏ی همزمانی و موازی سازی است. آخرین نسخه‏ی منتشر شده‏ی آن در تاریخ 13 نوامبر 2020 انتشار یافته است. ویژگی بارز OpenMP که آن را در حوزه‏ی رایانش با کارایی بالا کارآمد می‏کند این است که از نسخه‏ی 4 که در جولای 2013 منتشر شد کار با شتاب دهنده ها را پشتیبانی می‏کند، و پس از آن در نسخه‏‏های 4.5 و 5 پشتیبانی از شتاب دهنده ی را به میزان قابل توجهی بهینه کرده است. در نسخه‏ی 4 و بعد از آن GPU و FPGA را پشتیبانی می‏کند [23].

3_2_2_2 Kokkos

یک مدل برنامه نویسی سطح بالا برای نوشتن برنامه‏‌های قابل حمل بر روی پلت فرم‏های رایانش با کارایی بالا است. کتابخانه‏ای است که از پیاده سازی ساده‏ی یک برنامه بر روی یک هسته تا اجرای کارآمد برروی انواع سخت افزارها مانند GPU و Intel Xeon Phis و CPUهای با چندین هسته را امکان پذیر می‏کند. Kokkos هسته‏ی C++ را به فناوری‏های برنامه نویسی مختلف از جمله CUDA ، OpenMP و یا PThreads نگاشت می‏کند. Kokkos همچنین شکل‏هایی از ساختار داده را برای تطبیق با لایه‏های حافظه مانند آرایه‏های دوبعدی و سه بعدی فراهم می‏کند که عملکرد را برروی سخت افزارهای مختلف بهینه می‏کند. در حال حاضر Kokkos از چهار حالت اجرایی پشتیبانی می‏کند که شامل حالت MPI-Only برای CPU و Intel Phi، OpenMP برای CPUهای با تعداد هسته‏ی بالا و Intel Phi، CUDA برای GPUهای NVIDIA و HIP برای GPUهای AMD است. حالت مورد نظر را می‏توان در زمان ساختن برای اجرای منطبق با سخت افزار مورد نظر اعمال کرد [24].

3_2_3 مدل برنامه نویسی مبتنی بر وظیفه

در مدل برنامه نویسی مبتنی بر وظیفه تمرکز بر روی پردازش‏ها است. این پردازش‏ها یا وظایف به صورت متمایز در نظر گرفته می‏شوند وظایف می‏توانند با یکدیگر ازتباط برقرار کنند، این ارتباط می‏تواند در طول اجرای وظایف باشد و یا به عنوان یک ورودی پیش نیاز در آغاز وظیفه و درنهایت ارسال نتیجه به وظیفه‏ی دیگر در پایان انجام آن باشد [25].

3_2_3_1 OmpSs

OmpSsیک مدل برنامه نویسی جهت موازی سازی غیرهمزمان بر اساس ساختار OpenMP و StarSs است. موازی سازی غیرهمزمان در OmpSs با استفاده از وابستگی داده بین وظایف مختلف برنامه امکان پذیر شده است. OmpSs2 یک مدل برنامه نویسی ترکیب شده از روال های کتابخانه ای است که می-تواند به منظور توسعه‏ی برنامه های کاربردی همزمان استفاده شود. OmpSs2 مدل وظیفه‏ی OmpSs/OpenMP است که پشتیبانی وظایف تو در تو و وابستگی های ریز در سطوح تودرتویی مختلف را حفظ می‏کند که موازی سازی موثر برنامه ها را با استفاده از روش بالا به پایین امکان پذیر می‏کند. هدف فراهم کردن یک محیط تولیدی برای توسعه‏ی برنامه-های کاربردی برای سیستم‏های مدرن رایانش با کارایی بالا است [26].

3_2_4 مدل برنامه نویسی ویژه‏‏ی GPU

در سال‏های اخیر GP-GPU³⁰ به عنوان یک فناوری رو به رشد برای سرعت بخشیدن توسعه‏ی الگویتم‏های پردازش موازی می‏باشد. بسیاری از معماری‏ها و مدل‏های برنامه نویسی بر مبنای GPU جایگاه مهمی در رایانش با کارایی بالا یافته‏اند. معرفی CUDA در سال 2006 توسط NVIDIA تحول بزرگی در محاسبات گرافیکی به وجود آورد و منجر به شبیه سازی بسیاری از الگوریتم‏های پردازش موازی شد. در پاسخ به توسعه‏ی مدل‏های برنامه نویسی ویژه‏ی GPU تولیدکنندگان GPU اقدام به افزایش هسته‏ها و قابلیت‏های محاسباتی شتاب دهنده‏های خود نمودند. اگرچه CUDA تنها به GPUهای NVIDIA اختصاص دارد، اما OpenCL مجموعه‏ی متنوعی از معماری‏های GPU تولیدکنندگان مختلف را پشتیبانی می‏کند [27].

3_2_4_1 زبان محاسبه‏ی باز³¹ OpenCL

OpenCL یک استاندارد متن باز و بدون حق امتیاز برای برنامه نویسی موازی بر روی شتاب دهنده‏های متنوع موجود در ابرکامپیوترها، سرورهای ابری است. OpenCL رابط برنامه نویسی کاربردی سطح پایین برای اجرای محاسبات ناهمگون برروی GPU های قدرت گرفته از CUDA است. OpenCL به طور قابل توجهی سرعت و پاسخ دهی طیف گسترده ای از برنامه‏های کاربردی را در طبقه بندی های متعدد شامل نرم افزارهای علمی و پزشکی، پردازش بینایی و آموزش و استنتاج شبکه‏های عصبی را بهبود می‏بخشد. تاریخ آخرین نسخه‏ی انتشار یافته‏ی آن OpenCL3.0.6 در تاریخ 30 سپتامبر 2020 است [28].

3_2_4_2 rCUDA

rCUDA و یا remoteCUDA یک فریم ورک نرم افزاری است که استفاده از سیستم‏های راه دور سازگار با CUDA را امکان پذیر می‏کند. به منظور امکان‏پذیر کردن کار با GPU از راه دور، این فریم ورک یک ابزار سازگار با CUDA بر روی ماشین‏های بدون GPU محلی ایجاد می‏کند. این ابزارهای مجازی، GPU فیزیکی که در یک میزبان از راه دور قرار دارند ارائه می‏کند. با استفاده از این تکنیک مجازی سازی GPU از راه دور rCUDA اجازه می‏دهد از هر گره در یک خوشه قابل دسترسی باشد. شکل 2 نمای منطقی از عملکرد rCUDA را نشان می‏دهد [29].

Graphical user interface, application

Description automatically generated

شکل 2. نمای منطقی از نحوه‏ی به کارگیری rCUDA در خوشه‏ها [29]

3_2_4_3 SYCL

یک مدل برنامه نویسی سطح بالا جهت پیاده سازی بر روی شتاب دهنده های سخت افزاری مختلف است. آخرین نسخه‏ی آن 9 فوریه‏ی 2021 منتشر شده‌است. SYCL با استفاده از C++ استاندارد، قابلیت کد نویسی برای پردازشگرهای ناهمگون را فراهم می‏کند. SYCL بر اساس استاندارد OpenCL نوشته شده است. SYCL می‏تواند در پردازشگرهای متنوع و بسیاری از مسائل در بسیاری از دامنه‏ها شامل رایانش با کارایی بالا، خودکارسازی و یادگیری ماشین به کار رود. از مهم‏ترین ویژگی‏های SYCL می‏توان به اجرای موازی برروی سیستم‏های ناهمگون به صورت بسیار انعطاف پذیر اشاره کرد که امکان اولویت بندی الگوهای موازی را نیز فراهم می‏کند [30].

3_2_5 مدل برنامه نویسی مبتنی بر برنامه نویسی اسکلتی³²

برنامه نویسی اسکلتی دارای رویکرد طراحی بالا به پایین است. ساختار عمومی برنامه نویسی اسکلتی برمبنای map ، reduce،farm scan ، pipeline است که می‏تواند پیاده سازی-های موثری برای سیستم‏های کامپیوتری ناهمگون توزیع شده و موازی داشته باشد. برنامه نویسی اسکلتی دارای پیاده سازی‏هایی است که جزئیات سطح پایین مانند موازی سازی، همزمانی، برقراری ارتباط، مدیریت حافظه، استفاده از شتاب دهنده‏ها و دیگر بهینه سازی‏ها را در قسمتی جدا از دید کاربر قرار می‏دهد.

3_2_5_1 SkePU

یک رویکرد برنامه نویسی سطح بالا براساس الگوریتم‏های اسکلتی است. برنامه نویسی اسکلتی دارای پیاده سازی‌هایی است که جزئیات سطح پایین مانند موازی سازی، همزمانی، برقراری ارتباط، مدیریت حافظه، استفاده از شتاب دهنده ها و دیگر بهینه سازی‌ها را در قسمتی جدا از دید کاربر قرار می-دهد. SkePUیک فریم ورک منبع باز برمبنای برنامه‌نویسی اسکلتی است برای CPUهای چند هسته‌ای و سیستم‏های دارای چند GPU است که اجرا CUDA با OpenCL و اجرا بر روی خوشه ها را پشتیبانی می‏کند [31].

3_2_6 مدل برنامه نویسی مبتنی container

containerها واحدهای استانداردی برای بسته بندی کردن برنامه‏های کاربردی و وابستگی‏های آن‏ها است به طوری که یک برنامه به طور قابل اطمینانی بتواند به سرعت در محیط های محاسباتی اجرا شود. container نرم افزار را از محیط خود جدا می‏کند و به طور یکنواخت اجرا می‏شود. به دلیل کاربردی بودن و اهمیت بالای آن‏ها مدل‏های برنامه نویسی مبتنی بر containerها طراحی و مطرح شده‏اند.

3_2_6_1 Boost.Compute

یک مدل برنامه نویسی براساس container است. containerها واحدهای استانداردی برای بسته بندی کردن برنامه‏های کاربردی و وابستگی‏های آن‏ها برای که یک برنامه هستند که به طور قابل اطمینانی بتواند به سرعت در محیط های محاسباتی اجرا شود. Boost.Compute یک کتابخانه‏ی C++ برای پردازش موازی براساس OpenCL است. دارای معماری لایه ای است و بر روی برنامه‏های کاربردی بر مبنای OpenCL عمل می‏کند. Boost.Compute امکان دسترسی به ابزارهای محاسباتی، صف‏های فرمان و بافرهای حافظه را می‏دهد [32].

3_3 مدیریت داده‏ها

امروزه کشفیات علمی چه به صورت شهودی باشد و چه به صورت آزمایشگاهی باشد نیازمند تجزیه و تحلیل و غربال کردن داده‏های با حجم بالا و پیچیده است؛ به طور مثال شبیه سازی پلاسما بیلیون‏ها ذره را در یک اجرا شبیه سازی می‏کند، اما تجزیه و تحلیل نتایج آن نیاز به یک آرایه‏ی چند بعدی دارد که در موارد بیشتر از 50 ترابایت بزرگی دارد و این تنها برای یک مرحله‏ی زمانی از شبیه سازی است. علاوه بر آن ابزارهای شبیه‌سازی داده‏های با حجم بالا تولید می‏کنند. یک تصویربرداری دو فوتون از مغز موش حدود بیشتر از 100 گیگابایت داده در هر ساعت تولید می‏کند. [20] یکی از راهکارهای مدیریت این داده‏ها در نرم افزارهای حجم بالا استفاده از فایل‏های با فرمت مناسب است.

3_3_1 فرمت فایل HDF5

فرمت فایل HDF5 برای ذخیره و سازمان دهی داده‌های در حجم بالا استفاده می‏شود. HDF5 می‏تواند دو نوع از داده‏ها را ذخیره کند، مجموعه داده‏ها و گروه‏ها، که مجموعه داده یک آرایه‏ی چندبعدی از عناصر داده است و گروه ها ساختاری برای سامان دهی اشیا در فایل HDF5 است. با استفاده از این دو نوع می‏توان هر نوع داده‏ی علمی مانند تصاویر، آرایه‏ها، بردارها را ذخیره کرد که می‏توانند براساس نیازهای کاربر با یکدیگر ترکیب شوند. HDF5 تعداد فایل‏های موجود و تعداد اشیای موجود دریک فایل را محدود نمی‏کند. داده‏های ذخیره شده در آرایه های چندبعدی هرکدام می‏توانند داده‏های پیچیده باشند. HDF5 نیازی به بارگزاری تمام داده به طور یکجا ندارد و می‏توان هر قسمتی از فایل را که مورد نیاز باشد به آن دسترسی پیدا کرد [33]. در بسیاری از پروژه‏های ECP فرمت فایل HDF5 به کار می‏رود. از رویکردهای آینده‏ی فرمت فایل امکان دسترسی به داده‏های HDF5 بر روی سیستم‏های از راه دور برای خواندن است در حالیکه داده بروری فایل محلی قرار دارد؛ همچنین مدیریت داده‏ی خلوت در HDF5 بدون تغییر در برنامه‌های کاربردی موجود که در حال حاضر در مرحله‏ی طراحی است.

A picture containing diagram

Description automatically generated

شکل 3. ساختار فرمت فایل HDF5 [34]

3_3_2 فرمت فایل Parallel NetCDF

یک کتابخانه‏‏ی ورودی، خروجی موازی برای دسترسی به فایل‏های Net CDF به شکل CDF-1,2 و 5 است. فرمت فایل NetCDF انواع داده‏های بسیاری را پشتیبانی می‏کند و به کاربر اجازه می‏دهد اعداد صحیح 64 بیتی را برای تعریف داده های با ابعاد بالا استفاده کند. هدف فراهم کردن موازی سازی برای ورودی و خروجی برنامه‏ها با عملکرد بالا است به طوری که تمام پردازش‏ها بتوانند به طور موازی به فایل‏های به اشتراک گذاشته شده دسترسی پیدا کنند. [35] شکل 4 دسترسی به فایل در حالت NetCDF متوالی و ParallelNetCDF را نشان می‏دهد.

Diagram

Description automatically generated

شکل 4. مقایسهی دسترسی به فایل در حالت NetCDF متوالی و Parallel NetCDF [35]

3_4 ارزیابی کارایی معماری‏های سخت افزاری و نرم افزاری

به منظور درک نحوه‏ی عملکرد و کارایی و میزان مصرف انرژی وابسته به منابع تخصیص یافته به یک کار، درک کارایی مدل‏ها ضروری است. منابع شامل تعداد گره‏ها، سیستم حافظه و شتاب دهنده‏های کامیپوتر هستند. مدل‏های ارزیابی ممکن به طور مستقیم توسط کاربر و یا به صورت اتوماتیک استفاده شوند. چالش‏های بسیاری از جمله اندازه‏ی سیستم، پیچیدگی سیستم (از نظر نوع حافظه و شتاب دهنده‏ها و ناهمگنی) و پیچیدگی نرم افزاری(زمان اجرا و قدرت کامپایلر)، لایه‏های برنامه، قابلیت انعطاف، فضای ذخیره سازی و جریان کاری ورودی و خروجی پیش روی مدل‏های ارزیابی هستند. مدل-های تحلیلی به طور معمول از سرعت اجرا در ارزیابی استفاده می‏کنند و ار آنجاییکه اندازه گیری و ارزیابی عملکرد آن‏ها بر روی سیستم‏های واقعی است در جایی که رفتار دقیق سیستم ناشناخته است عملکرد بهتری دارند. در ادامه مدل‏های ارزیابی مورد کاربرد رو به رشد بر اساس [20] بررسی شده-اند.

3_4_1 مدل سلسله مراتبی MUSA

این مدل به صورت سلسله مراتبی بر اساس نمونه سازی از سطوح مختلف به صورت جزئی است که برای آینده‏ی سیستم‏های مقیاس اگزا مناسب است. MUSA یک رویکرد شبیه‏سازی چند سطحی است که تخمین وسیع و صحیحی از عملکرد سیستم‏های نسل آینده‏ی رایانش با کارایی بالا می‏زند. MUSA شبیه‏سازی در مقیاس بالا را امکان پذیر می‏کند. به این منظور MUSA از دو عنصر استفاد می‏کند: ردیابی زیرساخت-های ارتباطات، محاسبات و زمان اجراهای مختلف سیستم و یک زیرساخت شبیه سازی که این نتایج را برای شبیه سازی چندین سطح به کار می‏برد [36].

3_4_1_1 ردیابی

گام اول ردیابی اجرای برنامه‏های کاربردی در چند سطح است. ابتدا ردیابی هر فرآیند MPI با یک rank انجام می‏شود. درون یک rank چندین نخ در حال اجرای موازی ممکن است وجود داشته باشند که با زمان اجرای سیستم مدیریت می‏شوند. سپس دنبال کننده یک فایل شامل ارتباطات و محاسبات هر rank ایجاد می‏کند. این فایل شامل اطلاعاتی از ارتباطات MPI فازها است که شامل زمان شروع و پایان هر فاز ارتباطی برای همه‏ی rankها، نوع ارتباط (جمعی یا نقطه به نقطه) و اندازه-ی داده‏ی ارسال شده است. در همان زمانی که اطلاعات هر rank ذخیره می‏شود، ذخیره‏ی بازه‏های زمانی هر فاز محاسباتی، و زمان اجرای وقایع مانند قسمت‏های ایجاد، همگام سازی و قسمت‏های موازی نیز انجام می‏شود. می‏توان یک تحلیل معماری از فضای طراحی بزرگ با استفاده از همان مجموعه از فایل‏های ردیابی انجام داد [36].

3_4_1_2 شبیه‏سازی

در مرحله‏ی شبیه سازی MUSA از اطلاعات ارتباطات و محاسباتی که در مرحله‏ی ردیابی جمع آوری شده است استفاده می‏شود. هر سطح از فازهای محاسباتی با تعداد مشخصی از هسته‏ها و متغیرهای معماری و سلسله مراتب حافظه شبیه سازی می‏شود. به این منظور زمان فراخوانی برنامه‏های کاربردی سیستم را که با استفاده از زمان اجرای رویدادهای سیستم که در فایل ردیابی ذخیره شده‌است به کار می‏برد و از این طریق زمان اجرای سیستم را که شامل برنامه‌ریزی و همگام سازی تعداد هسته‏های شبیه سازی شده است، شبیه سازی می‏کند. شبیه سازی معماری در دو حالت انفجاری و یا دقیق انجام می‏شود که امکان شبیه سازی سریع و یا شبیه سازی با جزئیات بیشتر را فراهم می‏کند. بنابراین MUSA به کاربر اجازه می‏دهد تا محدودیت‏های مورد نظر برای متغیرهای ورودی را تعریف کند، انعطاف پذیری بالایی در راستای انتخاب فاز محاسباتی‌ای که برای پیاده‌سازی دقیق مورد نظر است دارد و در کنار آن عملکرد باقی فازها را پیش‏بینی می‏کند [36].

Diagram

Description automatically generated

شکل 5. نمای کلی ردیابی و شبیه سازی MUSA [36]

3_4_1_3 خروجی نهایی

پس از اینکه فازهای محاسباتی شبیه سازی شدند، MUSA اجرای ردیابی ارتباطات را به منظور شبیه سازی ارتباطات شبکه و تولید خروجی نهایی شبیه سازی تکرار می‏کند. در طول این فرآیند مدت زمان فازهای محاسباتی با نتایج به دست آمده از شبیه سازی‏ها (چه در حالت شبیه سازی انفجاری و چه در حالت شبیه سازی دقیق) جایگزین می‏شود و فازهای ارتباطی با استفاده از شبیه سازهای شبکه شبیه-سازی می‏شود. در پایان این فرآیند شبیه سازی به طور کامل انجام می‏شود و خروجی به منظور بصری سازی تولید می-شود. شکل 5 نمای کلی از ردیابی شبیه سازی MUSA را نشان می‏دهد [36].

3_4_2 مدل PROFET

یک مدل تحلیلی است که پیش‌بینی می‏کند چگونه عملکرد یک برنامه‏ی کاربردی و مصرف نیرو و انرژی آن با اجرا بر روی سیستم‏ حافظه‏ی جدید تغییر می‏کند. این مدل از پارامترهای گرفته شده از هر قسمت اجرای برنامه‏ی کاربردی که در بازه های زمانی منظم تقسیم شده است، استفاده می‏کند. برای هر قسمت از شمارنده‌های اندازه گیری عملکرد یعنی تعداد چرخه‏ها، تعداد دستورالعمل‏ها و خواندن خطاهای حافظه‏ی پنهان سطح آخر، پهنای باند استفاده شده‏ی حافظه استفاده می‏شود. خروجی PROFET میزان عملکرد، قدرت و مصرف انرژی بر روی سیستم حافظه‏ی هدف است. مدل‌های قدرت و حافظه‏ی برای هر قسمت (هر بازه‏ی زمانی) اجرا می‏شوند، که برای هر قسمت یک زمان اجرا و قدرت و میزان مصرف انرژی را پیش‏بینی می‏کند. با جمع بستن با گذشت زمان، زمان کلی اجرا و مصرف انرژی برنامه به دست می‏آید. میانگین قدرت تقاضای برنامه برابر با حاصل تقسیم میزان کلی انرژی بر زمان کلی اجرا است. مدل عملکرد PROFET اطلاعات اجرای برنامه را از روی فایل ردیابی می‏خواند و موقعیت برنامه را برروی منحنی پهنای باند-تاخیر سیستم حافظه‏ی پایه مشخص می‏کند. سپس موقعیت برنامه‏ی کاربردی را بر روی منحنی پهنای باند حافظه-تاخیر برای سیستم حافظه‏ی هدف تخمین می‏زند و از آن برای پیش‏بینی عملکرد برنامه برروی سیستم حافظه‏ی هدف استفاده می‏کند [37]. شکل 6 نحوه‏ی پیش‏بینی مدل PROFET برای سیستم حافظه‏ی هدف را نمایش می‏دهد.

Diagram

Description automatically generated

شکل 6. تخمین PROFET برای سیستم حافظهی هدف [37]

3_4_3 مدل Extra-P

Extar-P یک مدل تحلیلی برای شناسایی Scalability bugs است. Scalability bugs خطاهایی هستند که در محسابات در مقیاس بالا به وجود می‏آیند. Extra-P از اندازه گیری معیارهای عملکرد متنوع در قالب‏های اجرایی متفاوت به عنوان ورودی برای تولید مدل‏های عملکرد از قسمت‏های مختلف کد استفاده می‏کند. Extar-P با جستجوی Scalability bugs در کدهای گسترده و استفاده از اجرای تعدادی از آزمایش‏های عملکرد در مقیاس کوچک، و مقایسه‏ی تقریبی یا دقیق عملکرد بدترین نمونه با انتظارات عمل می‏کند. Extra-P علاوه بر لیست Scalability bugs ، مدل‏های قابل خواندن برای تمام متغیرهای عملکرد مانند عملیات ممیز شناور و یا بایت‏های ارسال شده با فراخوانی‏های MPI ایجاد می‏کند که می‏تواند برای تحلیل‏های بعدی و یا مقایسه برای شناسایی دلایل ریشه‏ای Scalability bugs استفاده شود [38]. شکل 7 نمای خروجی مدل Extra-P براساس چند نمونه از متغیرهای عملکرد را نمایش می‏دهد.

Graphical user interface

Description automatically generated

شکل 7. نمای خروجی مدل Extra-P [38]

3_4_4 مدل Dimemas

این مدل کاربر را قادر می‏کند تا برنامه‏های کاربردی موازی را بر روی یک ایستگاه کاری توسعه دهد و همزمان یک پیش‏بینی دقیق از عملکرد آن‏ها برروی ماشین موازی هدف داشته باشد. شبیه ساز Dimemas رفتار زمانی برنامه‏های کاربردی مدل شده برروی یک ماشین را با مجموعه‏ای از متغیرهای عملکرد بازسازی می‏کند.

مدل Dimemas از گره‏های SMP ساخته شده است. هر گره مجموعه‏ای از پردازشگرها و حافظه‏ی محلی دارد که برای ارتباطات درون گره‏ها استفاده می‏شود. ارتباطات درون شبکه-ای با دو متغیر نمایش داده می‏شود. تعداد پیوندها از گره به شبکه که با L نمایش داده شده است و تعداد باس‏های موجود شبکه که با B نمایش داده می‏شود. این متغیرها ظرفیت شبکه را محدود می‏کنند به طوری که تا تعداد B پیام به طور همزمان می‏توانند از شبکه استفاده کنند که اجازه‏ی تجزیه و تحلیل بحث شبکه را می‏دهد. متغیر L تعداد پیام‏هایی که به یک گره مشخص وارد و خارج می‏شوند را مشخص می‏کند، بنابراین تجزیه و تحلیل اتصال نیز می‏تواند مشخص شود.

رکوردهای فایل ردیابی شامل سه قسمت اصلی هستند: نقطه‏ی پایان ارتباط که اطلاعات مرتبط با وظایفی که در اتباط دخیل هستند را (مانند اندازه و شناسه‏های پیام) ذخیره می‏کند. اطلاعات رویدادها که این رکورد می‏تواند شامل هر نوعی از اطلاعات به طور مثال شروع و آغاز توابع، مقدار متغیرها، مقدار ثبات‏های درونی پردازشگرها باشد. مصرف CPU که شامل زمان گذرانده‏ی پردازشگر برای ارتباطات متوالی و رویدادها می‏باشد.

نتایج Dimemas شامل اطلاعات سراسری برنامه یعنی زمان اجرا و سرعت می‏باشد. برای هر وظیفه زمان محاسبه، زمان مسدود کردن، و اطلاعات مربوط به پیام‏ها مانند تعداد ارسال‏ها، تعداد دریافت‏ها را نیز شامل می‏شود [39]. شکل 8 نمای خروجی مدل Dimemas از تحلیل عملکرد برنامه را نشان می‏دهد.

Graphical user interface

Description automatically generated

شکل 8. نمای خروجی مدل Dimemas از تحلیل عملکرد برنامه [39]

3_4_5 مدل Paraver

یک ابزار تحلیل عملکرد انعطاف پذیر است.Paraver در نیاز به درک کیفی از رفتار برنامه با تحلیل بصری و توانایی تحلیل کمّی دقیق از مسائل توسعه یافته است. قدرت بیان، انعطاف پذیری و قابلیت کارآمد کنترل ردیابی‏های گسترده از ویژگی‏های کلیدی در طراحی Paraver هستند. ویژگی‏های اساسی Paraver شامل تحلیل کمّی دقیق از عملکرد برنامه، تحلیل مقایسه‏ای همزمان از چندین ردیابی و مفاهیم قابل تنظیم اطلاعات بصری می‏باشد. اطلاعات نمایش داده شده در خروجی Paraver شامل سه عنصر اصلی هستند که متغیرهای وابسته به زمان برای هر شئ ارائه شده. flag‏هایی که مرتبط با وقایع زمانی شئ ارائه شده هستند، و خطوط ارتباطی که اشیای نمایش داده شده را به یکدیگر مرتبط می‏کند. ماژول-های بصری مشخص می‏کنند که هرکدام از این عناصر چگونه نمایش داده شوند. ماژول بصری مقادیر و رویدادهایی که به آن داده می‏شود بدون مشخص کردن هیچ معنای پیش تعریف شده ای ارائه می‏شوند که این امر به منظور انعطاف پذیری ابزار است که بسته به ردیابی‏های تولید شده می‏توان آن‏ها را در یک مقیاس بزرگ بصری با یکدیگر ترکیب کرد [40]. شکل 9 نمای خروجی مدل Paraver و ارتباطات بین پردازش‏ها را نمایش می‏دهد.

Graphical user interface

Description automatically generated

شکل 9. نمای خروجی مدل Paraver [40]

4. نقش هوش مصنوعی در رایانش با کارایی بالا

4-1. مقدمه

اغلب مراجع بررسی کننده‌ی روند تحولات رایانش با کارایی بالا (مانند [41] و [42])، موضوعی تحت عنوان همگرایی رایانش با کارایی بالا با هوش مصنوعی و پردازش کلان‌داده را به عنوان گرایشی مهم در جهت‌دهی به آینده‌ی رایانش با کارایی بالا معرفی می‌کنند. بر این اساس، امکانات مبتنی بر سیستم‌های رایانش با کارایی بالا بستر بسیار کارآمدی برای تسریع محاسبات مورد نیاز در هوش مصنوعی است و در سمت مقابل به‌کارگیری الگوریتم‌های مبتنی بر هوش مصنوعی می‌تواند به عملکرد بهینه‌تر و هوشمندانه‌تر سیستم‌های رایانش با کارایی بالا کمک کند. حوزه‌ی تحلیل کلان‌داده نیز در هر دو اثرگذاری یادشده، حضور دارد. شکل 10 نقش موارد کاربرد رایانش با کارایی بالا با حضور AI را در رشد اقتصاد رایانش با کارایی بالا در سال‌های پیش رو مهم و اثرگذار پیش‌بینی می‌کند و بر این اساس در کنار تداوم اهمیت کاربردهای بدون حضور AI مانند شبیه‌سازی‌های فیزیکی، کاربردهای مبتنی بر AI را می‌توان بازیگر اصلی در رشد اقتصاد رایانش با کارایی بالا در سال‌های پیش ‌رو دانست. بر اساس مفهوم همگرایی یاد شده، در ادامه موضوع جهت‌دهی هوش مصنوعی به آینده‌ی رایانش با کارایی بالا نخست از منظر امکانات مبتنی بر رایانش با کارایی بالا برای توسعه‌ی هوش مصنوعی و سپس از دیدگاه امکانات مبتنی بر هوش مصنوعی برای توسعه‌ی رایانش با کارایی بالا مطالعه خواهد شد و نهایتاً برخی اثرگذاری‌ها و جهت‌دهی‌های هوش مصنوعی به توسعه‌ی سیستم‌های رایانش با کارایی بالا به صورت موردی بررسی خواهند شد.

شکل 10. پیش‌بینی موسسه‌ی Tractica از تاثیر AI بر آینده‌ی بازار رایانش با کارایی بالا [43]

4-2. امکانات مبتنی بر رایانش با کارایی بالا برای توسعه‌ی هوش مصنوعی

محاسبات مورد نیاز در بسیاری از الگوریتم‌های یادگیری ماشین به خصوص روش‌های مبتنی بر شبکه‌های عصبی به عنوان ابزاری بسیار پرکاربرد در این حوزه، عمدتا دارای ماهیت یک دستور چند داده (SIMD³³) هستند و این موضوع، زمینه‌ی اصلی حضور مؤثر و کارآمد رایانش با کارایی بالا به عنوان بستر اجرای این محاسبات است. از دیگر سو، خروجی شبیه‌سازی‌های پدیده‌های طبیعی مبتنی بر رایانش با کارایی بالا می‌تواند کلان‌داده‌ی آموزشی موردنیاز برای الگوریتم‌های یادگیری ماشین در برخی کاربردها را فراهم کند. به طور خاص کاربرد رایانش با کارایی بالا در هوش مصنوعی در مرحله‌ی آموزش مدل‌ها اهمیت بسیار بالایی دارد و بسیار متداول است که آموزش یک مدل مورد استفاده در سیستم‌های درون‌کار یا پردازنده‌ی نه چندان قوی مانند پردازنده‌ی تلفن همراه بر بستر یک ابر رایانه انجام شود. مقاله‌ی مروری [45]با بررسی مقالات متعددی، حوزه‌های کاربردی برای رایانش با کارایی بالا در هوش مصنوعی را یافته و مطالعه کرده‌است. در ادامه، 4 مورد از کاربردها اجمالاً معرفی خواهند شد.

4-2-1. حمل و نقل هوشمند

هوشمندسازی عملکرد وسایل حمل و نقل عمومی و خصوصی و نیز پردازش هوشمند اطلاعات دریافتی از این وسایل در مراکز داده‌ی شهر هوشمند مفهوم مهمی است که به دلیل کاربردهای وسیعی چون افزایش امنیت تردد و کاهش ترافیک مورد توجه ویژه‌ای قرار دارد. نظر به حجم بالای داده‌‌های ارسالی از خودروها در این سیستم‌ها پردازش اطلاعات در حجم مورد نظر قطعاً نیازمند امکانات رایانش با کارایی بالا است. در پروژه‌ی MCity در دانشگاه میشیگان به عنوان نمونه‌ی جامعی از پیاده‌سازی شهر هوشمند، زیر پروژه‌های متعددی در حوزه‌ی حمل و نقل هوشمند ایجاد شده‌است که برای پیاده‌سازی آن‌ها با همکاری شرکت DELL ابرارایانه‌ی Great Lakes با به‌کارگیری 44 واحد پردازنده‌ی گرافیکی NVIDIA Tensrocore V100 ) اولین GPU دارای توان پردازشی 100 TFLOPS ) مورد استفاده قرار گرفته است.

4-2-2. مراقبت از سلامت

در سال 2020 یک مدل مبتنی بر هوش مصنوعی برای تشخیص سرطان سینه با کمک تصاویر X-Ray به دقت برابر با نیروی انسانی متخصص رادیولوژی دست یافت. پیشرفت‌هایی از این دست نشان دهنده‌ی گسترش کاربرد هوش مصنوعی در پزشکی است که به لحاظ نیازمندی‌های محاسباتی، لزوم به‌کارگیری رایانش با کارایی بالا را ایجاب می‌کند. به عنوان مثال در حوزه‌ی مراقبت اختصاصی از سلامت، تجویز راه‌کارهای درمانی و دارویی متناسب با ویژگی‌های ژنتیکی بیمار و سوابق وی موضوع مهمی است که راه‌کارهای مبتنی بر ترکیب پردازش درون‌کار و رایانش ابری برای آن در حال معرفی هستند [44].

4-2-3. GeoAI

به‌کارگیری ترکیبی رایانش با کارایی بالا و هوش مصنوعی در علم فضا به منظور درک، تحلیل و بصری‌سازی پدیده‌های طبیعی بر مبنای اطلاعات مکانی، راه‌حل‌های متنوعی پدید آورده‌است که تحت عنوان علم نوظهور GeoAI مطالعه می‌شوند. یک مسئله‌ی بسیار مهم در این حوزه تحت عنوان Exposure Modeling به مدل‌سازی ریاضی و در جهت تخمین یا پیش‌بینی اثر یک عامل آلوده‌کننده‌ی محیط زیست می‌پردازد که چالش‌ها و اهداف پیش روی این حوزه در [45] معرفی شده‌است.

4-2-4. شبیه‌سازی عملکرد مغز در علوم اعصاب محاسباتی

شبیه‌سازی عملکرد میلیاردها نورون و تریلیاردها سیناپس در مغز موجودات زنده مسئله‌ی مهمی در علوم اعصاب محاسباتی و هوش مصنوعی است که به وضوح نیازمند به‌کارگیری امکانات رایانش با کارایی بالا است. به عنوان مثال در پروژه‌ی BlueBrain³⁴ با تمرکز شبیه‌سازی مغز جوندگان و تعمیم نتایج به شبیه‌سازی مغز انسان ابررایانه‌ی شرکت IBM به نام BluGene با توان پردازشی حدود 100TFLOPS و فضای ذخیره‌سازی 100ترابایتی با 8000 واحد پردازنده‌ی مرکزی به کار گرفته شده‌است.

4-3. امکانات مبتنی بر هوش مصنوعی برای توسعه‌ی رایانش با کارایی بالا

به‌کارگیری الگوریتم‌های هوش مصنوعی برای عملکرد بهینه و هوشمند سیستم‌های رایانش با کارایی بالا با توجه به حجم بالای وظایف محاسباتی و تعدد منابع در دسترس در سیستم‌های رایانش با کارایی بالا موضوعی مورد نیاز است که به لحاظ ایجاد توازن بین توان مصرف انرژی و کارایی محاسباتی می‌تواند نقش کلیدی‌ای در تحقق عصر Exascale داشته باشد. در ادامه برخی صورت‌مسئله‌های مطرح در این حوزه معرفی خواهند شد.

برنامه‌ریزی وظایف³⁵: انتخاب وظیفه‌ی محاسباتی مناسب در زمان مناسب برای تخصیص یک منبع در سیستم‌های رایانش با کارایی بالا با اهدافی چون بیشینه‌سازی utilization منابع، کمینه‌سازی زمان انتظار کاربران یا اولویت‌بندی وظایف انجام می‌شود. در سال‌های پیشین روش‌های Heuristic چون FCFS³⁶ برای این منظور مورد به‌کار گرفته شده‌اند و در راه‌حل‌های جدید تر الگوریتم‌های بهینه‌سازی نیز به مسئله وارد شده‌اند. در پژوهش [46] در سال 2021 به‌کارگیری یادگیری تقویتی برای این موضوع پیشنهاد شده‌است که موفق شده‌است علاوه بر افزایش کارایی محاسباتی، پاسخ مناسبی به ماهیت پویا و تغییرات ناگهانی در اهداف برنامه‌ریزی وظایف ایجاد کند.

تنظیم بهینه‌ی پارامترها در سیستم‌: انتخاب هوشمندانه‌ی مقادیر برای پارامترهای سیستم رایانش با کارایی بالا با توجه به ویژگی‌های برنامه‌ی محاسباتی مورد نظر می‌تواند افزایش قابل توجه کارایی محاسباتی را در مقایسه با استفاده از مقادیر پیش فرض برای پارامترها نتیجه دهد. به عنوان مثال در [47] برای این منظور با استخراج 78 ویژگی مربوط به برنامه محاسباتی و طراحی الگوریتم انتخاب ویژگی و اعمال الگوریتم کلاس‌بندی، مقادیر پیشنهادی برای پارامترهای تعداد گره‌های محاسباتی و اندازه‌ی نوار و تعداد نوارها (پاارمترهای مربطو به فایل سیستم Lustre )به سیستم ارائه می‌شوند.

تنظیم بهینه پارامترهای برنامه محاسباتی اگزا مقیاس مسئله‌ی مطرح دیگری است که به عنوان مثال در پژوهش [48] که منجر به معرفی نرم‌افزار GPTune شده‌است الگوریتم‌های مبتنی بر بهینه‌سازی بیزی برای انتخاب پارامترهای برنامه در راستای بهینه‌سازی کمیت‌هایی چون زمان اجرا و حافظه‌ی مصرفی به‌کار گرفته شده‌اند. این ابزار تا کنون برای مسائلی در جبر خطی و برخی مسائل علمی چون plasma fusion به‌کارگرفته شده‌است و به طور میانگین منجر به 8/2 برابر کاهش زمان اجرای برنامه روی سیستم‌های دارای تعداد گره‌های محاسباتی بالا در حدود 2048 گره شده‌است.

4-4. جهت‌دهی توسعه‌ی هوش مصنوعی به آینده‌ی طراحی‌های رایانش با کارایی بالا

چنان‌که در بخش مربوط به معماری‌های سخت‌افزاری مطرح شد تعامل هوش مصنوعی و رایانش با کارایی بالا ، تاثیرات مشهودی بر طراحی‌های سیستم‌های رایانش با کارایی بالا گذاشته است که معرفی معماری‌هایی چون TPU و NPU را می‌توان نتیجه‌ی این تأثیرات دانست. علاوه بر ایجاد معماری‌های جدید، تأثیر ملاحظات مربوط به توسعه‌ی هوش مصنوعی را به صورت موردی در برخی محصولات و فناوری‌های ایجاد شده در سال‌‌های اخیر و همچنین در آزمون‌های مقایسه‌ای ارزیابی کارایی محاسباتی سیستم‌های رایانش با کارایی بالا می‌توان دید. طبق شکل 11 مطالعه‌ی آینده‌پژوهانه‌ی موسسه‌ی Mckinsey&company [49] پیش‌ببنی می‌کند که طراحی‌های سخت‌افزاری مورد استفاده در HPC در 4 حوزه‌ی ASIC, CPU, GPU, FPGA که در سال 2017 هر کدام با سهمی مختص به خود در بازار حضور دارند همگی در سال 2025 نیز حضور خواهند داشت اما سهم‌های فناوری‌ها تغییر خواهد کرد. بر این اساس افزایش چشمگیر نقش طراحی‌های اختصاصی ASIC در مرحله‌ استنتاج در پردازش درون‌کار بسیار پررنگ خواهد بود و معماری CPU نیز همچنان در مراکز داده در مرحله‌ی استنتاج به‌کار گرفته خواهد شد.

شکل 11. روند تغییر سهم فناوری های سخت افزاری در تعداد موارد استفاده در کاربردهای یادگیری عمیق [49]

جهت بررسی تاثیر هوش مصنوعی بر طراحی‌های رایانش با کارایی بالا می‌توان روند تحول برخی آزمون‌های مقایسه‌ای مشهور را به عنوان شاهدی برای این موضوع مطالعه کرد. محک Linpack در سال 1979 توسط جک دانگارا مطرح شد و تمرکز اصلی آن ارزیابی کارایی سیستم‌ رایانشی در انجام محاسبات ماتریسی ممیز شناور بود. با معرفی این محک معیار FLOPS مطرح شد. در سال‌ 2010 محک Graph500، از نظر تمرکز اصلی به سمت وظایف Data Intensive متمایل شده‌است و با تمرکز بر ارزیابی توانمندی یک سیستم در پیمایش یال‌ها در اجرای یک جستجوی BFS³⁷، معیار GTEPS³⁸ معرفی شده‌است. در سال 2018 معیار MLPerf مشخصاً روی ارزیابی کارایی سیستم در اجرای الگوریتم‌های شبکه‌های عصبی عمیق بنا شده و در نسخه‌ی 7 دو مجموعه داده به اندازه‌های 8/8ترابایت و 1/5 ترابایت برای انجام پیش‌بینی در پدیده‌های آب و هوایی در آن ایجاد شده‌است.

ردپای ملاحظات مربوط به توسعه‌ی هوش مصنوعی را می‌توان در طراحی سریع‌ترین ابررایانه‌ی جهان در زمان نگارش مقاله‌ی حاضر مشاهده کرد. در طراحی واحد محاسبات و منطق ابر رایانه‌ی Fugaku به این مفهوم توجه شده‌است که برای محاسبات مربوط به شبکه‌های عصبی دقت محاسبات ممیز شناور بیش از 16 بیت مورد نیاز نیست (مقاله‌ی [50] از شرکت Intel کفایت دقت 16 بیتی برای آموزش و 8 بیتی برای استنتاج را نشان می‌دهد). لذا در طراحی Fugaku دقت ساده یا 16 بیتی مورد استفاده قرار گرفته‌است. همچنین طراحی انحصاری شبکه‌ی Tofu نیز برای بهبود عملکرد سیستم در پیاده‌سازی شبکه‌های عصبی کانولوشنی صورت گرفته‌است. در فوریه‌ی سال 2021 ابر رایانه‌ی مذکور برای تولید کلان‌داده‌ی آموزشی از طریق شبیه‌سازی و نیز تولید و آموزش مدل پیش‌بینی کننده‌ی تسونامی مورد استفاده قرار گرفت.

به طور خلاصه، می‌‌توان نتیجه گرفت که تعامل دو سویه‌ی حوزه‌های رایانش فوق سریع و هوش مصنوعی، طراحان الگوریتم‌های هوش مصنوعی را به سمت مدل‌های با تعداد پارامترهای بیشتر و طراحان سیستم‌های رایانشی فوق سریع را به سمت طراحی سیستم‌های دارای تعداد گره‌های محاسباتی بیشتر هدایت کرده‌است.

5. نقش رایانش ابری در رایانش با کارایی بالا

5-1. مقدمه

نظر به گسترش بسیار وسیع معماری‌های سخت‌افزاری و نرم‌افزاری مطرح در رایانش با کارایی بالا ، فناوری‌ رایانش ابری به لحاظ امکان ایجاد استقلال تیم توسعه از پیچیدگی‌های این معماری‌ها نقش کلیدی و مهمی در این حوزه دارند. رایانش ابری در دو سناریوی All Cloud و Cloud Bursting می‌تواند بستر اجرای محاسبات رایانش با کارایی بالا باشد که در سناریوی All Cloud تمامی پیکربندی سیستم رایانش با کارایی بالا شامل ایجاد گره‌های محاسباتی و ذخیره‌سازی در سمت بستر ابری و توسط سازمان فراهم‌کننده‌ی رایانش ابری (CSP³⁹) ایجاد شده و کاربر از طریق یک اتصال معمولی همچون SSH به ابر متصل شده و درخواست شروع محاسبه را ارسال می‌کند. در سناریوی Cloud Bursting، پیکربندی‌های یادشده تماماً در سمت کاربر ایجاد می‌شوند اما در زمان رسیدن حجم محاسبات به بیشینه‌ی توان سیستم، محاسبات مازاد به بستر ابری انتقال می‌یابند و گره‌های محاسباتی در ماشین‌های مجازی روی سرور ابری ایجاد می‌شوند. در این شرایط وجود یک ارتباط با تأخیر کم میان کاربر و بستر ابری و نیز فناوری‌های VM Orchestration اهمیت اساسی دارند.

5-2. آینده‌ی رایانش با کارایی بالا بر بستر رایانش ابری

بر مبنای مطالعه‌ی آینده‌پژوهانه‌ی موسسه‌ی Hyperion [44] سهم بار محاسباتی مربوط به رایانش با کارایی بالا بر بستر رایانش ابری از سال 2020 تا 2023 از 8/9 به 15 درصد خواهد رسید که نقطه‌ی عطفی در منحنی پیشرفت آن خواهد بود. در گزارش مذکور محرک‌های اصلی گرایش به رایانش ابری در رایانش با کارایی بالا معرفی شده‌اند که در ادامه اجمالاً مرور می‌شوند.

1- خاصیت کشسانی‌⁴⁰: در اغلب موارد توان پردازشی مورد نیاز در یک محاسبه در سازمان‌های کوچک بیش از توان محاسباتی در اختیار آن‌ها هست و از این رو خاصیت کشسانی در رایانش ابری را می‌توان اصلی‌ترین مزیت این فناوری در تعامل با رایانش با کارایی بالا دانست.

2- تنوع نیازمندی‌های سخت‌افزاری و نرم‌افزاری: تنوع بسیار بالای معماری‌های شتاب‌دهنده‌ در رایانش با کارایی بالا و نیز معرفی تعداد بسیار زیاد بسته‌های نرم‌افزاری مختص رایانش با کارایی بالا نیاز به استفاده از بسترهای رایانش ابری برای قرار گیری این معماری‌ها در دسترس طیف وسیع کاربران را تقویت می‌کند.

3- کاهش هزینه از طریق کاهش زمان انتظار: در اغلب موارد به ویژه در سازمان‌های کوچک، کاهش زمان انتظار اجرای وطایف محاسباتی از چند روز به چند ساعت منجر به کاهش هزینه‌ها در سازمان می‌شود.

4- اتصال بسیارقوی به داده‌های موجود در اینترنت: سرعت بسیار زیاد اتصال بسترهای رایانش ابری به اینترنت امکان بارگیری مجموعه‌داده‌های موجود در وب در زمان کوتاه را درکاربردهای مربوط به هوش مصنوعی فراهم می‌کند.

5- Closely Coupled Hybrid Clouds: مفهومی نوظهور است که با گسترش فناوری 5G اهمیت روزافزونی می‌یابد. در فناوری‌های مرتبط با این موضوع پردازش‌های مربوط به رایانش با کارایی بالا در بستر ابری و پردازش درون‌کار به صورت همروند اجرا می‌شوند که مباحث مهمی چون حمل و نقل هوشمند و ارائه‌ی راه‌کارهای درمانی اختصاصی در پزشکی را تحت تأثیر جدی قرار می‌دهد.

در گزارش شرکت Hyperion پیش‌بینی شده‌است که فناوری Container در راستای تحقق HPC بر بستر رایانش ابری نیازمند تحولات مهمی خواهد بود که برای بررسی تحولات مورد انتظار این فناوری، گزارش شرکت Alibaba Clouds درباره‌ی گرایش‌های اصلی در تحولات مورد انتظار Kubernetes Container در سال 2021 [51] بررسی شد. بر اساس این گزارش، حائز اهمیت است که فناوری Kubernetes به امکانات خاص‌منظوره‌ی برنامه‌ریزی منابع مربوط به رایانش با کارایی بالا مجهز شود. در حال حاضر قابلیت‌های Capacity Scheduler و Batch Scheduler برای این منظور به‌کار گرفته می‌شوند. از دیگر سو در حال حاضر موضوع پشتیبانی Kubernetes از معماری GPU در GPUهای سری Ampere شرکت NVIDIA محقق شده‌است و قابلیت MIG⁴¹ جهت استفاده‌ی همزمان از تعداد بالای GPU ایجاده شده‌است اما همچنان معماری‌های متنوع سخت‌افزاری دیگری چون NPU و RDMA⁴² نیازمند پشتیبانی توسط این فناوری هستند. همچنین نظر به گسترش کاربردهای مربوط به پردازش داده‌های کلان، پشتیبانی از قالب‌های مختص Elastic Data Tasks مانند HDF, OSS, Ceph برای اعمال مختلفی چون جابه‌جایی، تکثیر، اخراج و تبدیل داده‌ها توسط Kebernetes نیاز حیاتی دیگری است که به گزارش مذکور از گرایش‌های اصلی مورد انتظار در سال 2021 است.

5-2-1. فناوری‌ها و اهداف برخی کمپانی‌های پیش‌رو در رایانش با کارایی بالا بر بستر ابری

جهت مطالعه‌‌ی مسیر پیش رو در تکامل و توسعه‌ی رایانش با کارایی بالا بر بستر رایانش ابری، فعالیت‌های صورت گرفته و اهداف برخی کمپانی‌های مطرح در این حوزه بررسی می‌شود.

کمپانی Rescale به گزارش Yahoo Finance بزرگترین شرکت ارائه‌دهنده‌ی خدمات رایانش با کارایی بالا بر بستر Cloud است که با ایجاد یک API و رابط کاربری قوی، امکانات متعددی برای کاربران در سطوح شرکت‌های بزرگ تا محققین انفرادی جهت تعریف وطایف محاسباتی رایانش با کارایی بالا ایجاد کرده‌است. این کمپانی در گزارشی که در سال 2021 منتشر کرده‌است [52] رویکردهای اصلی این شرکت در این سال را اعلام کرده‌است. بر این اساس پیش‌بینی شده‌است که با توجه تخصصی شدن تمرکز شرکت‌های ارائه دهنده‌ی خدمات رایانش ابری در حوزه‌ی مختلف، تعداد نسبی کمپانی‌های استفاده کننده از رایانش با کارایی بالا که به صورت همزمان نیازمند دریافت خدمات از بیش از یک CSP هستند از 35% در سال 2018 به 50% در سال 2020 افزایش یافته‌است. لذا توسعه‌ی فناوری‌های Multi-Cloud از اصلی‌ترین اهداف کمپانی طبق گزارش مذکور است. شکل 12 مقایسه‌ی یادشده را به طور دقیق‌تر نشان می‌دهد.

نکته‌ی شایان توجه دیگر در این گزارش، طرح موضوع تعدد بسیار بالای بسته‌های نرم‌افزاری و معماری‌های سخت‌افزاری معرفی شده برای رایانش با کارایی بالا است که شرکت‌های فعال در ارائه این خدمات بر بستر رایانش ابری را نیازمند صرف انرژی قابل توجهی برای مدیریت و مهندسی دانش این گستره‌ی وسیع از امکانات می‌کند. تعداد بسته‌های نرم‌افزاری مورد پشتیبانی توسط کمپانی در زمان انتشار گزارش حدود 600 بسته در حوزه‌های مختلف علوم و مهندسی گزارش شده‌است. همچنین شکل 13 برگرفته از این گزارش افزایش چشمگیر تعداد معماری‌های اختصاصی رایانش با کارایی بالا در سال‌های اخیر را نشان می‌دهد.

شکل 12. تغییرات نسبت سازمان‌های استفاده کننده از خدمات بیش از یک CSP در رایانش با کارایی بالا [52]

$img0$

شکل 13. افزایش تعداد معماری‌های اختصاصی رایانش با کارایی بالا در دهه‌ی اخیر [52]

فناوری مطرح دیگر در Google Cloud Platform ایجاد شده‌است. کمپانی Google با ایجاد و افزودن بسترهای Google Genomics (برای پردازش کلان‌داده‌های زیست‌شناسی بر بستر ابری) و Google AI Platform (فراهم‌کننده‌ی طیف وسیعی از ابزارهای هوش مصنوعی) بستر ابری پرکاربردی مبتنی بر فناوری Multi-Cloud برای شرکت‌های بزرگ و کوچک ایجاد کرده‌است. در فوریه‌ی 2021 با معرفی قابلیت Pre-Tuned HPC VM images که یک ماشین مجازی بر پایه‌ی CentoOS7 است مدت‌زمان ارسال پیام در بارهای محاسباتی Tightly Coupled MPI کاهش مناسبی نسبت به دیگر فناوری‌های برپایه‌ی CentOS ایجاد کرده‌است [53].

شرکت Amazon با ایجاد قابلیت‌های Amazon SageMaker و Amazon Lake Formation و AWS Glue امکان استخراج مجموعه‌داده‌های آموزشی برای کاربردهای هوش مصنوعی از Amazon Simple Storage Service و نیز انجام تحلیل‌های مبتنی بر هوش مصنوعی در یک محیط Jupyter Notebook را ایجاد کرده‌است. کمپانی Microsoft با معرفی فناوری Azure Batch پشتیبانی رایانش با کارایی بالا بر بستر Cloud را در هر دو سناریوی All Cloud و Cloud Bursting را فراهم کرده و با توجه به نیازمندی‌هایی وظایف محاسباتی Tightly Coupled به فناوری‌های شبکه‌ای قوی مانند Infiniband یا دسترسی مستقیم از راه دو به حافظه (RDMA) حرکت به سمت پشتیبانی این فناوری‌ها را آغاز کرده‌است. تاکید اصلی در طراحی Azure Batch توجه به ماهیت غیر قابل پیش‌بینی بار محاسباتی در رایانش با کارایی بالا است که با توجه به مقادیر به دست‌آمده در روند محاسبات می‌تواند تغییرات چشمگیر داشته باشد لذا با ایجاد VM Pool سیستم تعداد VM ها را به صورت پویا و متناسب با بار محاسباتی کم و زیاد می‌کند.

شکل 14. کاهش تاخیر MPI با استفاده از HPC VM Images [53]

به طور خلاصه، کمپانی‌های بزرگ به دلیل پشتیبانی طیف بسیار وسیع سخت‌افزارها و نرم‌افزارهای موجود در رایانش با کارایی بالا و نیز امکان دسترسی همزمان به قابلیت‌های چندین سرویس ابری و کمپانی‌های کوچک علاوه بر موارد یادشده به دلیل کاهش هزینه و زمان انتظار برای پیکربندی یک سیتم رایانش با کارایی بالا و همین‌طور کاهش چشمگیر زمان اجرای محاسبات بر بستر Cloud به استفاده از رایانش با کارایی بالا بر بستر رایانش ابری تمایل رو به رشدی دارند.

6. موضوعات تحقیقاتی

6-1. مقدمه

به منظور مشخص کردن زمینه‏های تحقیقاتی رایانش با کارایی بالا که در حال حاضر در سطح جهان مورد توجه است، ابتدا لیستی از بازیگران فعال و مطرح در این حوزه شناسایی شده و سپس بررسی شده است که هریک از آنها در حال حاضر روی چه موضوعاتی در حال تحقیق هستند. در نهایت، با جمع‏بندی نتایج حاصل از این بررسی‏ها، به لیستی از زمینه‏های تحقیقاتی مطرح در حوزه رایانش با کارایی بالا دست یافته‏ایم. در ادامه این بخش، ابتدا لیست بازیگران مطرح در اکوسیستم رایانش با کارایی بالا را ارائه خواهیم کرد و پس از آن، به تفکیک در خصوص زمینه‏های تحقیقاتی هریک اشاره خواهیم نمود. در نهایت، جمع‏بندی این اطلاعات در اختیار قرار خواهد گرفت.

6-2. لیست بازیگران مطرح در حوزه تحقیقات رایانش با کارایی بالا

پیدا کردن لیست کاملی از بازیگران فعال در حوزه رایانش با کارایی بالا چندان عملیاتی به نظر نمی‏رسد. اما بازیگران مطرح و شناخته شده‏تری در این حوزه وجود دارند که در ادامه به صورت مختصر معرفی می‏شوند:

• ISC-Group⁴³: یکی از قدیمی‏ترین و معروف‏ترین گروه‏های فعال در حوزه رایانش با کارایی بالا است که در سال 1986 ایجاد شده است. انتشار لیست Top500 یکی از مهم‏ترین فعالیت‏های این گروه است.

• ECP: پروژه Exascale Computing Project⁴⁴ فعالیتی است که به صورت مشترک توسط وزارت انرژی⁴⁵ و اداره امنیت هسته‏ای ملی⁴⁶ ایالات متحده آمریکا اجرا می‏شود. هدف از این پروژه، حفظ برتری ایالات متحده در حوزه رایانش فوق سریع در جهان و حرکت به سمت توان پردازشی Exascale در این حوزه است.

• ETP4HPC⁴⁷: این اتحادیه غیردولتی و غیرانتفاعی اروپایی عضوی از EuroHPC JU است که در سال 2012 تأسیس شده است. هدف‏گذاری آن افزایش توانمندی‏های فنی و تحقیقاتی اتحادیه اروپا در زمینه رایانش با کارایی بالا است به نحوی که بتواند بهره‏وری حداکثری اقتصادی و اجتماعی را از این فناوری برای کشورهای عضو این اتحادیه فراهم سازد.

• JLESC⁴⁸: این آزمایشگاه سازمانی مجازی و بین‏المللی است که هدف‏گذاری آن گذار از توان پردازشی Petascale به Exascale برای اعضای آن است. مؤسسین این آزمایشگاه مؤسسه ملی تحقیقات در علم و فناوری دیجیتال (INRIA) فرانسه و دانشگاه ایلینویز هستند.

• HiPEAC⁴⁹: شبکه‏ای از محققین دانشگاهی و صنعتی در سطح اروپا با بیش از 2000 عضو است که از سال 2004 فعالیت‏های خود را آغاز نموده است. هدف‏گذاری این شبکه پیشبرد معماری‏های سخت‏افزاری و سامانه‏های پردازشی با هم‏افزایی بین محققین از دانشگاه‏ها و مؤسسات تحقیقاتی مختلف در سطح اروپاست.

• BDEC⁵⁰: با این ایده آغاز به کار کرده است که برنامه‏های جهانی در حوزه رایانش با کارایی بالا باید توجه ویژه‏ای به بحث Big Data داشته باشند. در حقیقت، اگرچه جهت‏گیری‏های جهانی به سمت رایانش Exascale است، اما با توجه به اهمیت موضوع Big Data، لازم است که در این جهت‏گیری‏ها، ساختارهای مورد نیاز داده‏های عظیم هم مورد توجه قرار گیرد.

• SPEC⁵¹: یک شرکت غیرانتفاعی است که تولید کننده ابزارها و Benchmarkهای استاندارد در حوزه ارزیابی کارایی و انرژی مصرفی سامانه‏های پردازش فوق سریع است.

• VI-HPS⁵²: مؤسسه مجازی متشکل از 14 مؤسسه تحقیقاتی در سراسر جهان است که هدف‏گذاری آن تولید نرم‏افزارهایی جهت کار با سوپرکامپیوترهاست.

• JARA-CSD⁵³: شرکت Forschungszentrum Jülich و دانشگاه RWTH Aachen در آلمان با همکاری یکدیگر مرکز شبیه سازی و علم داده را پایه گذاری کرده‏اند که هدف‏گذاری آن در 4 حوزه تحقیقاتی، آموزشی، توسعه زیرساخت‏ها و انجام شبیه‏سازی‏ها و فعالیت‏های مرتبط با علم داده برای متقاضیان تقسیم‏بندی شده است.

• OpenMP⁵⁴: OpenMP ARB مالک استاندارد OpenMP در زمینه برنامه‏نویسی رایانش با کارایی بالا است که به صورت مداوم فعالیت توسعه و تکمیل این استاندارد را انجام می‏دهد. متشکل از بیش از 30 دانشگاه، مؤسسه تحقیقاتی و شرکت‏های نرم‏افزاری و سخت‏افزاری است.

• Nvidia⁵⁵: شرکت Nvidia مهم‏ترین و معروف‏ترین شرکت تولید کننده کارت‏های گرافیکی در سطح جهان است که با توجه به فراگیری استفاده از آنها در بحث رایانش با کارایی بالا ، اعتبار قابل توجهی را در این عرصه کسب نموده است. این شرکت در سال 1993 تأسیس گردیده است.

زمینه‏های تحقیقاتی بازیگران فوق‏الذکر مورد بررسی قرار گرفت و بر اساس آن، جدول 2 تهیه گردید. اطلاعات در این جدول بر اساس تعداد بازیگرانی که روی یک موضوع تحقیقاتی توافق داشته‏اند مرتب شده است، به نحوی که ردیف‏های ابتدایی جدول نشان‏دهنده موضوعاتی است که بیشترین تعداد بازیگران روی آنها در حال فعالیت هستند. بر این اساس، می‏توان بیان نمود که کار روی الگوریتم‏ها و روش‏های ریاضی مورد نیاز در برنامه‏هایی که باید روی بسترهای رایانش با کارایی بالا اجرا شوند، در بالاترین اولویت پژوهشی قرار دارد. همچنین، توسعه برنامه‏های کاربردی مورد نیاز سایر علوم هم، با توجه به آنکه عملاً نیاز بسیاری از علوم دیگر را در بر می‏گیرد، اولویت بالایی دارد. در زمینه پیشبرد اهداف رایانش با کارایی بالا ، دو موضوع معماری‏های سخت‏افزاری و مدل‏های برنامه‏نویسی موازی مهم‏ترین اولویت‏های تحقیقاتی و پژوهشی را شکل می‏دهند. مؤلفه‏های سخت‏افزاری و بهره‏وری انرژی هم موضوعات بعدی در این رتبه‏بندی هستند. بهره‏وری انرژی و رایانش سبز هم که با توجه به اهمیت بالای آن در دنیای امروزی قطعا اولویت بالایی دارد و لازم است که توجه ویژه‏ای نسبت به آن صورت پذیرد.

جدول 2. موضوعات تحقیقاتی مورد توجه بازیگران مهم رایانش فوق سریع

به منظور ریزدانه‏تر کردن موضوعات تحقیقاتی فوق‏الذکر، مجموعه‏ای از مهم‏ترین کنفرانس‏های بین‏المللی در حوزه رایانش فوق‏سریع یا حوزه‏های نزدیک به آن، با جستجو در وب‏سایت http://www.wikicfp.com، انتخاب شده و موضوعات تحقیقاتی پیشنهادی آنها ذیل دسته‏بندی فوق تدوین گردید. نتیجه در جدول 3 قابل مشاهده است.

جدول 3. تدوین ریزدانه‏تر موضوعات تحقیقاتی با توجه به پیشنهادات کنفرانس‏های مرتبط که در سال 2021 برگزار شدهاند.

دسته‏بندی موضوعات تحقیقاتی	موضوعات تحقیقاتی
الگوریتم‏ها و روش‏های ریاضی	· High-performance scientific and engineering computing · Numerical Solvers · Mixed Arithmetics · Mathematical, probabilistic and statistical models and theories · Large scale optimization
برنامه‏های کاربردی	· Computational science and scalable methods · Using HPC for scalable multi-scale, multi-physics, and high-fidelity computational science · Structured and unstructured meshes using extreme scale computing · Computational biology, earth sciences, cosmology, fluid dynamics, plasma modeling · High Performance Systems for Medical Applications · Machine Learning for Weather and Climate · Machine Learning in Life Sciences · Education, health, cost/energy-efficient design, smart cities, emerging markets, and interdisciplinary applications
معماری‏های سخت‏افزاری	· Parallel and distributed system architectures · Exascale Systems · Multicore, Many-core and Multithreaded Architectural Approaches · HW Heterogeneity · System-on-chip · Reconfigurable architectures · Node and system architecture for HPC and Big Data clusters · Energy-efficient cluster architectures · 3D-stacking
مدل‏های برنامه‏نویسی موازی	· Parallel and distributed software technologies · Parallel and distributed algorithms · Peer-to-peer computing · High performance Adaptive and Evolvable Computing · Grid and cluster computing · Web services and Internet computing · Cloud computing · Synchronization and concurrency control · High-level parallel programming and performance models (e.g. BSP, CGM, LogP, MPM, etc.) and too · Declarative parallel and distributed programming methodologies based on functional, logical, data-flow, actor, and other paradigms · Efficient code generation, auto-tuning and optimization for parallel and distributed programs · High-level parallel methods for large structured and semi-structured datasets · Novel task-based runtime environments · Hybrid programming techniques in applications and libraries (e.g., MPI+X) · Programming models for Big Data processing · Stream Processing · Networking, network function virtualization, software-defined networking · Memory policies and management · Approximate, analog, inexact, probabilistic computing · Large-scale databases · Simulation of Exascale Systems
مؤلفه‏های سخت‏افزاری	· RISC-V as Next-Generation HPC Components · Support and integration of non-volatile memory · GPUs, FPGAs and accelerator architectures · ASIC and FPGA Advances · ISA & processors · System and network interconnects · New Memory and Storage Technologies · Off-Chip/On-Chip Interconnection Networks · Interconnect/memory architectures · Chiplets · Accelerator-based architectures · Architectures and compiler techniques to accelerate deep neural networks, neuromorphic accelerators
بهره‏وری انرژی	· Programming language and compilation techniques for reducing energy and data movement · HPC for the Energy Transition · High performance Energy Aware Information Systems · Energy-efficient cluster architectures · Energy-efficient middleware · Power- and energy-management for clouds, datacenters, and exascale systems
ابزارهای سنجش کارایی	· Performance evaluation and measurement · Early hardware evaluations · Performance modeling for AI/ML/DL applications · Scalable tools and instrumentation infrastructure for measurement, monitoring, and/or visualization of performance · Performance Modeling and Tuning for Exascale Systems · Profiling and performance monitoring of task-based environments · Stochastic and non-deterministic models and metrics for performance, reliability, safety, correctness, and security · New algorithms for the analysis or simulation of stochastic, probabilistic and non-deterministic models

7. جمع‏بندی

در این مقاله، هدف بررسی الزامات و نیازمندی‏های سخت‏افزاری و نرم‏افزاری برای آینده رایانش با کارایی بالا ، با تمرکز بر فناوری‏های دست‏یافتنی در بازه زمانی کوتاه مدت بود. در حقیقت، اگرچه فناوری‏هایی نظیر پردازش کوآنتومی احتمالاً یکه تاز آینده رایانش با کارایی بالا در 10 تا 20 سال آینده خواهند بود، اما در 3 تا 5 سال آینده، به صورت جدی وارد عرصه سرویس‏دهی عمومی نمی‏شوند. از این رو، تمرکز بر توان پردازشی مقیاس اگزا بوده است.

فناوری‏های سخت‏افزاری در این زمینه مورد بررسی قرار گرفتند و نشان داده شد که شتاب‏دهنده‏ها، شامل GPUها، TPUها و IPUها، سهم بسزایی در این زمینه دارند. همچنین، معماری‏های پردازنده‏ای خاص منظوره (ASIC) و FPGAها نیز نقش آفرینی بسیار جدی در بازار آینده رایانش فوق سریع خواهند داشت. فناوری ارتباطی ترابیت اترنت و ذخیره‏سازی در مقیاس اگزابایت با تکیه بر فایل سیستم Luster دیگر جنبه‏های سخت‏افزاری را تشکیل می‏دهند.

در حوزه نرم‏افزار، واسط برنامه‏نویسی MPI همچنان مهم‏ترین و کارآمدترین فناوری ارتباطی مابین گره‏های پردازشی خواهد بود. اما به منظور ساده‏تر شدن استفاده از آن، تنوع بالایی از ابزارها ارائه شده‏اند که روی MPI سوار شده و می‏توانند به برنامه‏نویسان این حوزه کمک کنند که با سهولت بیشتری به توسعه نیازمندی‏های خود بپردازند. OpenMP برای ارتباطات درون گره‏ای و OpenCL برای ارتباطات میان گره‏های پردازشی ناهمسان ارائه شده‏اند. فرمت فایل‏های HDF5 و Parallel NetCDF هم طبق آنچه که در پروژه‏های آینده‏پژوهشی کشورهای توسعه یافته مشاهده شده است، مهم‏ترین فرمت‏هایی هستند که ابزارها و نرم‏افزارهای حوزه رایانش با کارایی بالا از آنها استفاده خواهند نمود.

در نهایت، با بررسی فعالیت‏های بازیگران مطرح در حوزه تحقیقات رایانش با کارایی بالا ، لیستی از مهم‏ترین محورهای پژوهشی در این حوزه استخراج گردید. در این لیست، به ترتیب «ارائه الگوریتم‏ها و روش‏های ریاضی»، «توسعه برنامه‏های کاربردی مورد نیاز سایر علوم» ، «معماری‏های سخت‏افزاری»، «مدل‏های برنامه‏نویسی موازی»، «مؤلفه‏های سخت‏افزاری» و «بهره‏وری انرژی» جای گرفته‏اند. به منظور ریزدانه‏تر کردن این محورها و رسیدن به لیستی از موضوعات تحقیقاتی مطرح، 20 کنفرانس‏ معتبری که در نیمه دوم سال 2021 در حوزه رایانش با کارایی بالا برگزار شدهاند، انتخاب شده و فراخوان‏های مقالات آنها مورد بررسی قرار گرفت. بر این اساس، لیستی از موضوعات تحقیقاتی به دست آمد که ذیل محورهای فوق‏الذکر دسته‏بندی شدند.

مراجع

[1] "What is High-Performance Computing?," ed. https://www.netapp.com/data-storage/high-performance-computing/what-is-hpc/, 2021.

[2] "High Performance Computing with Accelerators," ed. https://www.seminarsonly.com/computer%20science/High-Performance-Computing-with-Accelerators.php, 2021.

[3] "HPC IN 2020: COMPUTE ENGINE DIVERSITY GETS REAL," ed. https://www.nextplatform.com/2020/01/13/hpc-in-2020-compute-engine-diversity-gets-real/, 2020.

[4] "HPC PROCESSORS – GREATER PERFORMANCE OVER TRADITIONAL CPUS," ed. https://www.aspsys.com/solutions/hpc-processors/, 2020.

[5] "What is GPU Computing?," ed. https://www.e4company.com/en/2021/02/what-is-gpu-computing/, 2021.

[6] "What Is a GPU?," ed. https://www.intel.com/content/www/us/en/products/docs/processors/what-is-a-gpu.html, 2020.

[7] "AMD Announces World’s Fastest HPC Accelerator for Scientific Research¹," ed. https://www.amd.com/en/press-releases/2020-11-16-amd-announces-world-s-fastest-hpc-accelerator-for-scientific-research, 2020.

[8] "Re-Imagining Codesign," ed. https://www.orau.gov/ASCR-CoDesign/, 2021.

[9] "GRAPHCORE IPU-M-2000," ed. https://www.boston.co.uk/products/ipu-m2000.aspx, 2021.

[10] "An AI acceleration solution for production environments," ed. https://www.hpcwire.com/2021/02/22/massively-scalable-ai-that-seamlessly-works-with-your-existing-infrastructures-power-availability-and-budget/, 2021.

[11] L. Armasu, "Google's Big Chip Unveil For Machine Learning: Tensor Processing Unit With 10x Better Efficiency (Updated)," Tom's Hardware, 2016.

[12] Y. E. Wang, G.-Y. Wei, and D. Brooks, "Benchmarking tpu, gpu, and cpu platforms for deep learning," arXiv preprint arXiv:1907.10701, 2019.

[13] P. Teich, "Tearing apart Google’s TPU 3.0 AI coprocessor," Retrieved June, vol. 12, p. 2018, 2018.

[14] N. P. Jouppi et al., "A domain-specific supercomputer for training deep neural networks," Communications of the ACM, vol. 63, no. 7, pp. 67-78, 2020.

[15] P. G. A. Tekin.Tuncer Durak. Piechurski. Kaliszan. Aylin Sungur. Robertsén, "State-of-the-Art and Trends for Computing and Interconnect Network Solutions for HPC and AI," 2020.

[16] "2020 Roadmap," ed. https://ethernetalliance.org/technology/2020-roadmap/, 2020.

[17] "Terabit Ethernet: The New Hot Trend in Data Centers," ed. https://www.lanner-america.com/blog/terabit-ethernet-new-hot-trend-data-centers/, 2019.

[18] "High-Performance Computing Storage," ed: https://dzone.com/articles/high-performance-computing-storage-hybrid-cloud-pa, 2020.

[19] "Introduction to Lustre," ed. https://wiki.lustre.org/Introduction_to_Lustre, 2017.

[20] D. P. C. Prof. Dr. Theo Ungerer, "Eurolab4HPC Long-Term Vision on High-Performance Computing (2nd Edition)," 2020.

[21] "Introduction to Parallel Computing Tutorial " Livermore Computing Center. https://hpc.llnl.gov/training/tutorials/introduction-parallel-computing-tutorial (accessed 2021).

[22] "MVAPICH: MPI over InfiniBand, Omni-Path, Ethernet/iWARP, and RoCE." Network-Based Computing Laboratory. https://mvapich.cse.ohio-state.edu/ (accessed.

[23] "OpenMP 5.0 API Reference Guide," 2019.

[24] "KOKKOS package." Sandia Corporation. https://lammps.sandia.gov/doc/Speed_kokkos.html (accessed 2021).

[25] C. Kessler and J. Keller, "Models for parallel computing: Review and perspectives," Mitteilungen-Gesellschaft für Informatik eV, Parallel-Algorithmen und Rechnerstrukturen, vol. 24, pp. 13-29, 2007.

[26] "The OmpSs Programming Model." 2021 Programming Models Group BSC. https://pm.bsc.es/ompss (accessed April, 2021).

[27] V. K. Pallipuram, M. Bhuiyan, and M. C. Smith, "A comparative study of GPU programming models and architectures using neural networks," The Journal of Supercomputing, vol. 61, no. 3, pp. 673-718, 2012.

[28] "The OpenCL Specification," 2020. [Online]. Available: https://www.khronos.org/registry/OpenCL/specs/3.0-unified/pdf/OpenCL_API.pdf

[29] "rCUDA v20.07 alpha User’s Guide," 2020.

[30] T. K. S. W. Group, "SYCL 2020 Specification (revision 3)," 2020.

[31] "SkePU Autotunable Multi-Backend Skeleton Programming Framework for Multicore CPU and Multi-GPU Systems." https://skepu.github.io/ (accessed 2021).

[32] J. Szuppe, "Boost. Compute: A parallel computing library for C++ based on OpenCL," in Proceedings of the 4th International Workshop on OpenCL, 2016, pp. 1-39.

[33] "WHAT IS HDF5?" https://support.hdfgroup.org/HDF5/whatishdf5.html (accessed 2021).

[34] "HDF5, the new ICM+ data format." University of Cambridge. https://icmplus.neurosurg.cam.ac.uk/home/icm-features/hdf5-new-icm-data-format/ (accessed 2021).

[35] "PnetCDF." Center Of Ultra-Scale Computing and Information Security. http://cucis.ece.northwestern.edu/projects/PnetCDF/ (accessed 2021).

[36] T. Grass et al., "MUSA: a multi-level simulation approach for next-generation HPC machines," in SC'16: Proceedings of the International Conference for High Performance Computing, Networking, Storage and Analysis, 2016: IEEE, pp. 526-537.

[37] M. Radulovic, R. Sánchez Verdejo, P. Carpenter, P. Radojković, B. Jacob, and E. Ayguadé, "PROFET: modeling system performance and energy without simulating the CPU," Proceedings of the ACM on Measurement and Analysis of Computing Systems, vol. 3, no. 2, pp. 1-33, 2019.

[38] "Extra-P." https://www.scalasca.org/scalasca/software/extra-p/download.html (accessed 2021).

[39] "Dimemas: predict parallel performance using a single cpu machine." BSC. https://tools.bsc.es/dimemas (accessed 2021).

[40] "Paraver: a flexible performance analysis tool." BSC. https://tools.bsc.es/paraver (accessed 2021).

[41] R. Farber, "AI-HPC is Happening Now," 5082598570, 2017.

[42] M. Savonin. "How to Leverage High Performance Computing (HPC) for AI." (accessed.

[43] V. Lee, "Progress in HPC + AI Convergence High performance Computing ( HPC )."

[44] S. Conway, A. Norton, B. Sorensen, and E. Joseph, "Technology Spotlight The Future of HPC Cloud Computing Sponsored by Google," 2019.

[45] T. Vopham, J. E. Hart, F. Laden, and Y. Y. Chiang, "Emerging trends in geospatial artificial intelligence (geoAI): Potential applications for environmental epidemiology," Environmental Health: A Global Access Science Source, vol. 17, pp. 1-6, 2018, doi: 10.1186/s12940-018-0386-x.

[46] Y. Fan, Z. Lan, T. Childers, P. Rich, W. Allcock, and M. E. Papka, "Deep Reinforcement Agent for Scheduling in HPC," arXiv preprint arXiv:2102.06243, 2021.

[47] J. Bang et al., "HPC Workload Characterization Using Feature Selection and Clustering," presented at the Proceedings of the 3rd International Workshop on Systems and Network Telemetry and Analytics, 2020.

[48] Y. Liu et al., "GPTune: Multitask learning for autotuning exascale applications," presented at the Proceedings of the ACM SIGPLAN Symposium on Principles and Practice of Parallel Programming, PPOPP, 2021.

[49] G. Batra, Z. Jacobson, S. Madhav, A. Queirolo, and N. Santhanam, "Artificial-intelligence hardware: New opportunities for semiconductor companies," McKinsey & Company, New York, NY, USA, Tech. Rep, 2018.

[50] A. Rodriguez. "Lowering Numerical Precision to Increase Deep Learning Performance." https://www.intel.com/content/www/us/en/artificial-intelligence/posts/lowering-numerical-precision-increase-deep-learning-performance.html (accessed.

[51] C. Y. A. C. Zhang Kai. "The Development Trends of Six Major Container Technologies in 2021." https://www.alibabacloud.com/blog/the-development-trends-of-six-major-containertechnologies-in-2021_597227 (accessed.

[52] E. Hsu, "Cloud Adoption is Driving HPC Toward Digital R&D," 2021. [Online]. Available: http://www.bigcompute.org/blog/state-of-cloud-hpc

[53] "Google Cloud Announces ‘Pre-Tuned’ HPC VM Images." https://www.hpcwire.com/off-the-wire/google-cloud-announces-pre-tuned-hpc-vmimages (accessed.

[1] https://www.top500.org

[2] https://www.exascaleproject.org

[3] https://www.etp4hpc.eu

[4] https://www.truba.gov.tr

[5] https://www.hpc.kaust.edu.sa

[6] http://www.eguangzhou.gov.cn

[7] https://insidehpc.com/hpc-basic-training/what-is-hpc/

[8] Compound annual growth rate (CAGR)

[9] application-specific integrated circuit

[10] Neural network Processing Unit

[11] Intelligence Processing Unit

[12] قانون مور بيان می‌کند که تعداد ترانزیستورها در یک مدار مجتمع متراکم (IC) تقریباً هر دو سال دو برابر می‏شود

[13] exchange memory

[14] rack unit

[15] Tensor Processing Unit

[16] joule

[17] Compute Express Link

[18] Cache coherent interconnect for accelerators

[19] Ultra-Path Interconnect

[20] Quick Path Interconnect

[21] Coherent Accelerator Processor Interface

[22] Giga Transfers/s

[23] Global single-namespace

[24] Portable Operating System Interface

[25] Message Passing Interface

[26] Network-based computing laboratory

[27] Locks

[28] Semaphores

[29] Open Multi-Processing

[30] General Purpose Graphical Processing Unit

[31] Open Computing Language

[32] Skeleton programming

[33] Single Instruction Multiple Data

[34] https://www.epfl.ch/research/domains/bluebrain/

[35] Task Scheduling

[36] First Come First Serve

[37] Breadth First Search

[38] Giga Traversed Edges per Second

[39] Cloud Service Provider

[40] Elasticity

[41] Multi Instance GPU

[42] Remote Direct Memory Access

[43] https://www.isc-group.com/home.html

[44] https://www.exascaleproject.org

[45] Department of Energy (DoE)

[46] National Nuclear Security Administration (NNSA)

[47] https://www.etp4hpc.eu

[48] https://jlesc.github.io

[49] https://www.hipeac.net

[50] https://www.spec.org/

[51] https://www.vi-hps.org/

[52] https://www.vi-hps.org/

[53] https://www.jara.org/en/research/center-for-simulation-and-data-sciences

[54] https://www.openmp.org/

[55] https://nvidia.com

High Performance Computing: Next Generation Requirements and Research Axes

Abstract:

Nowadays, increasing the processing power of supercomputers is a worldwide race. This race, signifies the importance of supercomputers in the current era. They are engines of improving technology in almost all scientific areas, such as computational biology, earth sciences, cosmology, fluid dynamics, and plasma modeling, to name a few. Next generation of supercomputers can be divided into two broad categories: 1) emerging technologies such as neuromorphic and quantum computing and 2) Exascala computing. Emerging technologies will be the future of supercomputing, however, not in a very recent future. Therefore, in this paper, we have focused on Exascale computing, and have tried to provide a comprehensive overview of the main requirements for this technology to be achieved and become available. Requirements have been overviewed from different aspects; hardware, software, artificial intelligence, and cloud computing. In addition, we have attempted to provide a complete taxonomy of hot research topics within this area.

Keywords: High performance computing, Exascale computing, Hardware architectures, Software architectures

شارک

عنوان URL للمقالة

رایانش با کارایی بالا: الزامات، نیازمندی‏های نسل‏های آتی و محورهای تحقیقاتی

رایمگ

الروابط

المراكز ذات الصلة

دعامة

الصفحات الرسمية