کتاب صوتی کشینگ هوشمند در هوش مصنوعی: تحول عملکرد از دقیقه به ثانیه با حافظه‌های فلش

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره کشینگ هوشمند در هوش مصنوعی: تحول عملکرد از دقیقه به ثانیه با حافظه‌های فلش

موضوع کلی: طراحی و بهینه‌سازی سلسله‌مراتب حافظه

موضوع میانی: استراتژی‌های کشینگ و مدیریت داده برای پلتفرم‌های هوش مصنوعی

📋 سرفصل‌های دوره

• 1. ### کشینگ هوشمند در هوش مصنوعی: تحول عملکرد از دقیقه به ثانیه با حافظه‌های فلش
• 2. بخش اول: مبانی و تاریخچه سلسله‌مراتب حافظه (فصل ۱ تا ۱۵)**
• 3. مقدمه‌ای بر تحول عملکرد: از دقیقه تا ثانیه
• 4. معماری کامپیوتر و مفهوم سلسله‌مراتب حافظه
• 5. رجیسترها و حافظه‌های نهان پردازنده (L1, L2, L3)
• 6. حافظه دسترسی تصادفی دینامیک (DRAM): ستون فقرات حافظه اصلی
• 7. حافظه‌های ذخیره‌سازی سنتی: دیسک‌های سخت مغناطیسی (HDD)
• 8. هرم حافظه: سرعت، هزینه و ظرفیت
• 9. مفهوم محلی بودن ارجاع (Locality of Reference): زمانی و مکانی
• 10. قانون پنج دقیقه‌ای جیم گری: مبانی و تاریخچه
• 11. فرمول اصلی قانون پنج دقیقه‌ای: تعادل هزینه DRAM و I/O دیسک
• 12. مفروضات قانون پنج دقیقه‌ای: هزینه DRAM در برابر دیسک‌های مکانیکی
• 13. تأثیر قانون پنج دقیقه‌ای بر طراحی پایگاه داده‌های اولیه
• 14. کشینگ چیست؟ اصول و اهداف اولیه
• 15. نرخ برخورد (Hit Rate) و نرخ خطا (Miss Rate) در کش
• 16. هزینه خطا (Miss Penalty) و اهمیت آن در عملکرد سیستم
• 17. چرا قانون پنج دقیقه‌ای دیگر کارآمد نیست؟ نشانه‌های اولیه
• 18. بخش دوم: انقلاب سخت‌افزاری: ظهور حافظه‌های فلش (فصل ۱۶ تا ۳۰)**
• 19. معرفی حافظه فلش (Flash Memory): اصول کارکرد
• 20. معماری NAND Flash: بلوک‌ها و صفحات
• 21. تفاوت‌های NAND Flash: SLC, MLC, TLC, QLC و تأثیر آن بر عملکرد
• 22. درایوهای حالت جامد (SSD): جایگزین دیسک‌های مکانیکی
• 23. معماری داخلی یک SSD مدرن
• 24. پروتکل‌های ارتباطی: از SATA تا SAS و PCIe
• 25. انقلاب NVMe: آزادسازی پتانسیل کامل حافظه‌های فلش
• 26. تفاوت عملکردی IOPS و پهنای باند در SSD و HDD
• 27. چالش‌های حافظه فلش: استهلاک نوشتن (Write Endurance) و تقویت نوشتن (Write Amplification)
• 28. دستور TRIM و جمع‌آوری زباله (Garbage Collection) در SSDها
• 29. حافظه‌های پایدار (Persistent Memory - PMem): پل بین DRAM و SSD
• 30. مقایسه هزینه به ازای هر گیگابایت: DRAM در مقابل Flash در مقابل HDD
• 31. مقایسه هزینه به ازای هر IOPS: DRAM در مقابل Flash در مقابل HDD
• 32. تأثیر کاهش شدید قیمت حافظه فلش بر معماری سیستم
• 33. چگونه سخت‌افزار جدید، مفروضات قدیمی طراحی سیستم را به چالش می‌کشد
• 34. بخش سوم: بارهای کاری عصر هوش مصنوعی: یک چالش جدید (فصل ۳۱ تا ۴۵)**
• 35. ویژگی‌های بارهای کاری هوش مصنوعی: حجم داده، دسترسی تصادفی
• 36. سیستم‌های توصیه‌گر: چالش جداول تعبیه (Embedding Tables)
• 37. اندازه عظیم Embedding Tables و عدم امکان جای‌گیری در DRAM
• 38. الگوهای دسترسی پراکنده و تصادفی به جداول تعبیه
• 39. پردازش گراف: چالش‌های دسترسی نامنظم در شبکه‌های عصبی گراف (GNN)
• 40. مدل‌های زبان بزرگ (LLM): نیازهای حافظه در حین آموزش و استنتاج
• 41. تنگنای I/O در آموزش مدل‌های هوش مصنوعی مبتنی بر داده‌های حجیم
• 42. کشینگ داده‌های آموزشی (Training Data Caching)
• 43. تفاوت بارهای کاری تحلیلی (OLAP) و تراکنشی (OLTP) با بارهای کاری AI
• 44. چرا کشینگ سنتی برای بارهای کاری AI کارایی لازم را ندارد؟
• 45. شکست اصل محلی بودن مکانی (Spatial Locality) در بسیاری از مدل‌های AI
• 46. تحلیل پروفایل دسترسی به داده در مدل‌های محبوب AI
• 47. نیاز به پهنای باند بالا و تأخیر کم به صورت همزمان
• 48. نقش زیرسیستم ذخیره‌سازی در زمان استنتاج (Inference)
• 49. تأثیر اندازه بچ (Batch Size) بر الگوی دسترسی به حافظه
• 50. بخش چهارم: بازتعریف قانون: از دقیقه به ثانیه (فصل ۴۶ تا ۶۰)**
• 51. ابطال رسمی قانون پنج دقیقه‌ای در عصر هوش مصنوعی و فلش
• 52. تولد یک قانون جدید: معرفی "قانون چند ثانیه‌ای" (The Few-Seconds Rule)
• 53. متغیرهای جدید در معادله: هزینه فلش، پهنای باند NVMe و هزینه CPU
• 54. محاسبه نقطه سربه‎‌سر (Breakeven Point) جدید برای کشینگ
• 55. تحلیل فرمول جدید: چگونه هزینه هر IOPS از فلش، محاسبات را تغییر می‌دهد
• 56. پیامدهای قانون جدید: تغییر پارادایم در طراحی سیستم
• 57. چه زمانی باید داده‌ها را در DRAM نگه داشت؟
• 58. چه زمانی کش کردن داده‌ها روی فلش NVMe منطقی است؟
• 59. مطالعه موردی: اعمال قانون جدید بر یک سیستم توصیه‌گر
• 60. مقایسه هزینه کل سیستم با استراتژی کشینگ قدیمی و جدید
• 61. حساسیت قانون جدید به تغییرات قیمت سخت‌افزار
• 62. تأثیر قانون جدید بر طراحی نرم‌افزار و لایه‌های مدیریت داده
• 63. از "کش کردن برای جلوگیری از I/O" به "کش کردن برای تغذیه سریع CPU"
• 64. آینده قانون: آیا به "قانون میلی‌ثانیه" خواهیم رسید؟
• 65. چگونه این قانون جدید، معماری مراکز داده را متحول می‌کند
• 66. بخش پنجم: استراتژی‌ها و الگوریتم‌های کشینگ هوشمند (فصل ۶۱ تا ۸۰)**
• 67. مروری بر الگوریتم‌های کشینگ کلاسیک: LRU, LFU, FIFO
• 68. معایب LRU در بارهای کاری با اسکن‌های بزرگ (Scan-Resistant)
• 69. الگوریتم‌های پیشرفته کشینگ: ARC, LIRS, 2Q
• 70. بهینه‌سازی الگوریتم‌های کش برای حافظه‌های فلش
• 71. الگوریتم‌های آگاه از هزینه (Cost-Aware Caching)
• 72. کشینگ چندسطحی (Multi-Tier Caching): ترکیب بهینه DRAM و فلش
• 73. سیاست‌های جایگزینی (Eviction Policies) برای کش‌های چندسطحی
• 74. طراحی لایه کشینگ در نرم‌افزار: کتابخانه‌ها و فریمورک‌ها
• 75. ساختمان داده‌های بهینه برای پیاده‌سازی کش در مقیاس بزرگ
• 76. پیش‌واکشی (Prefetching) هوشمند مبتنی بر مدل‌های یادگیری
• 77. الگوریتم‌های کشینگ تطبیقی (Adaptive Caching)
• 78. شخصی‌سازی سیاست‌های کش برای انواع مختلف بارهای کاری AI
• 79. کشینگ سمت کلاینت در مقابل کشینگ سمت سرور
• 80. استفاده از مدل‌های یادگیری ماشین برای پیش‌بینی دسترسی به داده
• 81. کشینگ نتایج میانی محاسبات در خطوط لوله ML
• 82. مدیریت سازگاری (Consistency) در کش‌های توزیع‌شده
• 83. فشرده‌سازی داده در کش برای استفاده بهینه از فضا
• 84. نقش مستقیم‌سازی I/O (Direct I/O) در سیستم‌های کشینگ
• 85. ابزارها و تکنیک‌های پروفایلینگ برای شناسایی فرصت‌های کشینگ
• 86. مطالعه موردی: پیاده‌سازی یک سیستم کشینگ دو سطحی (DRAM+NVMe)
• 87. بخش ششم: معماری سیستم، پیاده‌سازی و روندهای آینده (فصل ۸۱ تا ۱۰۰)**
• 88. طراحی معماری سیستم‌های داده‌محور با الهام از قانون جدید
• 89. یکپارچه‌سازی کشینگ هوشمند با فریمورک‌های یادگیری عمیق (TensorFlow, PyTorch)
• 90. استفاده از کتابخانه‌هایی مانند caching.ai و scylladb/cache
• 91. مجازی‌سازی ذخیره‌سازی و تأثیر آن بر استراتژی‌های کشینگ
• 92. حافظه و ذخیره‌سازی تفکیک‌شده (Disaggregated Storage) برای AI
• 93. هم‌طراحی سخت‌افزار و نرم‌افزار برای بهینه‌سازی دسترسی به داده
• 94. ذخیره‌سازی محاسباتی (Computational Storage) و نقش آن در کاهش انتقال داده
• 95. استاندارد CXL (Compute Express Link) و آینده سلسله‌مراتب حافظه
• 96. امنیت داده‌های کش‌شده: چالش‌ها و راهکارها
• 97. مانیتورینگ و تحلیل عملکرد کش در سیستم‌های تولیدی
• 98. معیارهای کلیدی عملکرد (KPIs) برای یک سیستم کشینگ موفق
• 99. بهینه‌سازی هزینه زیرساخت (TCO) با استفاده از کشینگ هوشمند
• 100. چالش‌های پیاده‌سازی در سیستم‌های توزیع‌شده و مقیاس‌پذیر