فلش‌کارت‌های آموزشی آموزش جامع برنامه‌نویسی شبکه‌های عصبی با کتابخانه Flax در اکوسیستم JAX

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره آموزش جامع برنامه‌نویسی شبکه‌های عصبی با کتابخانه Flax در اکوسیستم JAX

موضوع کلی: علوم رایانه و هوش مصنوعی

موضوع میانی: یادگیری ماشین و شبکه‌های عصبی عمیق

📋 سرفصل‌های دوره

• 1. مبانی محاسبات عددی در پایتون و معرفی اکوسیستم JAX
• 2. نصب و راه‌اندازی محیط توسعه برای JAX و Flax
• 3. آشنایی با آرایه‌های JAX و تفاوت آن با NumPy
• 4. مفهوم تبدیل Just-in-Time در JAX برای بهینه‌سازی محاسبات
• 5. آشنایی با محاسبه خودکار مشتق در JAX با استفاده از grad و value_and_grad
• 6. مفاهیم پایه کتابخانه Flax برای مدل‌سازی شبکه‌های عصبی
• 7. معرفی ساختار NNX در کتابخانه Flax
• 8. تفاوت رویکرد شی‌گرا در NNX نسبت به نسخه‌های پیشین Flax
• 9. مدیریت وضعیت پارامترها در مدل‌های NNX
• 10. تعریف لایه‌های پایه در Flax NNX
• 11. ساختار کلاس‌ها و متدها در پیاده‌سازی مدل‌های عصبی
• 12. کار با ماژول‌های توکار در Flax
• 13. روش‌های مقداردهی اولیه وزن‌ها در شبکه‌های عصبی
• 14. پیاده‌سازی لایه‌های خطی و فعال‌سازهای غیرخطی
• 15. مفهوم Graph-based و Eager execution در اکوسیستم JAX
• 16. مدیریت متغیرهای مدل و وضعیت‌های داخلی
• 17. پیاده‌سازی توابع زیان در محیط Flax
• 18. آشنایی با بهینه‌سازهای موجود در Optax برای استفاده در Flax
• 19. طراحی حلقه آموزش مدل با استفاده از ابزارهای JAX
• 20. تکنیک‌های تفکیک وزن‌ها و وضعیت در NNX
• 21. استفاده از ابزارهای ذخیره‌سازی و بارگذاری مدل
• 22. پیاده‌سازی معماری‌های چندلایه (MLP) با سینتکس NNX
• 23. کار با توابع تبدیل vmap برای پردازش دسته‌ای داده‌ها
• 24. پیاده‌سازی لایه‌های Dropout و نرمال‌سازی دسته‌ای
• 25. مدیریت زیر-ماژول‌ها در معماری‌های پیچیده
• 26. بهینه‌سازی مصرف حافظه در آموزش شبکه‌های عمیق
• 27. ارزیابی دقت و کارایی مدل در مراحل آموزش
• 28. استفاده از JAX PRNGKey برای مدیریت تصادفی‌سازی
• 29. پیاده‌سازی شبکه‌های عصبی کانولوشنی (CNN) با Flax NNX
• 30. کار با داده‌های تصویری در خط لوله آموزش
• 31. مدیریت داده‌ها با استفاده از tf.data و JAX
• 32. پیاده‌سازی مدل‌های بازگشتی ساده با ابزارهای NNX
• 33. تکنیک‌های اشکال‌زدایی در کدنویسی با JAX
• 34. بهینه‌سازی عملیات ضرب ماتریسی در سخت‌افزارهای شتاب‌دهنده
• 35. استفاده از قابلیت‌های موازی‌سازی داده‌ای در JAX
• 36. طراحی معماری‌های سفارشی با استفاده از APIهای NNX
• 37. بررسی توابع فعال‌ساز پیشرفته در کتابخانه Flax
• 38. پیاده‌سازی مدل‌های طبقه‎‌بندی تصاویر با استفاده از Flax
• 39. نحوه انتقال مدل‌های آموزش‌دیده به محیط عملیاتی
• 40. بهترین روش‌های کدنویسی تمیز در چارچوب Flax NNX