فلش‌کارت‌های آموزشی از الگوریتم‌های تقسیم عادلانه تا دستکاری استراتژیک: چگونه LLMها بازی را تغییر می‌دهند

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره از الگوریتم‌های تقسیم عادلانه تا دستکاری استراتژیک: چگونه LLMها بازی را تغییر می‌دهند

موضوع کلی: هوش مصنوعی و اخلاق در داده‌کاوی

موضوع میانی: سوء استفاده از الگوریتم‌های تقسیم عادلانه با کمک LLM

📋 سرفصل‌های دوره

• 1. مقدمه: چرا این دوره مهم است؟
• 2. هوش مصنوعی، اخلاق و داده‌کاوی: یک نمای کلی
• 3. مفهوم "تقسیم عادلانه" در علوم کامپیوتر و اقتصاد
• 4. چالش‌های اخلاقی در سیستم‌های خودمختار
• 5. پیش‌زمینه‌ای بر الگوریتم‌ها و تصمیم‌گیری‌های اجتماعی
• 6. مسئله "استراتژی" در طراحی مکانیزم‌ها
• 7. نقش LLMها در تغییر دینامیک‌های اجتماعی-اقتصادی
• 8. معرفی مقاله الهام‌بخش: "When AI Democratizes Exploitation"
• 9. اهداف یادگیری این دوره
• 10. ساختار کلی دوره
• 11. تعریف تقسیم عادلانه: مفاهیم پایه
• 12. تاریخچه و اهمیت نظریه تقسیم عادلانه
• 13. منابع قابل تقسیم (Divisible Resources) در مقابل منابع غیرقابل تقسیم (Indivisible Resources)
• 14. معیارهای عدالت: مقدمه‌ای بر حسادت‌گریزی (Envy-Freeness)
• 15. معیارهای عدالت: تناسب (Proportionality)
• 16. معیارهای عدالت: برابری (Equitability)
• 17. معیارهای عدالت: کارایی (Efficiency) و مفهوم پارتو بهینه
• 18. تابع مطلوبیت (Utility Function) و بیان ترجیحات
• 19. مدل‌های ترجیحات: از ترتیبی تا کمی
• 20. الگوریتم "تقسیم و انتخاب" (Divide and Choose) برای دو نفر
• 21. گسترش "تقسیم و انتخاب" به چند نفر: چالش‌ها
• 22. الگوریتم "برنده تنظیم‌شده" (Adjusted Winner)
• 23. روش‌های برش کیک (Cake Cutting): مقدمه
• 24. روش "آخرین کاهنده" (Last Diminisher) برای برش کیک
• 25. روش "نقطه‌چین" (Moving Knife) برای برش کیک
• 26. تقسیم عادلانه برای اقلام غیرقابل تقسیم: مزایده‌ها (Auctions)
• 27. مزایده Vickrey-Clarke-Groves (VCG) و مکانیسم‌های راستگو
• 28. مکانیسم‌های تقسیم عادلانه برای تخصیص وظایف و بار کاری
• 29. محدودیت‌ها و فرضیات در طراحی الگوریتم‌های تقسیم عادلانه
• 30. چالش‌های عملی در پیاده‌سازی تقسیم عادلانه
• 31. نقش اطلاعات کامل در الگوریتم‌های تقسیم عادلانه
• 32. تأثیر اطلاعات ناقص بر عدالت
• 33. تعریف "منطقه‌ای عادلانه" (Fair Allocation Region)
• 34. مثال‌های کاربردی تقسیم عادلانه در دنیای واقعی
• 35. مرور معیارهای کلیدی عدالت و کاربرد آنها
• 36. LLMها چه هستند؟ مقدمه‌ای بر مدل‌های زبانی بزرگ
• 37. تاریخچه مختصر توسعه LLMها
• 38. معماری‌های پایه LLMها (ترانسفورمرها به اختصار)
• 39. قابلیت‌های کلیدی LLMها: تولید متن، خلاصه‌سازی، ترجمه
• 40. LLMها به عنوان ابزاری برای استدلال و حل مسئله
• 41. فهم زبان طبیعی (NLU) در LLMها
• 42. تولید زبان طبیعی (NLG) در LLMها
• 43. محدودیت‌های LLMها: خطای واقعیت (Hallucination)
• 44. سوگیری (Bias) در LLMها و ریشه‌های آن
• 45. مسئله "قابلیت تفسیر" (Interpretability) در LLMها
• 46. استفاده از LLMها به عنوان عامل‌های خودمختار (Autonomous Agents)
• 47. مهندسی پرامپت (Prompt Engineering) برای تعامل موثر
• 48. پرامپت‌های زنجیره‌ای فکری (Chain-of-Thought Prompting)
• 49. نقش LLMها در مدل‌سازی رفتار انسانی
• 50. LLMها و داده‌های ترجیحات کاربر
• 51. تعریف "دستکاری استراتژیک" (Strategic Manipulation)
• 52. چرا افراد/عوامل دستکاری می‌کنند؟ انگیزه‌ها
• 53. پیامدهای منفی دستکاری برای عدالت و کارایی
• 54. قضیه عدم امکان آرو (Arrow's Impossibility Theorem) در زمینه انتخاب اجتماعی
• 55. قضیه گیبارد-ساترثویت (Gibbard-Satterthwaite Theorem) و پیامدهای آن
• 56. مکانیسم‌های راستگو (Strategyproof Mechanisms)
• 57. هزینه دستکاری: منابع، زمان، ریسک
• 58. انواع استراتژی‌های دستکاری: دروغ گفتن در مورد ترجیحات
• 59. انواع استراتژی‌های دستکاری: تبانی (Collusion) بین عوامل
• 60. تشخیص دستکاری: چالش‌ها و روش‌ها
• 61. آسیب‌پذیری الگوریتم‌های تقسیم عادلانه به دستکاری
• 62. مطالعه موردی: دستکاری در الگوریتم "تقسیم و انتخاب"
• 63. مطالعه موردی: دستکاری در روش‌های برش کیک
• 64. دستکاری در مکانیسم‌های مزایده
• 65. تأثیر اطلاعات ناقص بر امکان دستکاری
• 66. تحلیل بازی (Game Theory) به عنوان ابزاری برای درک دستکاری
• 67. تعادل نش (Nash Equilibrium) در زمینه دستکاری
• 68. بازی‌های با اطلاعات کامل و ناقص
• 69. نقش واسطه‌ها در کاهش دستکاری
• 70. ایجاد عدم قطعیت برای بازدارندگی دستکاری
• 71. دموکراتیزه کردن بهره‌برداری: LLMها چگونه بازی را تغییر می‌دهند؟
• 72. LLMها به عنوان ابزاری برای شناسایی آسیب‌پذیری‌های الگوریتمی
• 73. کاهش هزینه و پیچیدگی دستکاری با LLMها
• 74. LLMها برای شبیه‌سازی رفتار عوامل انسانی
• 75. تولید خودکار استراتژی‌های دستکاری بهینه توسط LLMها
• 76. دستکاری ترجیحات توسط LLMها: جعل هویت، تغییر بیان
• 77. مطالعه موردی: LLMها و الگوریتم‌های تقسیم کیک
• 78. مطالعه موردی: LLMها و تخصیص اقلام غیرقابل تقسیم
• 79. LLMها برای ایجاد تبانی در مقیاس وسیع
• 80. نقش LLMها در درک "محیط بازی" و دینامیک آن
• 81. LLMها و حملات مبتنی بر اطلاعات نامتقارن
• 82. چگونه یک LLM می‌تواند "ترفندهای" انسانی را یاد بگیرد و به کار گیرد؟
• 83. LLMها به عنوان یک "مشاور استراتژیک" برای عوامل بهره‌بردار
• 84. LLMها برای پنهان کردن اهداف واقعی دستکاری
• 85. پیامدهای اخلاقی قدرت دستکاری LLM-محور
• 86. افزایش بی‌عدالتی به دلیل دسترسی نابرابر به LLMهای قدرتمند
• 87. دستکاری توسط هوش مصنوعی: فراتر از قصد انسانی
• 88. مفهوم "بهره‌برداری خودکار" (Automated Exploitation)
• 89. مسئولیت‌پذیری در مواجهه با دستکاری‌های LLM-محور
• 90. چالش‌های حقوقی و نظارتی برای LLMهای دستکاری‌گر
• 91. طراحی الگوریتم‌های تقسیم عادلانه مقاوم به دستکاری (Robust)
• 92. استفاده از LLMها برای شناسایی و پیش‌بینی دستکاری
• 93. مکانیسم‌های تشویقی (Incentive Mechanisms) برای راستگویی
• 94. افزایش شفافیت و قابلیت توضیح‌پذیری (Explainability) در سیستم‌های AI
• 95. نظارت و تشخیص الگوهای مشکوک در تعاملات LLM
• 96. توسعه اخلاقی هوش مصنوعی: اصول و چارچوب‌ها
• 97. نقش سیاست‌گذاری و قانون‌گذاری در مهار بهره‌برداری AI-محور
• 98. آینده تقسیم عادلانه در دنیای هوش مصنوعی
• 99. مرزهای پژوهش: دفاع تهاجمی در برابر LLMهای دستکاری‌گر
• 100. جمع‌بندی: همزیستی با هوش مصنوعی مسئولیت‌پذیر