תערובת מומחים לביצוע פקודות קריפטו: יציבות וסיכון זנב
סיכום
המחקר משווה בין למידת Q עמוקה כפולה לבין תערובות מומחים המחולקות לפי K-means ורשתות צפופות עם מספר פרמטרים תואם, לביצוע פקודות BTC/USDT. ההערכה משתמשת בנתוני ספר פקודות לימיט של Binance, מצרפיים לממוצע בחלונות של חמש דקות, ומתמקדת בחסר בביצוע, בשונות בין זרעי אימון, בקריסת מדיניות ובסיכון זנב בתוך מדיניות. התוצאות מושוות למחיר ממוצע משוקלל בזמן ולאמות מידה של חיסול מיידי בסביבת הפעלה חוזרת, שבה חיסול מוקדם כמעט חסר עלות בשל תכנון התגמול והקנס המוצהר.
אף תצורת למידה אינה משפרת באופן מובהק את החסר הממוצע לעומת הלומד הבסיסי, ולכל אחת מהן חסר ממוצע גבוה יותר מאשר לשתי אמות המידה הפשוטות במפרט זה. ניתוחים של זרעים חוזרים ואבלציה מקשרים מניעת קריסה לחקירה מדורגת, ולא לתועלת פנימית של תערובת מומחים; שילוב שינויים בחקירה ובתגמול עלול להחזיר את הקריסה. תצורת המומחים הגדולה ביותר מציגה את הפיזור הנמוך ביותר בין זרעים, אך תוצאה זו אינה עמידה לתיקון עבור השוואות מרובות, בעוד שסיכון הזנב בתוך המדיניות מחמיר ככל שמספר המומחים גדל. ממצאים אלה ספציפיים לסביבה ולמפרטים שנבדקו, והשינוי בייחוס בין מספרי זרעים מדגיש את אי־הוודאות בהערכה.
רעיונות מרכזיים
- תצורות תערובת המומחים שנבדקו אינן מפחיתות באופן מובהק את החסר הממוצע לעומת למידת Q עמוקה כפולה רגילה.
- בסביבת ההפעלה החוזרת המוגדרת, מחיר ממוצע משוקלל בזמן וחיסול מיידי עולים בביצועיהם על תצורות הלמידה מבחינת החסר הממוצע.
- חקירה מדורגת מדכאת את קריסות המדיניות שנצפו בלי צורך בחלוקה למומחים.
- הפיזור בין זרעים וסיכון הזנב בתוך המדיניות משתנים באופן שונה עם הגדלת מספר המומחים.
- ייחוס מצבי הכשל עשוי להשתנות לפי מספר זרעי האימון, ולכן חשובה הערכה עם זרעים חוזרים.
תגיות
הטקסט המלא
# Mixture-of-Experts for Cryptocurrency Order Execution: Training Stability, Tail Risk, and Failure Modes
# Mixture-of-Experts for Cryptocurrency Order Execution: Training Stability, Tail Risk, and Failure Modes
Deep reinforcement-learning policies for order execution can vary substantially across training seeds, so apparent architectural gains may reflect favourable training realisations rather than reproducible properties of the architecture. We evaluate vanilla Double Deep Q-Learning (DDQL), K-means-partitioned mixtures of DDQL experts at $K \in \{2, 4, 8\}$, and dense networks parameter-matched to the $K{=}4$ and $K{=}8$ expert budgets on 5-minute mean-aggregated BTC/USDT limit order book data from Binance. No learned configuration significantly improves mean implementation shortfall over DDQL. Under the reported specification, all have higher mean shortfall than TWAP (0.39 bps) and immediate liquidation (0.21 bps) in an environment whose frictionless replay and terminal-urgency penalty make early liquidation nearly costless; 11/100 vanilla-DDQL runs, versus none in either MoE $K{\geq}4$ arm, converge to a policy that waits until forced liquidation. We then decompose this specification on a device-matched baseline. Annealed exploration alone eliminates observed collapses (12/100 to 0/100; exact McNemar $p{=}4.9{\times}10^{-4}$), matching the elimination under expert partitioning. Combining annealed exploration with the aligned reward restores collapse in 19/30 runs; with all three specification changes, it rises to 48/100. In this environment, expert partitioning is unnecessary to suppress collapse and appears to mask a training-specification failure rather than confer an intrinsic performance benefit. No MoE $K{=}8$ run collapses under any of the six specifications tested. Across-seed dispersion is lowest at $K{=}8$ but non-monotone and not robust to family-wise adjustment, while within-policy tail risk worsens monotonically with $K$. The apparent attribution of the failure mode reverses between 30 and 100 seeds, illustrating the importance of repeated-seed evaluation.מוצג במלואו בציון המקור ובהתאם לרישיון שלו. רישיון: abstract CC0
הסיכום נכתב בידי סוכן המחקר של Stratmill על סמך המקור; הוא אינו העתק של המקור.