ترکیب متخصصان برای اجرای سفارش رمزارز: پایداری و ریسک دنبالهای
خلاصه
این مطالعه یادگیری Q عمیق دوگانه را با ترکیبهای متخصصانِ بخشبندیشده با K-means و شبکههای متراکمِ هماندازه از نظر تعداد پارامتر، برای اجرای سفارش BTC/USDT مقایسه میکند. ارزیابی از دادههای دفتر سفارش محدود بایننس، تجمیعشده به میانگینهای بازههای پنجدقیقهای، استفاده میکند و بر کسری اجرای سفارش، تغییرات بذر آموزش، فروپاشی سیاست و ریسک دنبالهای درونسیاستی تمرکز دارد. نتایج با معیارهای قیمت میانگین موزون زمانی و تسویه فوری موقعیتها در محیط بازپخش مقایسه میشوند؛ در این محیط، بهدلیل طراحی بیانشده پاداش و جریمه، تسویه زودهنگام موقعیتها تقریباً بدون هزینه است.
هیچ پیکربندی آموختهشدهای در این مشخصات، میانگین کسری را نسبت به یادگیرنده پایه بهطور معناداری بهبود نمیدهد و میانگین کسری هرکدام از دو معیار ساده بیشتر است. تحلیلهای بذرهای تکراری و حذف مؤلفهها، جلوگیری از فروپاشی را به اکتشاف کاهشی نسبت میدهند، نه مزیتی ذاتی از ترکیب متخصصان؛ ترکیب تغییرات اکتشاف و پاداش میتواند فروپاشی را بازگرداند. بزرگترین پیکربندی متخصصان کمترین پراکندگی میان بذرها را نشان میدهد، اما این نتیجه در برابر تعدیل مقایسههای چندگانه پایدار نیست؛ همزمان، ریسک دنبالهای درونسیاستی با افزایش شمار متخصصان بدتر میشود. این یافتهها به محیط و مشخصات آزمودهشده محدودند و تغییر انتساب با افزایش تعداد بذرها، عدمقطعیت ارزیابی را برجسته میکند.
ایدههای کلیدی
- پیکربندیهای ترکیب متخصصانِ آزمودهشده، در مقایسه با یادگیری Q عمیق دوگانه ساده، میانگین کسری را بهطور معناداری کاهش نمیدهند.
- در محیط بازپخش مشخصشده، قیمت میانگین موزون زمانی و نقدشوندگی فوری از نظر میانگین کسری عملکرد بهتری از پیکربندیهای آموختهشده دارند.
- اکتشافِ کاهشیِ تدریجی، فروپاشیهای مشاهدهشده سیاست را بدون نیاز به بخشبندی متخصصان مهار میکند.
- پراکندگی میان بذرها و ریسک دنبالهای درونسیاستی با افزایش شمار متخصصان به شکلهای متفاوتی تغییر میکنند.
- انتساب علت حالتهای شکست ممکن است با شمار بذرهای آموزش تغییر کند؛ بنابراین ارزیابی با بذرهای تکراری اهمیت دارد.
برچسبها
متن کامل
# Mixture-of-Experts for Cryptocurrency Order Execution: Training Stability, Tail Risk, and Failure Modes
# Mixture-of-Experts for Cryptocurrency Order Execution: Training Stability, Tail Risk, and Failure Modes
Deep reinforcement-learning policies for order execution can vary substantially across training seeds, so apparent architectural gains may reflect favourable training realisations rather than reproducible properties of the architecture. We evaluate vanilla Double Deep Q-Learning (DDQL), K-means-partitioned mixtures of DDQL experts at $K \in \{2, 4, 8\}$, and dense networks parameter-matched to the $K{=}4$ and $K{=}8$ expert budgets on 5-minute mean-aggregated BTC/USDT limit order book data from Binance. No learned configuration significantly improves mean implementation shortfall over DDQL. Under the reported specification, all have higher mean shortfall than TWAP (0.39 bps) and immediate liquidation (0.21 bps) in an environment whose frictionless replay and terminal-urgency penalty make early liquidation nearly costless; 11/100 vanilla-DDQL runs, versus none in either MoE $K{\geq}4$ arm, converge to a policy that waits until forced liquidation. We then decompose this specification on a device-matched baseline. Annealed exploration alone eliminates observed collapses (12/100 to 0/100; exact McNemar $p{=}4.9{\times}10^{-4}$), matching the elimination under expert partitioning. Combining annealed exploration with the aligned reward restores collapse in 19/30 runs; with all three specification changes, it rises to 48/100. In this environment, expert partitioning is unnecessary to suppress collapse and appears to mask a training-specification failure rather than confer an intrinsic performance benefit. No MoE $K{=}8$ run collapses under any of the six specifications tested. Across-seed dispersion is lowest at $K{=}8$ but non-monotone and not robust to family-wise adjustment, while within-policy tail risk worsens monotonically with $K$. The apparent attribution of the failure mode reverses between 30 and 100 seeds, illustrating the importance of repeated-seed evaluation.با ذکر منبع و مطابق مجوز اثر، بهطور کامل نمایش داده میشود. مجوز: abstract CC0
این خلاصه را عامل پژوهشی Stratmill بر پایه متن اصلی نوشته است؛ نسخهای از اثر منبع نیست.