مواد پر جائیں
لائبریری کی تمام دستاویزات

الگورتھمک ٹریڈنگ کوڈ کے لیے لینگویج ماڈلز کی تخصیص

مضمون arXiv papers · مصنف: Alexey Chernysh et al.

خلاصہ

یہ مطالعہ بیک ٹریڈر فریم ورک کے لیے قابلِ اجرا اسٹریٹیجیز بنانے کی خاطر عمومی لینگویج ماڈلز کو ڈھالنے کے طریقوں کا جائزہ لیتا ہے۔ اس کا طریقہ فریم ورک کے کوڈ پر مسلسل پری ٹریننگ کو ایجنٹس سے توثیق شدہ درخواست سے کوڈ کی مثالوں پر زیر نگرانی فائن ٹیوننگ کے ساتھ ملاتا ہے۔ جائزے میں 400 کاموں کا اسٹریٹیجی سازی معیار اور ایک ریپوزٹری سطح کا مرحلہ شامل ہے، جہاں جانچی گئی درستگی، کامیاب بیک ٹیسٹس اور اصلاحی مراحل میں ایجنٹ کی کارکردگی ناپی جاتی ہے۔

اہم خیالات

  • ٹریڈنگ فریم ورک کے کوڈ پر مسلسل پری ٹریننگ سے آزمودہ ماڈلز کی ایک مرحلے میں جانچی گئی کارکردگی بہتر ہوتی ہے۔
  • مسلسل پری ٹریننگ کے بعد زیر نگرانی فائن ٹیوننگ ایک ماڈل میں زیادہ بہتری لاتی ہے، جس میں بیک ٹیسٹ اور ایجنٹ کامیابی کی شرحیں بھی بڑھتی ہیں۔
  • صرف مسلسل پری ٹریننگ سے پہلے مرحلے کی ایجنٹ کامیابی بڑھ سکتی ہے، مگر اصلاح کے بعد کامیابی گھٹ سکتی ہے، جو ہدایات پر عمل کی کمزوری کا اشارہ ہے۔
  • ڈومین کی تخصیص منظم ٹول کال فارمیٹنگ کو خراب کر سکتی ہے؛ بحالی کی فائن ٹیوننگ فارمیٹنگ بحال کرتی ہے، مگر بنیادی ریپوزٹری سطح کی ایجنٹ کارکردگی بحال نہیں کرتی۔
  • نتائج مخصوص ماڈلز، کاموں اور بیک ٹریڈر فریم ورک سے متعلق ہیں، اس لیے تمام ٹریڈنگ نظاموں کی کارکردگی ثابت نہیں کرتے۔

ٹیگز

مکمل متن
# QuantCode Model: Specializing Language Models for Executable Algorithmic Trading Code


# QuantCode Model: Specializing Language Models for Executable Algorithmic Trading Code









Large language models are strong general-purpose code generators, but executable algorithmic trading remains a demanding specialization target: a model must translate a natural-language strategy specification into correct program logic for a specialized trading framework, execute on historical data, produce trades, and remain semantically faithful to the request. We study two complementary mechanisms for specializing language models for this setting: continued pretraining on algorithmic-trading framework code and supervised fine-tuning (SFT) on agent-validated request-to-code pairs. Evaluation is centered on QuantCode-Bench, our 400-task benchmark for Backtrader strategy generation, together with a repository-level SWE-bench-like track. Continued pretraining improves single-turn Judge Pass from 41.5% to 47.5% for Qwen3.5-397B-A17B and from 27.8% to 33.0% for Qwen3.6-35B-A3B. SFT applied after continued pretraining yields a larger gain for Qwen3.6-35B-A3B, reaching 58.2% Judge Pass and 83.5% successful backtests; in agentic evaluation it raises first-turn success from 22.3% to 58.3% and final success after up to 10 turns from 47.5% to 79.5%. Continued pretraining alone improves first-turn agentic success but lowers final success after repair from 47.5% to 32.5%, consistent with degraded instruction following, whereas SFT improves both. We also identify a capability-retention failure: domain specialization degrades parser-conformant structured tool calling, and targeted recovery SFT restores tool-call formatting but not the base checkpoint's repository-level agent performance. The results show that framework-oriented pretraining, validated SFT, and explicit capability-retention evaluation address distinct failure modes in domain-specific executable code generation.

ماخذ کا حوالہ دیتے ہوئے مکمل متن دکھایا گیا ہے، ماخذ کے لائسنس کے تحت۔ لائسنس: abstract CC0

یہ خلاصہ اصل ماخذ سے Stratmill کے تحقیقی ایجنٹ نے لکھا ہے؛ یہ ماخذ کی نقل نہیں۔