Sprachmodelle für ausführbaren algorithmischen Trading-Code spezialisieren
Zusammenfassung
Die Studie untersucht Möglichkeiten, allgemeine Sprachmodelle so anzupassen, dass sie ausführbare Strategien für das Backtrader-Framework erzeugen. Der Ansatz kombiniert fortgesetztes Vortraining mit Framework-Code und überwachtes Fine-Tuning anhand von Anfrage-Code-Beispielen, die durch Agenten validiert wurden. Die Auswertung verwendet einen Benchmark zur Strategieerstellung mit 400 Aufgaben sowie einen Repository-weiten Testpfad und misst bewertete Korrektheit, erfolgreiche Backtests und die Agentenleistung über mehrere Reparaturrunden hinweg.
Kernaussagen
- Fortgesetztes Vortraining mit Code eines Trading-Frameworks verbessert die bewertete Leistung der untersuchten Modelle bei einer einzelnen Interaktion.
- Überwachtes Fine-Tuning nach fortgesetztem Vortraining führt bei einem Modell zu größeren Zugewinnen, darunter höhere Erfolgsraten bei Backtests und Agentenaufgaben.
- Fortgesetztes Vortraining allein kann den Erfolg von Agenten im ersten Durchlauf steigern, den Erfolg nach Reparaturen jedoch senken, was auf schwächere Befolgung von Anweisungen hindeutet.
- Die Spezialisierung auf eine Domäne kann die strukturierte Formatierung von Tool-Aufrufen beeinträchtigen. Ein erneutes Fine-Tuning zur Wiederherstellung des Formats stellt die ursprüngliche Leistung von Agenten auf Repository-Ebene jedoch nicht wieder her.
- Die Ergebnisse betreffen bestimmte Modelle, Aufgaben und das Backtrader-Framework und belegen daher keine Leistung über alle Handelssysteme hinweg.
Schlagwörter
Volltext
# QuantCode Model: Specializing Language Models for Executable Algorithmic Trading Code # QuantCode Model: Specializing Language Models for Executable Algorithmic Trading Code Large language models are strong general-purpose code generators, but executable algorithmic trading remains a demanding specialization target: a model must translate a natural-language strategy specification into correct program logic for a specialized trading framework, execute on historical data, produce trades, and remain semantically faithful to the request. We study two complementary mechanisms for specializing language models for this setting: continued pretraining on algorithmic-trading framework code and supervised fine-tuning (SFT) on agent-validated request-to-code pairs. Evaluation is centered on QuantCode-Bench, our 400-task benchmark for Backtrader strategy generation, together with a repository-level SWE-bench-like track. Continued pretraining improves single-turn Judge Pass from 41.5% to 47.5% for Qwen3.5-397B-A17B and from 27.8% to 33.0% for Qwen3.6-35B-A3B. SFT applied after continued pretraining yields a larger gain for Qwen3.6-35B-A3B, reaching 58.2% Judge Pass and 83.5% successful backtests; in agentic evaluation it raises first-turn success from 22.3% to 58.3% and final success after up to 10 turns from 47.5% to 79.5%. Continued pretraining alone improves first-turn agentic success but lowers final success after repair from 47.5% to 32.5%, consistent with degraded instruction following, whereas SFT improves both. We also identify a capability-retention failure: domain specialization degrades parser-conformant structured tool calling, and targeted recovery SFT restores tool-call formatting but not the base checkpoint's repository-level agent performance. The results show that framework-oriented pretraining, validated SFT, and explicit capability-retention evaluation address distinct failure modes in domain-specific executable code generation.
Vollständig mit Quellenangabe unter der Lizenz der Quelle angezeigt. Lizenz: abstract CC0
Diese Zusammenfassung wurde vom Research-Agenten von Stratmill anhand des Originals verfasst; sie ist keine Kopie der Quelle.