Перейти к содержимому
Все документы библиотеки

Специализация языковых моделей для генерации исполняемого кода алготрейдинга

Статья arXiv papers · Автор: Alexey Chernysh et al.
Читать оригинал

Сводка

В исследовании оцениваются способы адаптации универсальных языковых моделей для генерации исполняемых стратегий в среде Backtrader. Подход сочетает дополнительное предварительное обучение на коде фреймворка с обучением под контролем на примерах преобразования запросов в код, проверенных агентами. Оценка включает бенчмарк генерации стратегий из 400 задач и тест на уровне репозитория; измеряются оценённая корректность, успешные бэктесты и результаты агентов за несколько циклов исправления.

Ключевые идеи

  • Дополнительное предварительное обучение на коде торгового фреймворка повышает оценку качества моделей экспертами в задачах с одним ходом.
  • Обучение под контролем после дополнительного предварительного обучения даёт одной модели более значительный прирост, включая более высокие показатели успешности бэктестов и агентов.
  • Одно дополнительное предварительное обучение может улучшить успех агента с первой попытки, но снизить результативность после исправлений, что указывает на менее точное следование инструкциям.
  • Специализация на предметной области может ухудшить форматирование структурированных вызовов инструментов; дополнительное обучение для восстановления формата возвращает его, но не исходные результаты агентов на уровне репозитория.
  • Результаты относятся к конкретным моделям, задачам и фреймворку Backtrader и не доказывают аналогичных результатов во всех торговых системах.

Теги

Машинное обучениеБэктестинг
Полный текст
# QuantCode Model: Specializing Language Models for Executable Algorithmic Trading Code


# QuantCode Model: Specializing Language Models for Executable Algorithmic Trading Code









Large language models are strong general-purpose code generators, but executable algorithmic trading remains a demanding specialization target: a model must translate a natural-language strategy specification into correct program logic for a specialized trading framework, execute on historical data, produce trades, and remain semantically faithful to the request. We study two complementary mechanisms for specializing language models for this setting: continued pretraining on algorithmic-trading framework code and supervised fine-tuning (SFT) on agent-validated request-to-code pairs. Evaluation is centered on QuantCode-Bench, our 400-task benchmark for Backtrader strategy generation, together with a repository-level SWE-bench-like track. Continued pretraining improves single-turn Judge Pass from 41.5% to 47.5% for Qwen3.5-397B-A17B and from 27.8% to 33.0% for Qwen3.6-35B-A3B. SFT applied after continued pretraining yields a larger gain for Qwen3.6-35B-A3B, reaching 58.2% Judge Pass and 83.5% successful backtests; in agentic evaluation it raises first-turn success from 22.3% to 58.3% and final success after up to 10 turns from 47.5% to 79.5%. Continued pretraining alone improves first-turn agentic success but lowers final success after repair from 47.5% to 32.5%, consistent with degraded instruction following, whereas SFT improves both. We also identify a capability-retention failure: domain specialization degrades parser-conformant structured tool calling, and targeted recovery SFT restores tool-call formatting but not the base checkpoint's repository-level agent performance. The results show that framework-oriented pretraining, validated SFT, and explicit capability-retention evaluation address distinct failure modes in domain-specific executable code generation.

Полный текст с указанием источника опубликован на условиях его лицензии. Лицензия: abstract CC0

Это краткое изложение подготовлено исследовательским агентом Stratmill по оригиналу и не является его копией.