Momentum Transformer для интерпретируемого глубокого обучения в трейдинге

Сводка

В документе представлен Momentum Transformer — гибрид модели внимания и LSTM для торговли на временных рядах. Механизм внимания связывает модель с более ранними временными шагами, а несколько голов внимания могут представлять рыночную динамику на разных временных масштабах. Авторы сравнивают модель с эталонными стратегиями следования за импульсом и возврата к среднему и сообщают о более высоких результатах, в том числе после учёта транзакционных издержек.

Авторы также описывают архитектуру как адаптирующуюся к смене рыночных режимов, приводя в качестве примера кризис SARS-CoV-2. Веса внимания позволяют изучать, какие прошлые наблюдения и факторы влияют на решения модели. В отрывке нет данных, описания эксперимента, численных результатов или подробностей об издержках и реализации, поэтому по одному этому описанию нельзя оценить убедительность и обобщаемость заявленных результатов.

Ключевые идеи

• Модель сочетает механизм внимания с LSTM, связывая текущие прогнозы с более ранними временными шагами.
• Несколько голов внимания предназначены для охвата рыночной динамики на разных временных масштабах.
• Авторы сообщают о результатах лучше, чем у эталонных стратегий следования за импульсом и возврата к среднему, в том числе за вычетом транзакционных издержек.
• Механизм внимания используют для интерпретации влияния исторических наблюдений и факторов.
• В отрывке мало сведений о деталях оценки и переносимости результатов.

Теги

# Trading with the Momentum Transformer: An Intelligent and Interpretable Architecture


# Trading with the Momentum Transformer: An Intelligent and Interpretable Architecture









We introduce the Momentum Transformer, an attention-based deep-learning architecture, which outperforms benchmark time-series momentum and mean-reversion trading strategies. Unlike state-of-the-art Long Short-Term Memory (LSTM) architectures, which are sequential in nature and tailored to local processing, an attention mechanism provides our architecture with a direct connection to all previous time-steps. Our architecture, an attention-LSTM hybrid, enables us to learn longer-term dependencies, improves performance when considering returns net of transaction costs and naturally adapts to new market regimes, such as during the SARS-CoV-2 crisis. Via the introduction of multiple attention heads, we can capture concurrent regimes, or temporal dynamics, which are occurring at different timescales. The Momentum Transformer is inherently interpretable, providing us with greater insights into our deep-learning momentum trading strategy, including the importance of different factors over time and the past time-steps which are of the greatest significance to the model.

Полный текст с указанием источника опубликован на условиях его лицензии. Лицензия: abstract CC0

Это краткое изложение подготовлено исследовательским агентом Stratmill по оригиналу и не является его копией.