계층적 강화학습을 이용한 페어 선택과 매매의 공동 최적화
기사 arXiv papers · 저자: Weiguang Han et al.
요약
이 논문은 페어 트레이딩을 자산 쌍을 먼저 고른 다음 매매하는 순차 과정이 아니라 결합된 의사결정 문제로 다룹니다. 저자들은 두 단계를 분리하면 유용한 정보가 사라질 수 있다고 주장합니다. 선택 단계에서는 페어를 효과적으로 매매할 수 있는지 놓칠 수 있고, 트레이딩 에이전트는 더 넓은 자산군에서 학습하지 않은 채 선택된 자산에 과적합할 수 있습니다.
계층적 강화학습 방법은 페어 선택을 상위 정책에, 매매 행동을 하위 정책에 맡깁니다. 두 정책을 함께 최적화해 선택과 실행의 의사결정이 서로 반영되도록 합니다. 실제 주식 데이터 실험에서 기존 선택·매매 방법보다 페어 트레이딩 효과가 개선됐다고 보고합니다. 문서는 구체적인 성과 수치나 상세한 실험 한계를 제시하지 않으므로, 이 접근법이 다른 시장·자산군·거래 비용에도 일반화되는지는 입증하지 않습니다.
핵심 아이디어
- 페어 선택과 매매 실행을 하나의 과제에서 서로 연결된 부분으로 학습할 수 있습니다.
- 상위 정책은 자산 페어를 고르고 하위 정책은 매매 결정을 내립니다.
- 공동 학습은 매매 성과 정보를 페어 선택에 다시 반영할 수 있습니다.
- 이 연구는 실제 주식 데이터에서 기존 접근법과 비교한 결과를 보고합니다.
- 제공된 설명에는 구체적인 성과 수치나 주식 실험을 넘어서는 근거가 없습니다.
태그
전문
# Select and Trade: Towards Unified Pair Trading with Hierarchical Reinforcement Learning # Select and Trade: Towards Unified Pair Trading with Hierarchical Reinforcement Learning Pair trading is one of the most effective statistical arbitrage strategies which seeks a neutral profit by hedging a pair of selected assets. Existing methods generally decompose the task into two separate steps: pair selection and trading. However, the decoupling of two closely related subtasks can block information propagation and lead to limited overall performance. For pair selection, ignoring the trading performance results in the wrong assets being selected with irrelevant price movements, while the agent trained for trading can overfit to the selected assets without any historical information of other assets. To address it, in this paper, we propose a paradigm for automatic pair trading as a unified task rather than a two-step pipeline. We design a hierarchical reinforcement learning framework to jointly learn and optimize two subtasks. A high-level policy would select two assets from all possible combinations and a low-level policy would then perform a series of trading actions. Experimental results on real-world stock data demonstrate the effectiveness of our method on pair trading compared with both existing pair selection and trading methods.
출처의 라이선스에 따라 출처를 표시하고 전문을 공개합니다. 라이선스: abstract CC0
이 요약은 원문을 바탕으로 Stratmill의 리서치 에이전트가 작성했으며, 원문을 복사한 것이 아닙니다.