본문으로 건너뛰기
라이브러리 문서 전체

주가 산정과 팩터 투자를 위한 사전 학습 트랜스포머

기사 arXiv papers · 저자: Shanyan Lai
원문 읽기

요약

이 논문은 대형 US 주식의 가격 산정을 위한 단방향 트랜스포머 모델 SERT을 제안하고, 사전 학습된 트랜스포머를 주가 산정과 팩터 투자에 적용합니다. 코로나19 이전, 팬데믹 기간, 이후 1년의 기간에 걸쳐 이 접근법들을 표준 트랜스포머 및 인코더 전용 트랜스포머와 비교하며, 시장 스트레스 시기의 성과에 주목합니다. 저자들은 극심한 시장 변동 중 표본 외 R²가 SERT에서 가장 높았고, 사전 학습 트랜스포머가 그 뒤를 이었다고 보고합니다.

모델을 기반으로 한 추세 추종 전략은 충격이 발생할 때 하방 위험을 헤지하는 방법으로 제시됩니다. 팬데믹 기간의 정적 거래 비용 시나리오에서 SERT의 소르티노 비율은 동일 가중 포트폴리오에서 매수 후 보유보다 47% 높고, 가치 가중 포트폴리오에서는 28% 높다고 보고됩니다. 논문은 소프트맥스 신호 필터가 전략 성과를 개선하지 못하며, 어텐션 헤드를 늘려도 유의미하지 않은 수준의 개선만 있고 이 사례에서는 레이어 정규화를 먼저 적용해도 도움이 되지 않는다고 분석합니다. 이 결과는 연구에서 사용한 기간과 설정에 국한되며, 제공된 내용에는 거래 비용 가정이나 더 폭넓은 검증 정보가 없습니다.

핵심 아이디어

  • 사전 학습 트랜스포머 접근법과 함께 SERT을 US 대형주 가격 산정에 적용합니다.
  • 모델은 팬데믹 전후를 아우르는 세 기간에 걸쳐 COVID-19 일반 트랜스포머 및 인코더 전용 트랜스포머와 비교됩니다.
  • 극심한 시장 변동 중 표본 외 R²가 가장 높았다고 보고된 모델은 SERT입니다.
  • 모델 기반 추세 추종 전략은 충격 발생 시 하방 위험을 헤지하는 방법으로 제시됩니다.
  • 명시된 팬데믹 기간 비용 시나리오에서 SERT의 소르티노 비율은 두 가지 포트폴리오 가중 방식 모두에서 매수 후 보유보다 높습니다.
  • 시험한 소프트맥스 필터, 추가 어텐션 헤드, 레이어 정규화 순서는 전략 성과를 실질적으로 개선하지 못합니다.

태그

주식머신러닝팩터 투자추세 추종리스크 관리
전문
# Asset Pricing in Pre-trained Transformer


# Asset Pricing in Pre-trained Transformer









This paper proposes an innovative Transformer model, Single-directional representative from Transformer (SERT), for US large capital stock pricing. It also innovatively applies the pre-trained Transformer models under the stock pricing and factor investment context. They are compared with standard Transformer models and encoder-only Transformer models in three periods covering the entire COVID-19 pandemic to examine the model adaptivity and suitability during the extreme market fluctuations. Namely, pre-COVID-19 period, COVID-19 period and 1-year post-COVID-19. The best proposed SERT model achieves the highest out-of-sample $R^2$, 11.94\% and 11.47\% respectively, when extreme market fluctuation takes place, followed by pre-trained Transformer models (11.13\% and 9.72\%). Their Trend-following-based strategy's performance also proves their excellent capability for hedging downside risks during market shocks. The proposed SERT model achieves a Sortino ratio 47\% higher than the buy-and-hold benchmark in the equal-weighted portfolio and 28\% higher in the value-weighted portfolio in the static transaction cost scenario when the pandemic period is considered. It proves that Transformer models have a strong ability to capture patterns of temporal sparsity in asset pricing factor models, especially with high volatility. I also find the softmax signal filter as the common configuration of Transformer models in alternative contexts, which only eliminates differences between models, but does not improve strategy-wise performance, while increasing attention heads improves the model performance insignificantly and applying the 'layer normalization first' method does not boost the model performance in our case.

출처의 라이선스에 따라 출처를 표시하고 전문을 공개합니다. 라이선스: abstract CC0

이 요약은 원문을 바탕으로 Stratmill의 리서치 에이전트가 작성했으며, 원문을 복사한 것이 아닙니다.