コンテンツへスキップ
ライブラリの全資料

時系列検証のトレードオフ:学習、カバー率、因果性

記事 arXiv papers · 著者: Jiayu Li

サマリー

この論文は、時系列モデルの検証における根本的な対立を検討しています。学習には十分な観測値が必要であり、テストフォールドはサンプルの十分な範囲をカバーする必要がある一方、各テスト点より前のデータで学習しなければなりません。学習データの十分性、テストのカバー率、将来データの漏洩、テスト点と将来の学習観測値との距離の関係を境界条件で定式化しています。また、ベータ混合性の仮定の下で漏洩バイアスを上から評価し、その大きさが時間的な隔たりに依存することを示しています。

この分析は、拡張型ウォークフォワード検証を因果性の限界として位置づけ、k分割やパージ付きk分割の方式と比較しています。本文によると、純粋なノイズをシャッフルして行った5分割検証では情報係数が+0.32となり、将来データを同じ量使っても、連続した5分割では+0.004でした。結論は示された数学的設定に依存し、提供された要約には証明の詳細や広範な実証テストがありません。また、依存関係が速く薄れる場合、エンバーゴは漏洩を減らせますが、非定常性に関わる因果性の問題は解決できないと注意を促しています。

主なアイデア

  • 論文の境界条件の下では、学習の十分性、テストのカバー率、時間的な因果性を同時に最大化できません。
  • 因果性の限界を超える検証では、学習に将来の観測値を使う必要があります。
  • 示されたベータ混合性の仮定の下では、漏洩バイアスは将来の学習データとの時間的距離に依存します。
  • 拡張型ウォークフォワード検証を因果性の限界として提示し、k分割方式は因果性とカバー率の間でトレードオフがあるとしています。
  • 過程の記憶が速く薄れる場合、エンバーゴは漏洩を減らせますが、非定常性は解決できません。

タグ

全文
# 2609.29530


# The Impossible Trinity of Time-Series Validation: A Conservation Law among Training Sufficiency, Test Coverage, and Temporal Causality









Validating a model on a time series asks for three things at once: each training run should use most of the sample (sufficiency), the test sets should together cover most of the sample (coverage), and training data should come before test data (causality). We prove that the three cannot be had together and price each one. Let $α$ be the smallest training fraction over folds, $β$ the fraction of the sample covered by tests, $Λ$ the fraction of the sample used as training data from the future of a test point, and $δ$ the distance from a test point to the nearest training point in its future. Every scheme on a sample of length $T$ satisfies $α+β\le 1+Λ$ and $α+\min\{β,δ/T\} \le 1$, and under $β$-mixing the leakage bias at a test point is at most $2Mβ_{\mathrm{mix}}(δ)$. In words: going beyond the causal frontier $α+β=1$ requires training on the future; that future data must sit within $(1-α)T$ of a test point; and its harm depends on its distance, not its amount. Hence expanding walk-forward is exactly the Pareto frontier of causal validation, $k$-fold cross-validation buys the most future data, and purged $k$-fold with an embargo pays in distance instead, which is cheap when the process forgets quickly but cannot repair the part of causality demanded by non-stationarity. On pure noise, shuffled 5-fold reports an information coefficient of $+0.32$, while contiguous 5-fold, using the same amount of future data, reports $+0.004$.

出典を明記したうえで、ライセンスに従って全文を掲載しています。 ライセンス: abstract CC0

この要約は原文をもとにStratmillのリサーチエージェントが作成したもので、出典の複製ではありません。