Giới hạn hạng Jacobian trong học tập trung vào quyết định

Tóm tắt

Nghiên cứu phân tích cách hình học của bộ dự báo hạn chế việc học tập trung vào quyết định, trong đó quá trình huấn luyện mô hình gắn với mục tiêu ra quyết định ở bước sau. Sử dụng bài toán theo dõi chỉ số thưa, nghiên cứu phân biệt thông tin hiệp phương sai mà bộ tối ưu hóa sử dụng với các hướng cập nhật tham số mà bộ dự báo có thể thực hiện. Jacobian hạng một của bộ dự báo tạo ra các gradient khác không, cùng phương theo từng ví dụ; trong khi đó, một chặn phổ mô tả tính gần cùng phương. Bài viết cũng đặc trưng hóa các không gian con cập nhật theo lô và đưa ra các phản ví dụ cho thấy riêng các tính chất hạng cục bộ không xác định được các nghiệm tối ưu chung hoặc các cập nhật theo lô cùng phương.

Các thí nghiệm kiểm tra liệu những giới hạn hình học này có ảnh hưởng đến chất lượng quyết định hay không. Trong các cấu hình cổ phiếu được báo cáo, học tập trung vào quyết định chỉ cải thiện đôi chút so với sai số bình phương trung bình; các thí nghiệm khác cho thấy mức giảm hối tiếc lớn hơn ở bài toán đường đi ngắn nhất và bài toán ba lô, nhưng sau khi hiệu chỉnh thì kết quả chỉ còn duy trì ở bài toán ba lô. Dung lượng, cách chia tỷ lệ tọa độ và thiết lập huấn luyện ảnh hưởng đến kết quả tối ưu hóa. Các đối chứng mục tiêu tài chính hướng tới tương lai và phép so sánh mạng nơ-ron tương ứng cho thấy kiến trúc được kiểm nghiệm không có lợi thế tổng thể từ học tập trung vào quyết định. Các phát hiện chỉ áp dụng cho mô hình và tác vụ được khảo sát: cấu trúc Jacobian giải thích các hướng học có thể có, nhưng cần chất lượng quyết định trên dữ liệu giữ lại để xác lập giá trị thực tiễn.

Ý chính

• Jacobian của bộ dự báo mô tả những hướng cập nhật tham số mà phương pháp học tập trung vào quyết định có thể thực hiện.
• Jacobian hạng một khiến các gradient khác không theo từng ví dụ cùng phương, nhưng cập nhật theo lô không nhất thiết có tính chất đó.
• Các ràng buộc hạng cục bộ tự chúng không hàm ý có các nghiệm tối ưu chung.
• Mức cải thiện thực nghiệm khác nhau giữa các tác vụ; trong các phép so sánh được nêu, bằng chứng sau hiệu chỉnh chỉ còn duy trì ở bài toán ba lô.
• Cách chia tỷ lệ tọa độ làm thay đổi hành vi tối ưu hóa, vì vậy chất lượng quyết định trên dữ liệu giữ lại vẫn rất cần thiết cho việc đánh giá.

Thẻ

# Jacobian Rank Collapse in Decision-Focused Learning


# Jacobian Rank Collapse in Decision-Focused Learning









Decision-focused learning (DFL) trains predictors through downstream objectives, but a different loss need not provide an independent parameter-update direction. We characterize this restriction through the predictor Jacobian, using sparse index tracking to distinguish the covariance entries read by the optimizer from the parameter directions available to learning. Rank-one Jacobians make nonzero per-example gradients collinear; a conditional spectral bound describes near-collinearity. A batch-subspace characterization and counterexamples show why these local statements imply neither common minimizers nor collinear batch updates. Experiments examine when geometry translates into decision quality. Across 38 one-parameter equity configurations, DFL gains over MSE remain below 1.8%; a 385-parameter conditional predictor also has pointwise rank one. In validation-tuned shortest-path and knapsack experiments, full-capacity SPO+ reduces mean regret by 11.6% and 10.6%, respectively; only knapsack survives correction across eight comparisons. The capacity contrast persists on fresh datasets across batch orders and training budgets. Holding expressivity fixed, invertible coordinate scaling lowers spectral effective rank and ordinary SGD gains; compensating for the scaling restores the original trajectories. Financial forward-target controls separate forecast accuracy from decision quality; a matched neural comparison finds no aggregate DFL advantage in the tested architecture. These findings distinguish local rank restrictions, coordinate-dependent optimization and predictive accuracy. Predictor geometry helps explain available learning directions, while held-out decision quality remains the test of practical benefit.

Hiển thị toàn văn kèm ghi nguồn theo giấy phép của tài liệu gốc. Giấy phép: abstract CC0

Bản tóm tắt này do tác nhân nghiên cứu của Stratmill biên soạn từ tài liệu gốc; đây không phải bản sao của tài liệu.