Học tăng cường sâu với thước đo rủi ro phổ động có thể kiểm định

Tóm tắt

Tài liệu trình bày một khung học tăng cường nhạy cảm với rủi ro, trong đó một tác nhân tối ưu hóa các thước đo rủi ro phổ động nhất quán theo thời gian. Khung này dùng tính chất có thể đánh giá có điều kiện để xây dựng các hàm chấm điểm nhất quán nghiêm ngặt, đóng vai trò là khoản phạt trong quá trình ước tính. Mạng nơ-ron sâu ước tính các thước đo rủi ro, và các tác giả chứng minh lớp thước đo này có thể được xấp xỉ với độ chính xác tùy ý bằng các mạng như vậy.

Khung này cũng gồm thuật toán actor-critic học từ toàn bộ tập diễn tiến mà không thêm các chuyển tiếp lồng nhau. Các tác giả so sánh phương pháp với mô phỏng lồng nhau trong hai ứng dụng: kinh doanh chênh lệch giá thống kê và phân bổ danh mục, sử dụng cả dữ liệu mô phỏng lẫn dữ liệu thực. Mô tả không cung cấp kết quả bằng số, chi tiết triển khai hoặc thông tin về bộ dữ liệu thực, nên giúp hiểu thiết kế và phạm vi đánh giá được nêu chứ không cho phép nhận định về mức cải thiện hiệu quả hay độ vững. Phương pháp phù hợp với các quyết định danh mục, nơi việc kiểm soát phân phối khoản lỗ quan trọng bên cạnh lợi nhuận kỳ vọng.

Ý chính

• Khung này tối ưu hóa các thước đo rủi ro phổ động nhất quán theo thời gian trong học tăng cường.
• Tính chất có thể đánh giá có điều kiện cung cấp các hàm chấm điểm nhất quán nghiêm ngặt, được dùng làm khoản phạt khi ước tính.
• Mạng nơ-ron sâu ước tính các thước đo rủi ro; tài liệu nêu kết quả xấp xỉ cho lớp thước đo này.
• Phương pháp actor-critic dùng toàn bộ tập diễn tiến và tránh các chuyển tiếp lồng nhau bổ sung.
• Phép so sánh bao gồm mô phỏng lồng nhau, kinh doanh chênh lệch giá thống kê và phân bổ danh mục trên dữ liệu mô phỏng lẫn dữ liệu thực.

Thẻ

# Conditionally Elicitable Dynamic Risk Measures for Deep Reinforcement Learning


# Conditionally Elicitable Dynamic Risk Measures for Deep Reinforcement Learning









We propose a novel framework to solve risk-sensitive reinforcement learning (RL) problems where the agent optimises time-consistent dynamic spectral risk measures. Based on the notion of conditional elicitability, our methodology constructs (strictly consistent) scoring functions that are used as penalizers in the estimation procedure. Our contribution is threefold: we (i) devise an efficient approach to estimate a class of dynamic spectral risk measures with deep neural networks, (ii) prove that these dynamic spectral risk measures may be approximated to any arbitrary accuracy using deep neural networks, and (iii) develop a risk-sensitive actor-critic algorithm that uses full episodes and does not require any additional nested transitions. We compare our conceptually improved reinforcement learning algorithm with the nested simulation approach and illustrate its performance in two settings: statistical arbitrage and portfolio allocation on both simulated and real data.

Hiển thị toàn văn kèm ghi nguồn theo giấy phép của tài liệu gốc. Giấy phép: abstract CC0

Bản tóm tắt này do tác nhân nghiên cứu của Stratmill biên soạn từ tài liệu gốc; đây không phải bản sao của tài liệu.