सूचनीय गतिशील वर्णक्रमीय जोखिम मापों के साथ गहन सुदृढीकरण अधिगम
सारांश
यह दस्तावेज़ जोखिम-संवेदी सुदृढीकरण अधिगम ढाँचा प्रस्तुत करता है, जिसमें एक एजेंट समय-संगत गतिशील वर्णक्रमीय जोखिम मापों का अनुकूलन करता है। यह सशर्त सूचनीयता का उपयोग करके कड़ाई से सुसंगत स्कोरिंग फलन बनाता है, जो आकलन के दौरान दंड के रूप में काम करते हैं। गहरे न्यूरल नेटवर्क जोखिम मापों का अनुमान लगाते हैं, और लेखक सिद्ध करते हैं कि ऐसे नेटवर्क इस माप वर्ग का मनमानी सटीकता से सन्निकटन कर सकते हैं।
इस ढाँचे में एक अभिनेता-आलोचक एल्गोरिदम भी है, जो अतिरिक्त नेस्टेड ट्रांज़िशन जोड़े बिना पूरे एपिसोड से सीखता है। लेखक इसकी तुलना दो अनुप्रयोगों—सांख्यिकीय आर्बिट्राज और पोर्टफोलियो आवंटन—में नेस्टेड सिमुलेशन दृष्टिकोण से करते हैं और सिम्युलेटेड तथा वास्तविक, दोनों तरह के डेटा का उपयोग करते हैं। विवरण में कोई संख्यात्मक परिणाम, कार्यान्वयन विवरण या वास्तविक डेटासेट की जानकारी नहीं है; इसलिए इससे डिज़ाइन और बताए गए मूल्यांकन दायरे को समझा जा सकता है, लेकिन प्रदर्शन लाभ या मज़बूती का आकलन नहीं। यह विधि उन पोर्टफोलियो निर्णयों के लिए प्रासंगिक है जिनमें अपेक्षित प्रतिफल के साथ-साथ हानियों के वितरण को नियंत्रित करना भी मायने रखता है।
मुख्य विचार
- यह ढाँचा सुदृढीकरण अधिगम में समय-संगत गतिशील वर्णक्रमीय जोखिम मापों का अनुकूलन करता है।
- सशर्त सूचनीयता से मिलने वाले कड़ाई से सुसंगत स्कोरिंग फलन आकलन के दंड के रूप में उपयोग होते हैं।
- गहरे न्यूरल नेटवर्क जोखिम मापों का अनुमान लगाते हैं; माप वर्ग के लिए सन्निकटन परिणाम भी दिया गया है।
- अभिनेता-आलोचक विधि पूरे एपिसोड का उपयोग करती है और अतिरिक्त नेस्टेड ट्रांज़िशन से बचती है।
- तुलना में सिम्युलेटेड और वास्तविक डेटा पर नेस्टेड सिमुलेशन, सांख्यिकीय आर्बिट्राज और पोर्टफोलियो आवंटन शामिल हैं।
टैग
पूरा पाठ
# Conditionally Elicitable Dynamic Risk Measures for Deep Reinforcement Learning # Conditionally Elicitable Dynamic Risk Measures for Deep Reinforcement Learning We propose a novel framework to solve risk-sensitive reinforcement learning (RL) problems where the agent optimises time-consistent dynamic spectral risk measures. Based on the notion of conditional elicitability, our methodology constructs (strictly consistent) scoring functions that are used as penalizers in the estimation procedure. Our contribution is threefold: we (i) devise an efficient approach to estimate a class of dynamic spectral risk measures with deep neural networks, (ii) prove that these dynamic spectral risk measures may be approximated to any arbitrary accuracy using deep neural networks, and (iii) develop a risk-sensitive actor-critic algorithm that uses full episodes and does not require any additional nested transitions. We compare our conceptually improved reinforcement learning algorithm with the nested simulation approach and illustrate its performance in two settings: statistical arbitrage and portfolio allocation on both simulated and real data.
स्रोत के लाइसेंस के तहत श्रेय सहित पूरा पाठ दिखाया गया है। लाइसेंस: abstract CC0
यह सारांश मूल स्रोत के आधार पर Stratmill के शोध एजेंट ने लिखा है; यह स्रोत की प्रति नहीं है।