قابلِ تخمینہ متحرک طیفی خطرے کے پیمانوں کے ساتھ گہری تقویتی تعلیم

خلاصہ

یہ دستاویز خطرے سے حساس تقویتی تعلیم کا ایک فریم ورک پیش کرتی ہے، جس میں ایک ایجنٹ وقت کے ساتھ ہم آہنگ متحرک طیفی خطرے کے پیمانوں کو بہتر بناتا ہے۔ یہ مشروط قابلِ تخمینہ ہونے کی خاصیت استعمال کرکے ایسے اسکورنگ فنکشنز بناتا ہے جو سختی سے ہم آہنگ ہوں اور تخمینے کے دوران جرمانوں کا کام دیں۔ خطرے کے پیمانوں کا تخمینہ گہرے نیورل نیٹ ورکس سے لگایا جاتا ہے، اور مصنفین ثابت کرتے ہیں کہ ایسے نیٹ ورکس سے پیمانوں کے اس طبقے کو من مانے درجے کی درستگی کے ساتھ قریب کیا جا سکتا ہے۔

اس فریم ورک میں ایک ایکٹر کریٹک الگورتھم بھی شامل ہے جو اضافی درون درون ٹرانزیشنز شامل کیے بغیر مکمل اقساط سے سیکھتا ہے۔ مصنفین اس کا دو اطلاقات میں درون درون سیمولیشن کے طریقے سے موازنہ کرتے ہیں: شماریاتی آربیٹریج اور پورٹ فولیو تخصیص، جن میں فرضی اور حقیقی ڈیٹا دونوں استعمال ہوتے ہیں۔ بیان میں عددی نتائج، نفاذ کی تفصیلات یا حقیقی ڈیٹاسیٹس کے بارے میں معلومات نہیں، اس لیے اس سے ڈیزائن اور بیان کردہ جانچ کے دائرے کو سمجھا جا سکتا ہے، مگر کارکردگی میں بہتری یا مضبوطی کا فیصلہ نہیں کیا جا سکتا۔ یہ طریقہ پورٹ فولیو کے ان فیصلوں کے لیے متعلقہ ہے جہاں متوقع انعام کے ساتھ نقصانات کی تقسیم کو قابو میں رکھنا بھی اہم ہو۔

اہم خیالات

• یہ فریم ورک ری انفورسمنٹ لرننگ میں وقت کے ساتھ ہم آہنگ متحرک طیفی خطراتی پیمانوں کو بہتر بناتا ہے۔
• مشروط قابلِ تخمینہ ہونے کی خاصیت ایسے اسکورنگ فنکشنز فراہم کرتی ہے جو سختی سے ہم آہنگ ہوں اور تخمینے میں جرمانوں کے طور پر استعمال ہوتے ہیں۔
• ڈیپ نیورل نیٹ ورکس خطراتی پیمانوں کا تخمینہ لگاتے ہیں، اور پیمانوں کے طبقے کے لیے تقریب کا ایک نتیجہ بیان کیا گیا ہے۔
• ایکٹر کریٹک طریقہ مکمل اقساط استعمال کرتا ہے اور اضافی درون درون ٹرانزیشنز سے گریز کرتا ہے۔
• موازنے میں فرضی اور حقیقی ڈیٹا پر درون درون سیمولیشن، شماریاتی آربیٹریج اور پورٹ فولیو تخصیص شامل ہیں۔

ٹیگز

# Conditionally Elicitable Dynamic Risk Measures for Deep Reinforcement Learning


# Conditionally Elicitable Dynamic Risk Measures for Deep Reinforcement Learning









We propose a novel framework to solve risk-sensitive reinforcement learning (RL) problems where the agent optimises time-consistent dynamic spectral risk measures. Based on the notion of conditional elicitability, our methodology constructs (strictly consistent) scoring functions that are used as penalizers in the estimation procedure. Our contribution is threefold: we (i) devise an efficient approach to estimate a class of dynamic spectral risk measures with deep neural networks, (ii) prove that these dynamic spectral risk measures may be approximated to any arbitrary accuracy using deep neural networks, and (iii) develop a risk-sensitive actor-critic algorithm that uses full episodes and does not require any additional nested transitions. We compare our conceptually improved reinforcement learning algorithm with the nested simulation approach and illustrate its performance in two settings: statistical arbitrage and portfolio allocation on both simulated and real data.

ماخذ کا حوالہ دیتے ہوئے مکمل متن دکھایا گیا ہے، ماخذ کے لائسنس کے تحت۔ لائسنس: abstract CC0

یہ خلاصہ اصل ماخذ سے Stratmill کے تحقیقی ایجنٹ نے لکھا ہے؛ یہ ماخذ کی نقل نہیں۔