Apprentissage profond par renforcement et mesures spectrales du risque dynamiques élicitables

Résumé

Le document présente un cadre d’apprentissage par renforcement sensible au risque, dans lequel un agent optimise des mesures spectrales dynamiques du risque cohérentes dans le temps. Il utilise l’élicitabilité conditionnelle pour construire des fonctions de score strictement cohérentes, qui servent de pénalités lors de l’estimation. Des réseaux neuronaux profonds estiment les mesures de risque, et les auteurs démontrent que cette classe de mesures peut être approximée avec une précision arbitraire à l’aide de tels réseaux.

Le cadre comprend également un algorithme acteur-critique qui apprend à partir d’épisodes complets sans ajouter de transitions imbriquées. Les auteurs le comparent à une approche par simulation imbriquée dans deux applications, l’arbitrage statistique et l’allocation de portefeuille, à partir de données simulées et réelles. La description ne fournit aucun résultat numérique, détail d’implémentation ni renseignement sur les jeux de données réels ; elle permet donc de comprendre la conception et le périmètre de l’évaluation annoncée, mais pas de juger les gains de performance ou la robustesse. La méthode est pertinente pour les décisions de portefeuille où la maîtrise de la distribution des pertes compte autant que la récompense attendue.

Idées clés

• Le cadre optimise des mesures spectrales dynamiques du risque cohérentes dans le temps en apprentissage par renforcement.
• L’élicitabilité conditionnelle fournit des fonctions de score strictement cohérentes, utilisées comme pénalités d’estimation.
• Des réseaux neuronaux profonds estiment les mesures de risque ; un résultat d’approximation est énoncé pour cette classe de mesures.
• La méthode acteur-critique utilise des épisodes complets et évite les transitions imbriquées supplémentaires.
• La comparaison porte sur la simulation imbriquée, l’arbitrage statistique et l’allocation de portefeuille, avec des données simulées et réelles.

Étiquettes

# Conditionally Elicitable Dynamic Risk Measures for Deep Reinforcement Learning


# Conditionally Elicitable Dynamic Risk Measures for Deep Reinforcement Learning









We propose a novel framework to solve risk-sensitive reinforcement learning (RL) problems where the agent optimises time-consistent dynamic spectral risk measures. Based on the notion of conditional elicitability, our methodology constructs (strictly consistent) scoring functions that are used as penalizers in the estimation procedure. Our contribution is threefold: we (i) devise an efficient approach to estimate a class of dynamic spectral risk measures with deep neural networks, (ii) prove that these dynamic spectral risk measures may be approximated to any arbitrary accuracy using deep neural networks, and (iii) develop a risk-sensitive actor-critic algorithm that uses full episodes and does not require any additional nested transitions. We compare our conceptually improved reinforcement learning algorithm with the nested simulation approach and illustrate its performance in two settings: statistical arbitrage and portfolio allocation on both simulated and real data.

Reproduit dans son intégralité avec attribution, conformément à la licence de la source. Licence: abstract CC0

Ce résumé a été rédigé par l’agent de recherche de Stratmill à partir de la source originale ; il n’en est pas une copie.