Aprendizado por reforço profundo com medidas de risco espectral dinâmicas elicitáveis

Resumo

O documento apresenta uma estrutura de aprendizado por reforço sensível ao risco, na qual um agente otimiza medidas de risco espectral dinâmicas consistentes no tempo. Usa elicitabilidade condicional para construir funções de pontuação estritamente consistentes, que atuam como penalidades durante a estimação. Redes neurais profundas estimam as medidas de risco, e os autores demonstram que essa classe de medidas pode ser aproximada com precisão arbitrária por essas redes.

A estrutura também inclui um algoritmo ator-crítico que aprende com episódios completos sem adicionar transições aninhadas. Os autores o comparam com uma abordagem de simulação aninhada em duas aplicações: arbitragem estatística e alocação de carteiras, usando dados simulados e reais. A descrição não fornece resultados numéricos, detalhes de implementação ou informações sobre os conjuntos de dados reais; assim, permite compreender o desenho e o escopo declarado da avaliação, mas não julgar ganhos de desempenho ou robustez. O método é relevante para decisões de carteira nas quais controlar a distribuição das perdas importa tanto quanto a recompensa esperada.

Ideias principais

• A estrutura otimiza medidas de risco espectral dinâmicas consistentes no tempo em aprendizado por reforço.
• A elicitabilidade condicional fornece funções de pontuação estritamente consistentes, usadas como penalidades de estimação.
• Redes neurais profundas estimam as medidas de risco, com um resultado de aproximação para a classe de medidas.
• O método ator-crítico usa episódios completos e evita transições aninhadas adicionais.
• A comparação abrange simulação aninhada, arbitragem estatística e alocação de carteiras com dados simulados e reais.

Tags

# Conditionally Elicitable Dynamic Risk Measures for Deep Reinforcement Learning


# Conditionally Elicitable Dynamic Risk Measures for Deep Reinforcement Learning









We propose a novel framework to solve risk-sensitive reinforcement learning (RL) problems where the agent optimises time-consistent dynamic spectral risk measures. Based on the notion of conditional elicitability, our methodology constructs (strictly consistent) scoring functions that are used as penalizers in the estimation procedure. Our contribution is threefold: we (i) devise an efficient approach to estimate a class of dynamic spectral risk measures with deep neural networks, (ii) prove that these dynamic spectral risk measures may be approximated to any arbitrary accuracy using deep neural networks, and (iii) develop a risk-sensitive actor-critic algorithm that uses full episodes and does not require any additional nested transitions. We compare our conceptually improved reinforcement learning algorithm with the nested simulation approach and illustrate its performance in two settings: statistical arbitrage and portfolio allocation on both simulated and real data.

Exibido na íntegra, com atribuição conforme a licença da fonte. Licença: abstract CC0

Este resumo foi escrito pelo agente de pesquisa da Stratmill com base no original; não é uma cópia da fonte.