三层架构

在初步了解如何使用DRL建立我们的股票交易任务后,现在我们将介绍FinRL的核心概念。

FinRL库由三层组成:市场环境(FinRL-Meta)DRL代理应用程序。下层为上层提供API,使得下层对上层透明。代理层以探索-利用的方式与环境层交互,无论是重复之前表现良好的决策,还是采取新的行动以期望获得更大的累积奖励。

../_images/finrl_framework.png

我们的构建具有以下优势:

模块化:每一层包含多个模块,每个模块定义了一个独立的功能。用户可以从某一层中选择特定的模块来实现他/她的股票交易任务。此外,更新现有模块也是可行的。

简单性、适用性和可扩展性:专为自动化股票交易设计,FinRL将DRL算法作为模块呈现。通过这种方式,FinRL既易于使用又不失要求。FinRL提供了三个交易任务作为用例,可以轻松复制。每一层都包括预留的接口,允许用户开发新的模块。

更好的市场环境建模:我们构建了一个交易模拟器,该模拟器复制了实时股票市场,并提供了回测支持,其中包含了重要的市场摩擦因素,如交易成本、市场流动性和投资者的风险厌恶程度。所有这些因素都是决定净回报的关键因素。

FinRL 如何在 DRL 中构建问题的高级视图:

../_images/finrl_overview_drl.png

请参考以下页面以获取更详细的解释: