窗外的深圳湾在晨光中泛着细碎的金光,林晨却无暇欣赏。书房的窗帘拉上了一半,三块屏幕亮着,映着他专注的脸。距离上次黄金期货盈利已经过去一周,账户里的数字又往上跳了跳,稳定在七万八左右。短暂的喜悦过后,一种更深层的渴望在他心里滋长——现有的系统,本质上还是基于规则和传统机器学习模型(预测价格走势)的“半自动”系统。它聪明,但还不够“智慧”。
“如果能训练出一个真正懂得在复杂金融市场里‘生存’和‘狩猎’的智能体呢”?这个念头一旦冒出,就再也压不下去。
他点开收藏夹里标记已久的几篇论文和开源项目。《Playing Atari with Deep Reinforcement Learning》、《Deep Reinforcement Learning for Trading》。强化学习(Reinforcement Learning, RL),这个让AI在游戏里从零开始击败人类冠军的技术,其核心思想深深吸引了他:智能体(Agent)通过与环境(Environment)交互,根据行动(Action)获得的奖励(Reward)来学习最优策略(Policy)。这不正是一个交易员在市场中摸索、试错、最终形成自己交易体系的抽象过程吗?
“把市场看作环境,把买卖操作看作行动,把盈亏看作奖励……”林晨喃喃自语,手指在键盘上无意识地敲击着。这个类比让他兴奋。传统的量化策略,往往是人类设计好规则(比如“金叉买,死叉卖”),或者用监督学习预测未来价格然后制定策略。而强化学习,是让AI自己从海量历史数据中探索,找出能最大化长期累积收益的“行为模式”。它可能发现人类根本想不到的微妙特征和时机。
但兴奋很快被现实的复杂性冲淡。金融市场的“环境”极其复杂、非稳态、充满噪声,奖励信号(盈亏)稀疏且延迟,还存在高昂的“试错成本”(真金白银的亏损)。这比Atari游戏里控制一个小方块吃豆子难了无数个数量级。
“先从概念和经典算法啃起”。林晨定了定神,打开了Notion笔记,新建了一个页面,标题写上“强化学习入坑笔记(量化交易视角)”。
他给自己规划了三天的基础理论学习。第一天,搞懂马尔可夫决策过程(MDP)、价值函数(Value Function)、策略梯度(Policy Gradient)这些核心概念。厚厚的PRML(
(本章节未完结,点击下一页翻页继续阅读)