发明公开
- 专利标题: 一种基于生成式模型的回报模型的构建方法及其验证方法
-
申请号: CN202410663880.4申请日: 2024-05-27
-
公开(公告)号: CN118485133A公开(公告)日: 2024-08-13
- 发明人: 韩为 , 赵巍 , 孔昭阳 , 刘鹏
- 申请人: 哈尔滨工业大学
- 申请人地址: 黑龙江省哈尔滨市南岗区西大直街92号
- 专利权人: 哈尔滨工业大学
- 当前专利权人: 哈尔滨工业大学
- 当前专利权人地址: 黑龙江省哈尔滨市南岗区西大直街92号
- 代理机构: 哈尔滨市晨晟知识产权代理有限公司
- 代理商 刘文权
- 主分类号: G06N3/092
- IPC分类号: G06N3/092 ; G06N3/047 ; G06N3/0455
摘要:
本发明提出一种基于生成式模型的回报模型的构建方法及其验证方法,属于回报模型构建技术领域。包括以下步骤:步骤一、拟合特定环境下行为的概率分布;步骤二、对每一时刻行为的概率分布取对数后中心化,得到行为对应的回报;步骤三、基于行为对应的回报构建智能体策略实现回报模型的应用。本发明使用生成式模型作为回报模型,即,使用在目标任务上经最大似然得到的生成式模型对每个动作概率的中心化对数值作为该动作的回报值。本算法运算方便,能显式给出任意领域生成式模型和回报函数的关系;使用无监督方式得到回报模型大大降低成本;并且可以应用到任意智能体任务中。解决了回报模型构建时步骤繁琐,计算复杂的技术问题。