发明公开
- 专利标题: 一种网络配置领域生成式大语言模型的实现方法、电子设备及存储介质
-
申请号: CN202410844342.5申请日: 2024-06-27
-
公开(公告)号: CN118869426A公开(公告)日: 2024-10-29
- 发明人: 李福亮 , 李梓鸣 , 喻岩 , 李少伟 , 王兴伟
- 申请人: 东北大学
- 申请人地址: 辽宁省沈阳市和平区文化路三巷11号
- 专利权人: 东北大学
- 当前专利权人: 东北大学
- 当前专利权人地址: 辽宁省沈阳市和平区文化路三巷11号
- 代理机构: 大连星河彩舟专利代理事务所
- 代理商 孙晓婷
- 主分类号: H04L41/04
- IPC分类号: H04L41/04 ; H04L41/0803 ; H04L41/142 ; G06F40/16 ; G06N3/0499
摘要:
本发明提供一种网络配置领域生成式大语言模型的实现方法、电子设备及存储介质,属于网络管理领域。本发明首先采取网络配置领域的相关文档对开源大语言模型进行增量预训练,将网络配置的相关知识注入大语言模型,得到增量预训练模型;然后采用高质量的“自然语言,网络拓扑,全网范围内的网络配置”对齐数据,对增量预训练模型进行进一步有监督微调,交给大语言模型如何实现全网配置生成任务,得到有监督微调模型;最后采用有监督微调模型生成的配置作为负样本,训练集中的正确配置作为正样本,对有监督微调模型进行直接偏好优化,提高模型生成的准确率,得到最终的配置领域生成式大语言模型,该模型不仅能理解网络配置的复杂性,还能生成符合实际需求的配置方案。