-
公开(公告)号:CN119271184A
公开(公告)日:2025-01-07
申请号:CN202411029900.9
申请日:2024-07-30
Applicant: 浙江大学
Abstract: 一种基于大语言模型的物联网系统TAP规则生成方法和装置,其方法包括:(1)从设备的物模型文件中提取信息,并组织为合适的格式;(2)根据用户需求从设备信息中筛选出相关内容;(3)根据用户的需求和相关设备信息,基于LLM生成合适格式的TAP;(4)通过Translator组件将LLM生成的TAP格式转换为实际平台的TAP实现部署。本发明的核心在于定义一个通用的设备描述格式和TAP格式,借助LLM将用户需求转换为通用的TAP,再翻译为实际平台要求的格式以实现部署。本发明的优点是:用户可以自然语言进行TAP创建,节省用于实现简单重复工作的人力和时间,并且不局限于某个具体物联网平台,本系统通过适当的调整可以应用于不同场景下需要创建大量TAP的物联网系统,具有广泛的适用性。
-
公开(公告)号:CN118446257A
公开(公告)日:2024-08-06
申请号:CN202410488907.0
申请日:2024-04-23
Applicant: 浙江大学
IPC: G06N3/0495 , G06N3/092
Abstract: 一种基于大模型蒸馏的小模型定制方法和装置,其方法包括:(1)训练深度强化学习算法的模型,用于边缘服务器部署小模型的决策,根据决策对环境做出相应的动作,并根据环境的反馈更新强化学习模型;(2)使用大模型,根据用户关心的问题,蒸馏出小模型;(3)边缘服务器上的强化学习模型根据当前环境的状态做出具体的部署决策;本发明引入一种基于大模型蒸馏的小模型定制方法,支持对多个模型部署进行决策分配,并且拥有较强的灵活性。相比于暴力搜索、直接部署,有效提高了资源利用率,减少了系统的计算开销。
-