- 专利标题: 机器学习框架漏洞检测方法、系统、设备及可读存储介质
-
申请号: CN202010996845.6申请日: 2020-09-21
-
公开(公告)号: CN112069507B公开(公告)日: 2023-04-07
- 发明人: 沈超 , 张笑宇 , 蔺琛皓 , 管晓宏
- 申请人: 西安交通大学
- 申请人地址: 陕西省西安市咸宁西路28号
- 专利权人: 西安交通大学
- 当前专利权人: 西安交通大学
- 当前专利权人地址: 陕西省西安市咸宁西路28号
- 代理机构: 西安通大专利代理有限责任公司
- 代理商 马贵香
- 主分类号: G06F21/57
- IPC分类号: G06F21/57 ; G06N3/126 ; G06N20/00
摘要:
本发明属于机器学习领域,公开了一种机器学习框架漏洞检测方法、系统、设备及可读存储介质,包括以下步骤:根据预设API的参数配置要求,随机生成预设API的若干单层模型;将每个单层模型分别在若干机器学习框架中实现,得到不同机器学习框架对同一单层模型的实现结果;根据不同机器学习框架对同一单层模型的实现结果的差异,确定各机器学习框架是否存在框架漏洞及框架漏洞类型。该检测方法无需提前生成可以暴露机器学习框架漏洞的模型,本质上是对每个API的不同参数配置以及不同输入进行贪婪搜索,这样的特性决定了该机器学习框架漏洞检测方法实现简单,复杂度低,且对机器学习框架API的覆盖率高,可以有效减少检测问题时的计算资源开销。
公开/授权文献
- CN112069507A 机器学习框架漏洞检测方法、系统、设备及可读存储介质 公开/授权日:2020-12-11