基于虚拟接口的存储系统
    51.
    发明公开

    公开(公告)号:CN1761257A

    公开(公告)日:2006-04-19

    申请号:CN200510019860.0

    申请日:2005-11-22

    Abstract: 基于虚拟接口的存储系统,属于计算机存储技术,目的在于缩短网络存储中的路径,减少协议开销,解决网络响应速度和I/O带宽的问题。本发明包括M台存储服务节点机、一台元数据节点机和N台客户节点机,它们通过VIA通信网络互连;运行于存储服务节点机上的模块包括系统初始化模块、请求监听模块和请求处理模块;运行于元数据节点机上的模块包括元数据系统初始化模块、元数据请求监听模块和状态检测模块;运行于客户节点机上的软件模块包括一个或多个基于VI的网络块设备驱动模块。本发明实现数据传输的零拷贝,缩短了网络存储数据的路径,有效解决了网络带宽、存储访问速度、互操作性等主要的网络存储问题。

    基于多通道存储设备的海量存储系统及其系统控制方法

    公开(公告)号:CN1487436A

    公开(公告)日:2004-04-07

    申请号:CN03125249.4

    申请日:2003-08-08

    Abstract: 本发明公开了一种基于多通道存储设备的海量存储系统,包括服务器和若干存储设备,存储设备包括主机通道、存储设备及网络的接口模块和阵列运行控制模块,接口模块通过PCI总线与阵列运行控制模块相连;构成多通道存储设备,服务器通过外设适配器接入主机通道;存储设备通过各自的网络接口连入与服务器相同或不同的网络。该系统采用了命令与数据分流的控制方法。本发明具有:①系统的可扩展性好;②可大幅度减少服务器的负载,避免存储设备性能的发挥受单一外设通道的制约、存储设备运行具有高度并行性;③实现了集中的文件系统管理与分布的数据存取,保证了管理的高效率与存储的高性能;④用户I/O数据直接从存储设备传输到用户,缩短了I/O路径,减少了系统延迟,提高了平均数传率。

    一种面向信息驱动的分布式图表示学习方法及系统

    公开(公告)号:CN116484979A

    公开(公告)日:2023-07-25

    申请号:CN202310252364.8

    申请日:2023-03-15

    Abstract: 本发明公开了一种面向信息驱动的分布式图表示学习方法及系统,包括:从图数据中执行多阶邻近性感知的流式图划分策略,使用动态负载约束来确保各计算节点间的负载均衡;进而通过以增量信息为中心的计算机制,确保对随机游走生成路径的信息有效性进行动态衡量且以常量级在各计算节点间进行消息通信;通过分布式Skip‑Gram学习模型来生成顶点的嵌入向量,具体地,利用全局词向量矩阵和本地缓存器实现顶点向量的访问和更新操作,以改善访问局部性和减少训练更新期间产生的缓存抖动;然后通过多窗口共享负样本计算机制以充分利用CPU的硬件资源;利用基于热点词块的同步机制以保证在分布式环境下高效地进行参数同步。本发明高效且有效地表征图数据信息。

    一种通用缓存替换方法及系统

    公开(公告)号:CN114995751A

    公开(公告)日:2022-09-02

    申请号:CN202210576451.4

    申请日:2022-05-25

    Abstract: 本发明提供一种通用缓存替换方法及系统,包括:收集当前各种相关请求至缓存的I/O序列;将I/O序列输入到训练好的缓存分布预测器,以预测当前序列下应该采用何种缓存替换策略的概率;缓存分布预测器主要是以深度强化学习算法DDPG为基础,内部的神经网络在输入阶段对I/O序列在时序特征和统计特征上的分析;时序特征的提取主要是采用LSTM来实现,统计特征的提取主要是通过分析I/O序列本身反映出诸如最大最小以及均值等统计信息。本发明结合I/O序列的多维特征分析和深度强化学习算法来指导缓存应该选择何种缓存替换策略来完成缓存的替换过程,在无需应用层信息的情况下高效完成缓存的替换过程,降低了系统在复杂环境下部署的难度。

    一种面向突发性负载的选择性副本实现方法及系统

    公开(公告)号:CN110362426B

    公开(公告)日:2021-07-27

    申请号:CN201910544859.1

    申请日:2019-06-21

    Abstract: 本发明公开了一种面向突发性负载的选择性副本实现方法及系统,属于云对象存储领域,包括:存储服务器接收到访问请求后,获得目标数据对象副本所在的目标存储设备,并确定是否由目标存储设备服务该访问请求;若由目标存储设备服务该访问请求且其中的副本为基础副本,则预测目标数据对象是否将被突发访问;若预测目标数据对象将被突发访问,则在响应中进行标记;存储客户端接收到含标记的响应后,将响应中的数据缓存在本地后再返回给请求发送方,然后获取一个满足副本创建条件的存储设备,获取成功后将数据迁移至该设备,从而为目标数据对象创建一个新的额外副本。本发明能够提高云存储系统处理突发性负载时的资源利用率及系统性能。

    一种基于RDMA的非易失内存系统的通信方法及服务器

    公开(公告)号:CN112667416A

    公开(公告)日:2021-04-16

    申请号:CN202011564580.9

    申请日:2020-12-25

    Abstract: 本发明公开了一种基于RDMA的非易失内存系统的通信方法及服务器,即提供一种基于RDMA技术和NVM的数据通信方法,该方法包括:服务器以日志结构的方式在非易失内存中维护数据的多个版本,对象的多个版本组成链表,链表头结点被哈希表索引。客户端使用RDMA write写数据,服务器使用后台线程进行数据完整性验证和持久化,通过一致性感知的持久化保证数据在读之前完整持久化,进而保证强一致性。本发明还提供了实现上述方法的系统。本发明有效地保证了基于RDMA的非易失内存系统的数据强一致性,同时保证在写为主的场景下的高性能和高可扩展,避免了数据较大时CRC校验引起的读性能降级。

    基于时间序列预测的海量小文件存储性能优化方法及系统

    公开(公告)号:CN110968272A

    公开(公告)日:2020-04-07

    申请号:CN201911291844.5

    申请日:2019-12-16

    Abstract: 本发明公开了一种基于时间序列预测的海量小文件存储性能优化方法,属于信息存储领域,包括:收集带有时间信息的历史文件访问记录,得到数据集;将数据集预处理为离散的时间序列数据后,使用时间窗口在其上滚动产生训练数据集合,任意t时刻的训练数据以t-n~t时刻的数据为输入数据,并以t+1时刻的数据为标签数据;基于循环神经网络建立时间序列预测模型,并利用由训练数据集合划分得到的训练集、验证集和测试集依次进行训练、验证与测试,从而得到目标模型;利用目标模型预测文件大小的变化趋势,以识别出其中的大文件和小文件;将大文件直接存储,将小文件基于时间序列聚合后存储。本发明能够优化海量小文件在分布式存储系统中的存储性能。

    一种面向突发性负载的选择性副本实现方法及系统

    公开(公告)号:CN110362426A

    公开(公告)日:2019-10-22

    申请号:CN201910544859.1

    申请日:2019-06-21

    Abstract: 本发明公开了一种面向突发性负载的选择性副本实现方法及系统,属于云对象存储领域,包括:存储服务器接收到访问请求后,获得目标数据对象副本所在的目标存储设备,并确定是否由目标存储设备服务该访问请求;若由目标存储设备服务该访问请求且其中的副本为基础副本,则预测目标数据对象是否将被突发访问;若预测目标数据对象将被突发访问,则在响应中进行标记;存储客户端接收到含标记的响应后,将响应中的数据缓存在本地后再返回给请求发送方,然后获取一个满足副本创建条件的存储设备,获取成功后将数据迁移至该设备,从而为目标数据对象创建一个新的额外副本。本发明能够提高云存储系统处理突发性负载时的资源利用率及系统性能。

    一种基于机器学习的Hadoop参数自动调优方法及系统

    公开(公告)号:CN106202431B

    公开(公告)日:2019-06-28

    申请号:CN201610550098.7

    申请日:2016-07-13

    Abstract: 本发明属于大数据处理技术领域,涉及一种基于机器学习的Hadoop参数的自动调优方法及系统。本发明根据不同应用程序的资源消耗特征聚类分组,并针对不同组应用建立不同的性能模型,自动得到对不同类应用影响较大的不同参数,并给出定量参数建议值。系统包括离线模块和在线模块,离线模块包括Hadoop数据收集器、聚类器和性能模型构建子模块;在线模块包括作业管理器、优化器、资源消耗特征匹配器和作业探查器。本发明有效解决了现有的基于经验规律的方法对用户经验的高依赖问题和定性参数建议的限制问题;同时本发明将参数优化系统和Hadoop系统分离,降低系统耦合度,减少人工开销,避免人为误判,并且便于系统扩展与维护。

    一种基于I/O调度的多任务外存模式图处理方法

    公开(公告)号:CN109522102A

    公开(公告)日:2019-03-26

    申请号:CN201811053424.9

    申请日:2018-09-11

    Abstract: 本发明公开了一种基于I/O调度的多任务外存模式图处理方法,包括:将图数据进行流式分区得到图分区,将图分区均衡地置于多个外存设备中,基于I/O调度从多个外存设备中选取目标外存设备,并将目标外存设备中图处理任务尚未访问的图分区作为指定分区;根据指定分区的同步字段判断其是否未被映射到内存中,若是,则将指定分区从外存设备映射到内存中,并更新指定分区的同步字段;否则,直接通过指定分区映射到内存的地址信息进行图分区数据的访问。本发明通过I/O调度,选择任务数最少的外存设备访问,以此控制访问外存图分区数据的顺序,平衡I/O压力;通过设置同步字段实现图分区数据的共享,减少相同图分区的重复加载,以此减少I/O总带宽量,提升I/O效率。

Patent Agency Ranking