专利内容由知识产权出版社提供
专利名称:数据去重方法、装置、计算机设备及存储介质专利类型:发明专利发明人:齐泽青
申请号:CN201910327390.6申请日:20190423公开号:CN110245130A公开日:20190917
摘要:本发明公开了一种数据去重方法、装置、计算机设备及存储介质,涉及大数据领域。该数据去重方法包括:获取待比对数据;基于待比对数据,采用消息摘要算法计算生成相对应的待比对指纹;获取用户输入的查询指令,基于待比对指纹,根据查询指令查询是否存在与待比对指纹相同的现存指纹,得到查询结果,其中,查询指令包括标志位,现存指纹和待比对指纹采用相同的生成方式得到;执行标志位所代表的操作,并基于查询结果变更现存指纹所对应的引用计数,完成数据去重。采用该数据去重方法能够高效地完成数据去重。
申请人:平安科技(深圳)有限公司
地址:518000 广东省深圳市福田区福田街道福安社区益田路5033号平安金融中心23楼
国籍:CN
代理机构:北京汇思诚业知识产权代理有限公司
代理人:冯晓平
更多信息请下载全文后查看