狠狠色丁香婷婷综合尤物/久久精品综合一区二区三区/中国有色金属学报/国产日韩欧美在线观看 - 国产一区二区三区四区五区tv

LOGO OA教程 ERP教程 模切知識交流 PMS教程 CRM教程 開發(fā)文檔 其他文檔  
 
網(wǎng)站管理員

SQL數(shù)據(jù)庫中加密后的敏感字段還能進(jìn)行模糊查詢嗎?該如何實(shí)現(xiàn)?

admin
2023年5月31日 9:57 本文熱度 829

前言

有一個(gè)問題不知道大家想過沒?敏感字段數(shù)據(jù)是加密存儲(chǔ)在數(shù)據(jù)庫的表中,如果需要對這些敏感字段進(jìn)行模模糊查詢,還用原來的通過sql的where從句的like來模糊查詢的方式肯定是不行的,那么應(yīng)該怎么實(shí)現(xiàn)呢?這篇文章就來解決這個(gè)問題。

場景分析

假如有類似這樣的一個(gè)場景:有一個(gè)人員管理的功能,人員信息列表的主要字段有姓名、性別、用戶賬號、手機(jī)號碼、身份證號碼、家庭住址、注冊日期等,可以對任意一條數(shù)據(jù)進(jìn)行增、刪、改、查,其中姓名、身份證號碼、手機(jī)號碼字段要支持模糊查詢。

簡單分析一個(gè)場景,可以知道:手機(jī)號碼、身份證號碼、家庭人址字段數(shù)據(jù)是敏感數(shù)據(jù),這些字段的數(shù)據(jù)是要加密存儲(chǔ)在數(shù)據(jù)庫里,在頁面上展示的時(shí)候需要進(jìn)行脫敏處理的。

如果用戶想要查詢真實(shí)姓名是包含有“張三”的所有人員信息,可以在頁面上輸入一個(gè)關(guān)鍵字,如“張三”,點(diǎn)擊開始查詢后,這個(gè)參數(shù)會(huì)傳遞到后臺,后臺會(huì)執(zhí)行一條sql,如“select * from sys_person where real_name like ‘%張三%’”,執(zhí)行結(jié)果中包含了所有用戶真實(shí)姓名包含有“張三”的所有數(shù)據(jù)記錄,如“張三”,“張三豐”等。

如果用戶要查詢手機(jī)號碼尾號是“0537”的用戶,后臺執(zhí)行類似與姓名模糊查詢的sql,"select * from sys_person where phone like '%0537'",肯定是得不到正確的結(jié)果的,因?yàn)槭謾C(jī)號碼字段在數(shù)據(jù)庫中的數(shù)據(jù)是加密后的結(jié)果,而‘0537’是明文。身份證號碼、家庭住址等其他敏感字段在模糊查詢的時(shí)候也都有類似這樣的問題,這也是敏感字段模糊查詢的痛點(diǎn),即模糊查詢關(guān)鍵字與實(shí)際存儲(chǔ)的數(shù)據(jù)不一致。

實(shí)現(xiàn)方案

下面分享幾種解決方案:

第一種,先解密再查詢

查詢出目標(biāo)表內(nèi)所有的數(shù)據(jù),在內(nèi)存中對要模糊查詢的敏感字段的加密數(shù)據(jù)進(jìn)行解密,然后再遍歷解密后的數(shù)據(jù),與模糊查詢關(guān)鍵字進(jìn)行比較,篩選出包含有模糊查詢關(guān)鍵字的數(shù)據(jù)行。

這種方法是最容易想到的,但有一個(gè)比較明顯的問題是,模糊查詢的過程是在內(nèi)存中進(jìn)行的,如果數(shù)據(jù)量特別大,很容易導(dǎo)致內(nèi)存溢出,因此不推薦在生產(chǎn)中使用這種方法;

第二種,明文映射表

新建一張映射表,存儲(chǔ)敏感字段解密后的數(shù)據(jù)與目標(biāo)表主鍵的映射表,需要模糊查詢的時(shí)候,先對明文映射表進(jìn)行模糊查詢,得到符合條件的目標(biāo)數(shù)據(jù)的主鍵,再返回來根據(jù)主鍵查詢目標(biāo)表;

這種方法,實(shí)際上是有點(diǎn)掩耳盜鈴的感覺,敏感字段加密存儲(chǔ)的字段主要是考慮到安全性,使用明文映射表來存儲(chǔ)解密后的敏感字段,實(shí)際上相當(dāng)于敏感字段沒有加密存儲(chǔ),與最被要對敏感字段加密的初衷相違背,因此不推薦在生產(chǎn)中使用這種方法;

第三種,數(shù)據(jù)庫層面進(jìn)行解密查詢

后臺在執(zhí)行查詢sql時(shí)對敏感字段先解密,然后再執(zhí)行l(wèi)ike,以上面的人員管理列表模糊查詢?yōu)槔磳ql的改造為:“select * from sys_person where AES_DECRYPT(phone,'key') like '%0537'”;

這種方法的優(yōu)點(diǎn)是,成本比較小,容易實(shí)現(xiàn),但是缺點(diǎn)很明顯,該字段無法通過數(shù)據(jù)庫索引來優(yōu)化查詢,另外有一些數(shù)據(jù)庫無法保證數(shù)據(jù)庫的加解密算法與程序的加解密算法一致,可能會(huì)導(dǎo)致可以程序中加密,但是無法在數(shù)據(jù)庫中解密的或者可以在數(shù)據(jù)庫加密無法在程序中解密的問題,因此不推薦在生產(chǎn)中使用這種方法;

第四種,分詞密文映射表

這種方法是對第二種思路的基礎(chǔ)上進(jìn)行延伸優(yōu)化,也是主流的方法。新建一張分詞密文映射表,在敏感字段數(shù)據(jù)新增、修改的后,對敏感字段進(jìn)行分詞組合,如“15503770537”的分詞組合有“155”、“0377”、“0537”等,再對每個(gè)分詞進(jìn)行加密,建立起敏感字段的分詞密文與目標(biāo)數(shù)據(jù)行主鍵的關(guān)聯(lián)關(guān)系;在處理模糊查詢的時(shí)候,對模糊查詢關(guān)鍵字進(jìn)行加密,用加密后的模糊查詢關(guān)鍵字,對分詞密文映射表進(jìn)行l(wèi)ike查詢,得到目標(biāo)數(shù)據(jù)行的主鍵,再以目標(biāo)數(shù)據(jù)行的主鍵為條件返回目標(biāo)表進(jìn)行精確查詢。


圖片一:分組組合加密前


圖片二:分組組合加密后

淘寶、阿里、拼多、京東等大廠對用戶敏感數(shù)據(jù)加密后支持模糊查詢都是這樣的原理,下面是幾個(gè)大廠的敏感字段模糊查詢方案說明,有興趣可以了解一下:

淘寶密文字段檢索方案

阿里巴巴文字段檢索方案

拼多多密文字段檢索方案

京東密文字段檢索方案

這種方法的優(yōu)點(diǎn)就是原理簡單,實(shí)現(xiàn)起來也不復(fù)雜,但是有一定的局限性,算是一個(gè)對性能、業(yè)務(wù)相折中的一個(gè)方案,相比較之下,在能想的方法中,比較推薦這種方法,但是要特別注意的是,對模糊查詢的關(guān)鍵字的長度,要在業(yè)務(wù)層面進(jìn)行限制;以手機(jī)號為例,可以要求對模糊查詢的關(guān)鍵字是四位或者是五位,具體可以再根據(jù)具體的場景進(jìn)行詳細(xì)劃分。

為什么要增加這樣的限制呢?因?yàn)槊魑募用芎箝L度為變長,有額外的存儲(chǔ)成本和查詢性能成本,分詞組合越多,需要的存儲(chǔ)空間以及所消耗的查詢性能成本也就更大,并且分詞越短,被硬破解的可能性也就越大,也會(huì)在一定程度上導(dǎo)致安全性降低。

環(huán)境配置

  • jdk版本:1.8開發(fā)工具:Intellij iDEA 2020.1
  • springboot:2.3.9.RELEASE
  • mybatis-spring-boot-starter:2.1.4

依賴配置

示例主要用到了SpringAop,加密是對稱加密,用到了hutool工具包里的加密解密工具類,也可以使用自己封裝的加密解密工具類。

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-aop</artifactId>
</dependency>
<dependency>
    <groupId>cn.hutool</groupId>
    <artifactId>hutool-all</artifactId>
    <version>5.3.3</version>
</dependency>

代碼實(shí)現(xiàn)

1、新建分詞密文映射表;

如果是多個(gè)模糊查詢的字段,可以共用在一張分詞密文映射表中擴(kuò)展多個(gè)字段,以示例中的人員管理功能為例,新建sys_person_phone_encrypt表(人員的手機(jī)號碼分詞密文映射表),用于存儲(chǔ)人員id與分詞組合密文的映射關(guān)系

create table if not exists sys_person_phone_encrypt
(
   id bigint auto_increment comment '主鍵' primary key,
   person_id int not null comment '關(guān)聯(lián)人員信息表主鍵',
   phone_key varchar(500) not null comment '手機(jī)號碼分詞密文'
)
comment '人員的手機(jī)號碼分詞密文映射表';

2、敏感字段數(shù)據(jù)在保存入庫的時(shí)候,對敏感字段進(jìn)行分詞組合并加密碼,存儲(chǔ)在分詞密文映射表;

在注冊人員信息的時(shí)候,先取出通過AOP進(jìn)行加密過的手機(jī)號碼進(jìn)行解密;手機(jī)號碼解密之后,對手機(jī)號碼按照連續(xù)四位進(jìn)行分詞組合,并對每一個(gè)手機(jī)號碼的分詞進(jìn)行加密,最后把所有的加密后手機(jī)號碼分詞拼接成一個(gè)字符串,與人員id一起保存到人員的手機(jī)號碼分詞密文映射表;

public Person registe(Person person) {
    this.personDao.insert(person);
    String phone = this.decrypt(person.getPhoneNumber());
    String phoneKeywords = this.phoneKeywords(phone);
    this.personDao.insertPhoneKeyworkds(person.getId(),phoneKeywords);
    return person;
}
private String phoneKeywords(String phone) {
    String keywords = this.keywords(phone, 4);
    System.out.println(keywords.length());
    return keywords;
}
 
//分詞組合加密
private String keywords(String word, int len) {
    StringBuilder sb = new StringBuilder();
    for (int i = 0; i < word.length(); i++) {
        int start = i;
        int end = i + len;
        String sub1 = word.substring(start, end);
        sb.append(this.encrypt(sub1));
        if (end == word.length()) {
            break;
        }
    }
    return sb.toString();
}
public String encrypt(String val) {
    //這里特別注意一下,對稱加密是根據(jù)密鑰進(jìn)行加密和解密的,加密和解密的密鑰是相同的,一旦泄漏,就無秘密可言,
    //“fanfu-csdn”就是我自定義的密鑰,這里僅作演示使用,實(shí)際業(yè)務(wù)中,這個(gè)密鑰要以安全的方式存儲(chǔ);
    byte[] key = SecureUtil.generateKey(SymmetricAlgorithm.DES.getValue(), "fanfu-csdn".getBytes()).getEncoded();
    SymmetricCrypto aes = new SymmetricCrypto(SymmetricAlgorithm.DES, key);
    String encryptValue = aes.encryptBase64(val);
    return encryptValue;
}
public String decrypt(String val) {
    //這里特別注意一下,對稱加密是根據(jù)密鑰進(jìn)行加密和解密的,加密和解密的密鑰是相同的,一旦泄漏,就無秘密可言,
    //“fanfu-csdn”就是我自定義的密鑰,這里僅作演示使用,實(shí)際業(yè)務(wù)中,這個(gè)密鑰要以安全的方式存儲(chǔ);
    byte[] key = SecureUtil.generateKey(SymmetricAlgorithm.DES.getValue(), "fanfu-csdn".getBytes()).getEncoded();
    SymmetricCrypto aes = new SymmetricCrypto(SymmetricAlgorithm.DES, key);
    String encryptValue = aes.decryptStr(val);
    return encryptValue;
}

3、模糊查詢的時(shí)候,對模糊查詢關(guān)鍵字進(jìn)行加密,以加密后的關(guān)鍵字密文為查詢條件,查詢密文映射表,得到目標(biāo)數(shù)據(jù)行的id,再以目標(biāo)數(shù)據(jù)行id為查詢條件,查詢目標(biāo)數(shù)據(jù)表;

根據(jù)手機(jī)號碼的四位進(jìn)行模糊查詢的時(shí)候,以加密后模糊查詢的關(guān)鍵字為條件,查詢sys_person_phone_encrypt表(人員的手機(jī)號碼分詞密文映射表),得到人員信息id;再以人員信息id,查詢?nèi)藛T信息表;

public List<Person> getPersonList(String phoneVal) {
    if (phoneVal != null) {
       return this.personDao.queryByPhoneEncrypt(this.encrypt(phoneVal));
    }
    return this.personDao.queryList(phoneVal);
}
<select id="queryByPhoneEncrypt" resultMap="personMap">
    select * from sys_person where id in 
    (select person_id from sys_person_phone_encrypt
     where phone_key like concat('%',#{phoneVal},'%'))
</select>

圖片

示例完整代碼:

來源:https://blog.csdn.net/fox9916/article/details/129997442


該文章在 2023/5/31 9:57:35 編輯過
關(guān)鍵字查詢
相關(guān)文章
正在查詢...
點(diǎn)晴ERP是一款針對中小制造業(yè)的專業(yè)生產(chǎn)管理軟件系統(tǒng),系統(tǒng)成熟度和易用性得到了國內(nèi)大量中小企業(yè)的青睞。
點(diǎn)晴PMS碼頭管理系統(tǒng)主要針對港口碼頭集裝箱與散貨日常運(yùn)作、調(diào)度、堆場、車隊(duì)、財(cái)務(wù)費(fèi)用、相關(guān)報(bào)表等業(yè)務(wù)管理,結(jié)合碼頭的業(yè)務(wù)特點(diǎn),圍繞調(diào)度、堆場作業(yè)而開發(fā)的。集技術(shù)的先進(jìn)性、管理的有效性于一體,是物流碼頭及其他港口類企業(yè)的高效ERP管理信息系統(tǒng)。
點(diǎn)晴WMS倉儲(chǔ)管理系統(tǒng)提供了貨物產(chǎn)品管理,銷售管理,采購管理,倉儲(chǔ)管理,倉庫管理,保質(zhì)期管理,貨位管理,庫位管理,生產(chǎn)管理,WMS管理系統(tǒng),標(biāo)簽打印,條形碼,二維碼管理,批號管理軟件。
點(diǎn)晴免費(fèi)OA是一款軟件和通用服務(wù)都免費(fèi),不限功能、不限時(shí)間、不限用戶的免費(fèi)OA協(xié)同辦公管理系統(tǒng)。
Copyright 2010-2025 ClickSun All Rights Reserved