SQL數(shù)據(jù)庫中加密后的敏感字段還能進(jìn)行模糊查詢嗎?該如何實(shí)現(xiàn)?
當(dāng)前位置:點(diǎn)晴教程→知識管理交流
→『 技術(shù)文檔交流 』
有一個(gè)問題不知道大家想過沒?敏感字段數(shù)據(jù)是加密存儲(chǔ)在數(shù)據(jù)庫的表中,如果需要對這些敏感字段進(jìn)行模模糊查詢,還用原來的通過sql的where從句的like來模糊查詢的方式肯定是不行的,那么應(yīng)該怎么實(shí)現(xiàn)呢?這篇文章就來解決這個(gè)問題。 假如有類似這樣的一個(gè)場景:有一個(gè)人員管理的功能,人員信息列表的主要字段有姓名、性別、用戶賬號、手機(jī)號碼、身份證號碼、家庭住址、注冊日期等,可以對任意一條數(shù)據(jù)進(jìn)行增、刪、改、查,其中姓名、身份證號碼、手機(jī)號碼字段要支持模糊查詢。 簡單分析一個(gè)場景,可以知道:手機(jī)號碼、身份證號碼、家庭人址字段數(shù)據(jù)是敏感數(shù)據(jù),這些字段的數(shù)據(jù)是要加密存儲(chǔ)在數(shù)據(jù)庫里,在頁面上展示的時(shí)候需要進(jìn)行脫敏處理的。 如果用戶想要查詢真實(shí)姓名是包含有“張三”的所有人員信息,可以在頁面上輸入一個(gè)關(guān)鍵字,如“張三”,點(diǎn)擊開始查詢后,這個(gè)參數(shù)會(huì)傳遞到后臺,后臺會(huì)執(zhí)行一條sql,如“ 如果用戶要查詢手機(jī)號碼尾號是“0537”的用戶,后臺執(zhí)行類似與姓名模糊查詢的sql," 下面分享幾種解決方案: 查詢出目標(biāo)表內(nèi)所有的數(shù)據(jù),在內(nèi)存中對要模糊查詢的敏感字段的加密數(shù)據(jù)進(jìn)行解密,然后再遍歷解密后的數(shù)據(jù),與模糊查詢關(guān)鍵字進(jìn)行比較,篩選出包含有模糊查詢關(guān)鍵字的數(shù)據(jù)行。 這種方法是最容易想到的,但有一個(gè)比較明顯的問題是,模糊查詢的過程是在內(nèi)存中進(jìn)行的,如果數(shù)據(jù)量特別大,很容易導(dǎo)致內(nèi)存溢出,因此不推薦在生產(chǎn)中使用這種方法; 新建一張映射表,存儲(chǔ)敏感字段解密后的數(shù)據(jù)與目標(biāo)表主鍵的映射表,需要模糊查詢的時(shí)候,先對明文映射表進(jìn)行模糊查詢,得到符合條件的目標(biāo)數(shù)據(jù)的主鍵,再返回來根據(jù)主鍵查詢目標(biāo)表; 這種方法,實(shí)際上是有點(diǎn)掩耳盜鈴的感覺,敏感字段加密存儲(chǔ)的字段主要是考慮到安全性,使用明文映射表來存儲(chǔ)解密后的敏感字段,實(shí)際上相當(dāng)于敏感字段沒有加密存儲(chǔ),與最被要對敏感字段加密的初衷相違背,因此不推薦在生產(chǎn)中使用這種方法; 后臺在執(zhí)行查詢sql時(shí)對敏感字段先解密,然后再執(zhí)行l(wèi)ike,以上面的人員管理列表模糊查詢?yōu)槔磳ql的改造為:“ 這種方法的優(yōu)點(diǎn)是,成本比較小,容易實(shí)現(xiàn),但是缺點(diǎn)很明顯,該字段無法通過數(shù)據(jù)庫索引來優(yōu)化查詢,另外有一些數(shù)據(jù)庫無法保證數(shù)據(jù)庫的加解密算法與程序的加解密算法一致,可能會(huì)導(dǎo)致可以程序中加密,但是無法在數(shù)據(jù)庫中解密的或者可以在數(shù)據(jù)庫加密無法在程序中解密的問題,因此不推薦在生產(chǎn)中使用這種方法; 這種方法是對第二種思路的基礎(chǔ)上進(jìn)行延伸優(yōu)化,也是主流的方法。新建一張分詞密文映射表,在敏感字段數(shù)據(jù)新增、修改的后,對敏感字段進(jìn)行分詞組合,如“15503770537”的分詞組合有“155”、“0377”、“0537”等,再對每個(gè)分詞進(jìn)行加密,建立起敏感字段的分詞密文與目標(biāo)數(shù)據(jù)行主鍵的關(guān)聯(lián)關(guān)系;在處理模糊查詢的時(shí)候,對模糊查詢關(guān)鍵字進(jìn)行加密,用加密后的模糊查詢關(guān)鍵字,對分詞密文映射表進(jìn)行l(wèi)ike查詢,得到目標(biāo)數(shù)據(jù)行的主鍵,再以目標(biāo)數(shù)據(jù)行的主鍵為條件返回目標(biāo)表進(jìn)行精確查詢。 淘寶、阿里、拼多、京東等大廠對用戶敏感數(shù)據(jù)加密后支持模糊查詢都是這樣的原理,下面是幾個(gè)大廠的敏感字段模糊查詢方案說明,有興趣可以了解一下: 淘寶密文字段檢索方案 阿里巴巴文字段檢索方案 拼多多密文字段檢索方案 京東密文字段檢索方案 這種方法的優(yōu)點(diǎn)就是原理簡單,實(shí)現(xiàn)起來也不復(fù)雜,但是有一定的局限性,算是一個(gè)對性能、業(yè)務(wù)相折中的一個(gè)方案,相比較之下,在能想的方法中,比較推薦這種方法,但是要特別注意的是,對模糊查詢的關(guān)鍵字的長度,要在業(yè)務(wù)層面進(jìn)行限制;以手機(jī)號為例,可以要求對模糊查詢的關(guān)鍵字是四位或者是五位,具體可以再根據(jù)具體的場景進(jìn)行詳細(xì)劃分。 為什么要增加這樣的限制呢?因?yàn)槊魑募用芎箝L度為變長,有額外的存儲(chǔ)成本和查詢性能成本,分詞組合越多,需要的存儲(chǔ)空間以及所消耗的查詢性能成本也就更大,并且分詞越短,被硬破解的可能性也就越大,也會(huì)在一定程度上導(dǎo)致安全性降低。 示例主要用到了SpringAop,加密是對稱加密,用到了hutool工具包里的加密解密工具類,也可以使用自己封裝的加密解密工具類。 1、新建分詞密文映射表; 如果是多個(gè)模糊查詢的字段,可以共用在一張分詞密文映射表中擴(kuò)展多個(gè)字段,以示例中的人員管理功能為例,新建 2、敏感字段數(shù)據(jù)在保存入庫的時(shí)候,對敏感字段進(jìn)行分詞組合并加密碼,存儲(chǔ)在分詞密文映射表; 在注冊人員信息的時(shí)候,先取出通過AOP進(jìn)行加密過的手機(jī)號碼進(jìn)行解密;手機(jī)號碼解密之后,對手機(jī)號碼按照連續(xù)四位進(jìn)行分詞組合,并對每一個(gè)手機(jī)號碼的分詞進(jìn)行加密,最后把所有的加密后手機(jī)號碼分詞拼接成一個(gè)字符串,與人員id一起保存到人員的手機(jī)號碼分詞密文映射表; 3、模糊查詢的時(shí)候,對模糊查詢關(guān)鍵字進(jìn)行加密,以加密后的關(guān)鍵字密文為查詢條件,查詢密文映射表,得到目標(biāo)數(shù)據(jù)行的id,再以目標(biāo)數(shù)據(jù)行id為查詢條件,查詢目標(biāo)數(shù)據(jù)表; 根據(jù)手機(jī)號碼的四位進(jìn)行模糊查詢的時(shí)候,以加密后模糊查詢的關(guān)鍵字為條件,查詢 示例完整代碼: 該文章在 2023/5/31 9:57:35 編輯過 |
關(guān)鍵字查詢
相關(guān)文章
正在查詢... |