最近幾年，有關(guān)隱私受到侵犯的案件一再發(fā)生。例如，F(xiàn)acebook 未經(jīng)用戶允許將用戶個(gè)人信息泄露給劍橋分析公司用于非正當(dāng)目的， 同時(shí)其利用網(wǎng)民的瀏覽行為來(lái)精準(zhǔn)的投放廣告，劍橋大學(xué)心理測(cè)量學(xué) 中心從用戶對(duì)哪些帖子和新聞進(jìn)行閱讀和點(diǎn)贊，來(lái)分析出每個(gè)人的性 別、性取向、個(gè)性外向還是內(nèi)向等，美食外賣企業(yè)“餓了么”、“大 眾點(diǎn)評(píng)”、“美團(tuán)”會(huì)利用算法推送一些推薦食物和餐館幫用戶做出 飲食決定，自動(dòng)駕駛技術(shù)讓人們可以輕松的出行，高德地圖、百度地 圖等智能導(dǎo)航系統(tǒng)減少了人們尋找路線的時(shí)間和精力，ChatGPT 和其 他生成式人工智能工具可以提高用戶交互體驗(yàn)、提高員工的創(chuàng)作和辦 公效率，但這些信息都以數(shù)據(jù)的形式存儲(chǔ)了下來(lái)，并被企業(yè)或其他主 體收集和利用，一些智能手機(jī)應(yīng)用甚至過(guò)度的收集并違規(guī)使用個(gè)人信 息，使得個(gè)人隱私信息面臨被泄露或被竊取的風(fēng)險(xiǎn)。

可以看到人工智能的普及與濫用使其面臨越來(lái)越多的隱私與安全威脅，社會(huì)各界也逐漸加大了對(duì)隱私風(fēng)險(xiǎn)的分析和隱私保護(hù)的關(guān)注 度。從隱私保護(hù)角度，數(shù)據(jù)隱私性、模型保密性、模型完整可用性是 用戶和服務(wù)提供商最為關(guān)心的問(wèn)題。因此，本章將先從數(shù)據(jù)、模型這 兩個(gè)不同的方面來(lái)揭示人工智能面臨的通用隱私威脅。同時(shí)，由于生 成式人工智能（Generative Artificial Intelligence，簡(jiǎn)稱生成式 AI）技術(shù)的快速發(fā)展和應(yīng)用給人們帶來(lái)了巨大的想象空間，但也增加 了新的 AI 隱私風(fēng)險(xiǎn)，本章還將對(duì)生成式人工智能隱私風(fēng)險(xiǎn)進(jìn)行揭示。

為了更好的推動(dòng)新一代人工智能安全發(fā)展，讓人工智能用的放心， 各國(guó)政府和企業(yè)越來(lái)越重視人工智能隱私保護(hù)。人工智能隱私保護(hù)指 的是在數(shù)據(jù)采集存儲(chǔ)和數(shù)據(jù)使用共享，模型訓(xùn)練以及模型推理應(yīng)用的 全生命周期過(guò)程中有效的保護(hù)用戶數(shù)據(jù)隱私不泄漏，不被未授權(quán)第三 方獲取或推理。因此，在人工智能處理大量個(gè)人數(shù)據(jù)和敏感信息的過(guò) 程中，如何加強(qiáng)數(shù)據(jù)隱私管控；在人工智能訓(xùn)練過(guò)程中，如何保證數(shù) 據(jù)質(zhì)量，避免原始數(shù)據(jù)隱私泄露；在人工智能推理應(yīng)用過(guò)程中，如何 防御攻擊引起的數(shù)據(jù)隱私推理，如何保護(hù)模型保密性與完整性日漸成 為國(guó)際人工智能的重要議題。

本白皮書(shū)從人工智能隱私保護(hù)的內(nèi)涵出發(fā)，從人工智能全生命周期系統(tǒng)梳理人工智能通用隱私風(fēng)險(xiǎn)和生成式人工智能隱私風(fēng)險(xiǎn)。在此 基礎(chǔ)上，總結(jié)了國(guó)內(nèi)外人工智能隱私保護(hù)法規(guī)政策標(biāo)準(zhǔn)化現(xiàn)狀。然后 分析了人工智能隱私保護(hù)技術(shù)和平臺(tái)，包括管控技術(shù)、數(shù)據(jù)加密技術(shù)、 攻擊防御技術(shù)、隱私保護(hù)機(jī)器學(xué)習(xí)平臺(tái)和人工智能安全檢測(cè)平臺(tái)等。 最后以技術(shù)發(fā)展和隱私保護(hù)并重為原則，研究提出了多維度、負(fù)責(zé)任 的人工智能隱私保護(hù)實(shí)施建議，讓下一代人工智能用的放心。

本白皮書(shū)由中國(guó)聯(lián)通研究院主筆，中國(guó)聯(lián)通集團(tuán)網(wǎng)絡(luò)與信息安全 部、中國(guó)軟件評(píng)測(cè)中心（工業(yè)和信息化部軟件與集成電路促進(jìn)中心）、 數(shù)據(jù)安全關(guān)鍵技術(shù)與產(chǎn)業(yè)應(yīng)用評(píng)價(jià)工業(yè)和信息化部重點(diǎn)實(shí)驗(yàn)室、中國(guó) 計(jì)算機(jī)行業(yè)協(xié)會(huì)數(shù)據(jù)安全專業(yè)委員會(huì)、三六零數(shù)字安全科技集團(tuán)有限 公司、中興通訊股份有限公司聯(lián)合編寫(xiě)

附件：AI隱私泄露危機(jī)四伏！如何確保數(shù)據(jù)安全？《人工智能隱私保護(hù)白皮書(shū)》