創(chuàng)澤機(jī)器人
CHUANGZE ROBOT
當(dāng)前位置:首頁(yè) > 城市大腦 > 網(wǎng)絡(luò)安全 > AI隱私泄露危機(jī)四伏!如何確保數(shù)據(jù)安全?《人工智能隱私保護(hù)白皮書(shū)》

AI隱私泄露危機(jī)四伏!如何確保數(shù)據(jù)安全?《人工智能隱私保護(hù)白皮書(shū)》

來(lái)源:中國(guó)聯(lián)通研究院     編輯:創(chuàng)澤   時(shí)間:2023/12/9   主題:其他 [加盟]

最近幾年,有關(guān)隱私受到侵犯的案件一再發(fā)生。例如,F(xiàn)acebook 未經(jīng)用戶(hù)允許將用戶(hù)個(gè)人信息泄露給劍橋分析公司用于非正當(dāng)目的, 同時(shí)其利用網(wǎng)民的瀏覽行為來(lái)精準(zhǔn)的投放廣告,劍橋大學(xué)心理測(cè)量學(xué) 中心從用戶(hù)對(duì)哪些帖子和新聞進(jìn)行閱讀和點(diǎn)贊,來(lái)分析出每個(gè)人的性 別、性取向、個(gè)性外向還是內(nèi)向等,美食外賣(mài)企業(yè)“餓了么”、“大 眾點(diǎn)評(píng)”、“美團(tuán)”會(huì)利用算法推送一些推薦食物和餐館幫用戶(hù)做出 飲食決定,自動(dòng)駕駛技術(shù)讓人們可以輕松的出行,高德地圖、百度地 圖等智能導(dǎo)航系統(tǒng)減少了人們尋找路線(xiàn)的時(shí)間和精力,ChatGPT 和其 他生成式人工智能工具可以提高用戶(hù)交互體驗(yàn)、提高員工的創(chuàng)作和辦 公效率,但這些信息都以數(shù)據(jù)的形式存儲(chǔ)了下來(lái),并被企業(yè)或其他主 體收集和利用,一些智能手機(jī)應(yīng)用甚至過(guò)度的收集并違規(guī)使用個(gè)人信 息,使得個(gè)人隱私信息面臨被泄露或被竊取的風(fēng)險(xiǎn)。

可以看到人工智能的普及與濫用使其面臨越來(lái)越多的隱私與安全威脅,社會(huì)各界也逐漸加大了對(duì)隱私風(fēng)險(xiǎn)的分析和隱私保護(hù)的關(guān)注 度。從隱私保護(hù)角度,數(shù)據(jù)隱私性、模型保密性、模型完整可用性是 用戶(hù)和服務(wù)提供商最為關(guān)心的問(wèn)題。因此,本章將先從數(shù)據(jù)、模型這 兩個(gè)不同的方面來(lái)揭示人工智能面臨的通用隱私威脅。同時(shí),由于生 成式人工智能(Generative Artificial Intelligence,簡(jiǎn)稱(chēng)生成式 AI)技術(shù)的快速發(fā)展和應(yīng)用給人們帶來(lái)了巨大的想象空間,但也增加 了新的 AI 隱私風(fēng)險(xiǎn),本章還將對(duì)生成式人工智能隱私風(fēng)險(xiǎn)進(jìn)行揭示。

為了更好的推動(dòng)新一代人工智能安全發(fā)展,讓人工智能用的放心, 各國(guó)政府和企業(yè)越來(lái)越重視人工智能隱私保護(hù)。人工智能隱私保護(hù)指 的是在數(shù)據(jù)采集存儲(chǔ)和數(shù)據(jù)使用共享,模型訓(xùn)練以及模型推理應(yīng)用的 全生命周期過(guò)程中有效的保護(hù)用戶(hù)數(shù)據(jù)隱私不泄漏,不被未授權(quán)第三 方獲取或推理。因此,在人工智能處理大量個(gè)人數(shù)據(jù)和敏感信息的過(guò) 程中,如何加強(qiáng)數(shù)據(jù)隱私管控;在人工智能訓(xùn)練過(guò)程中,如何保證數(shù) 據(jù)質(zhì)量,避免原始數(shù)據(jù)隱私泄露;在人工智能推理應(yīng)用過(guò)程中,如何 防御攻擊引起的數(shù)據(jù)隱私推理,如何保護(hù)模型保密性與完整性日漸成 為國(guó)際人工智能的重要議題。

本白皮書(shū)從人工智能隱私保護(hù)的內(nèi)涵出發(fā),從人工智能全生命周期系統(tǒng)梳理人工智能通用隱私風(fēng)險(xiǎn)和生成式人工智能隱私風(fēng)險(xiǎn)。在此 基礎(chǔ)上,總結(jié)了國(guó)內(nèi)外人工智能隱私保護(hù)法規(guī)政策標(biāo)準(zhǔn)化現(xiàn)狀。然后 分析了人工智能隱私保護(hù)技術(shù)和平臺(tái),包括管控技術(shù)、數(shù)據(jù)加密技術(shù)、 攻擊防御技術(shù)、隱私保護(hù)機(jī)器學(xué)習(xí)平臺(tái)和人工智能安全檢測(cè)平臺(tái)等。 最后以技術(shù)發(fā)展和隱私保護(hù)并重為原則,研究提出了多維度、負(fù)責(zé)任 的人工智能隱私保護(hù)實(shí)施建議,讓下一代人工智能用的放心。

本白皮書(shū)由中國(guó)聯(lián)通研究院主筆,中國(guó)聯(lián)通集團(tuán)網(wǎng)絡(luò)與信息安全 部、中國(guó)軟件評(píng)測(cè)中心(工業(yè)和信息化部軟件與集成電路促進(jìn)中心)、 數(shù)據(jù)安全關(guān)鍵技術(shù)與產(chǎn)業(yè)應(yīng)用評(píng)價(jià)工業(yè)和信息化部重點(diǎn)實(shí)驗(yàn)室、中國(guó) 計(jì)算機(jī)行業(yè)協(xié)會(huì)數(shù)據(jù)安全專(zhuān)業(yè)委員會(huì)、三六零數(shù)字安全科技集團(tuán)有限 公司、中興通訊股份有限公司聯(lián)合編寫(xiě)





附件:AI隱私泄露危機(jī)四伏!如何確保數(shù)據(jù)安全?《人工智能隱私保護(hù)白皮書(shū)》






IDC螞蟻集團(tuán):2023安全平行切面白皮書(shū)-數(shù)字時(shí)代的原生安全架構(gòu)(60頁(yè)).pdf 報(bào)告預(yù)覽 IDC&螞蟻集團(tuán):2023安全平行切面白皮書(shū)

安全平行切面的核心思想是將編程語(yǔ)言環(huán)境下的Aspect-oriented Programming推廣應(yīng)用到安全架構(gòu)建設(shè)中,構(gòu)建與業(yè)務(wù)正交融合的安全橫切面

銀行業(yè)業(yè)務(wù)安全體系建設(shè)白皮書(shū)-梳理銀行業(yè)數(shù)字化轉(zhuǎn)型下面臨的業(yè)務(wù)安全核心問(wèn)題

通過(guò)梳理銀行業(yè)數(shù)字化轉(zhuǎn)型下面臨的業(yè)務(wù)安全核心問(wèn)題,幫助銀行業(yè)機(jī)構(gòu)深入了解當(dāng)前行業(yè)的業(yè)務(wù)安全挑戰(zhàn)和趨勢(shì),加強(qiáng)安全管理和風(fēng)險(xiǎn)防范能力,保護(hù)業(yè)務(wù)的安全平穩(wěn)運(yùn)行

威脅獵人聯(lián)合中國(guó)信通院發(fā)布《API安全發(fā)展白皮書(shū)(2023)》

企業(yè)可以從API的上線(xiàn)運(yùn)行階段入手,基于IPDRR安全模型實(shí)現(xiàn)API安全閉環(huán)管理,結(jié)合自身的業(yè)務(wù)情況有序開(kāi)展API安全實(shí)踐,全面保護(hù)API的安全性和可靠性

《2023零信任關(guān)鍵技術(shù)白皮書(shū)》人工智能與零信任安全的技術(shù)融合與未來(lái)產(chǎn)業(yè)發(fā)展趨勢(shì)

針對(duì)復(fù)雜多樣的企業(yè)網(wǎng)絡(luò)環(huán)境,對(duì)典型零信任架構(gòu)的關(guān)鍵技術(shù)能力進(jìn)行分析,重點(diǎn)討論了每種架構(gòu)的技術(shù)特點(diǎn)和應(yīng)用場(chǎng)景,為全面建設(shè)零信任的實(shí)施方案提供參考

中國(guó)云原生安全市場(chǎng)現(xiàn)狀與趨勢(shì)白皮書(shū)-40%的企業(yè)將會(huì)采用云原生優(yōu)先戰(zhàn)略

以云原生安全管理的變革為主線(xiàn)對(duì)中國(guó)云原生安全市場(chǎng)現(xiàn)狀進(jìn)行了年度洞察,以期為中國(guó)云原生安全的發(fā)展和企業(yè)云原生安全建設(shè)提供借鑒和參考

《路特斯機(jī)器人智能駕駛信息安全實(shí)踐白皮書(shū)》探索智能網(wǎng)聯(lián)汽車(chē)信息安全領(lǐng)域管理模式

以路特斯機(jī)器人的信息安全保護(hù)實(shí)踐作為藍(lán)本進(jìn)行介紹,拋磚引玉,希望將路特斯機(jī)器 人在智能駕駛方面的信息安全建設(shè)的思考和實(shí)踐經(jīng)驗(yàn)分享給行業(yè)各位

CSA-《云原生安全技術(shù)規(guī)范》

《云原生安全技術(shù)規(guī)范》提升云原生類(lèi)產(chǎn)品技術(shù),幫助更多安全從業(yè)人員解決在規(guī)劃、實(shí)施和維護(hù)云原生安全架構(gòu)時(shí)遇到的問(wèn)題,針對(duì)云原生安全體系中涉及的每類(lèi)技術(shù)制定的標(biāo)準(zhǔn)

北京網(wǎng)信辦發(fā)布掃碼消費(fèi)服務(wù)違規(guī)收集使用消費(fèi)者個(gè)人信息案例解析及合規(guī)指引

提供掃碼消費(fèi)服務(wù)的經(jīng)營(yíng)者在收集使用消費(fèi)者個(gè)人信息時(shí),應(yīng)當(dāng)遵守相關(guān)法律法規(guī);提供掃碼消費(fèi)服務(wù)的經(jīng)營(yíng)者應(yīng)當(dāng)向消費(fèi)者提供注銷(xiāo)賬號(hào)服務(wù),不得為賬號(hào)注銷(xiāo)功能設(shè)置捆綁注銷(xiāo)

關(guān)于發(fā)布《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南——生成式人工智能服務(wù)內(nèi)容標(biāo)識(shí)方法》的通知

信安秘字〔2023〕124號(hào);圍繞文本、圖片、音頻、視頻四類(lèi)生成內(nèi)容給出了內(nèi)容標(biāo)識(shí)方法,可用于指導(dǎo)生成式人工智能服務(wù)提供者提高安全管理水平

通用人工智能AGI等級(jí)保護(hù)白皮書(shū)-網(wǎng)絡(luò)安全等級(jí)保護(hù)與安全保衛(wèi)技術(shù)國(guó)家工程研究中心

白皮書(shū)旨在幫助讀者更好地應(yīng)對(duì)通用人工智能大模型帶來(lái)的安全風(fēng)險(xiǎn)和挑戰(zhàn),同時(shí)也為網(wǎng)絡(luò)安全等級(jí)保護(hù)在通用人工智能領(lǐng)域的合規(guī)落地提供了指導(dǎo)和建議

數(shù)據(jù)安全推進(jìn)計(jì)劃:2023數(shù)據(jù)安全產(chǎn)品與服務(wù)觀(guān)察報(bào)告

數(shù)據(jù)安全產(chǎn)品廣泛應(yīng)用于在數(shù)據(jù)資產(chǎn)識(shí)別,數(shù)據(jù)安全檢查,數(shù)據(jù)安全 防護(hù),數(shù)據(jù)風(fēng)險(xiǎn)監(jiān)測(cè),數(shù)據(jù)共享流通安全;數(shù)據(jù)安全防護(hù)類(lèi)產(chǎn)品涵蓋了數(shù)據(jù)保護(hù)類(lèi),訪(fǎng)問(wèn)控制類(lèi),追蹤溯源類(lèi)的諸多產(chǎn)品

2022年工業(yè)控制網(wǎng)絡(luò)安全態(tài)勢(shì)白皮書(shū)-典型工控安全事件分析

報(bào)告對(duì)工控系統(tǒng)漏洞,聯(lián)網(wǎng)工控設(shè)備,工控蜜罐與威脅情報(bào)數(shù)據(jù)等情況進(jìn)行了闡釋及分析,有助于全面了解工控系統(tǒng)安全現(xiàn)狀,多方位感知工控系統(tǒng)安全態(tài)勢(shì)
資料獲取
網(wǎng)絡(luò)安全
== 最新資訊 ==
AI隱私泄露危機(jī)四伏!如何確保數(shù)據(jù)安全?
未來(lái)駕駛革命:2023中國(guó)智駕大模型應(yīng)用
IDC螞蟻集團(tuán):2023安全平行切面白皮
中國(guó)移動(dòng)新型智慧城市白皮書(shū)(2023版)
中國(guó)移動(dòng)新型智慧城市白皮書(shū)(2023版)
中國(guó)移動(dòng)新型智慧城市白皮書(shū)(2023版)
中國(guó)移動(dòng)新型智慧城市白皮書(shū)(2023版)
中國(guó)移動(dòng)新型智慧城市白皮書(shū)(2023版)
中國(guó)移動(dòng)新型智慧城市白皮書(shū)(2023版)
中國(guó)移動(dòng)新型智慧城市白皮書(shū)(2023版)
中國(guó)移動(dòng)新型智慧城市白皮書(shū)(2023版)
中國(guó)移動(dòng)新型智慧城市白皮書(shū)(2023版)
中國(guó)移動(dòng)新型智慧城市白皮書(shū)(2023版)
中國(guó)移動(dòng)新型智慧城市白皮書(shū)(2023版)
中國(guó)移動(dòng)新型智慧城市白皮書(shū)2023 總冊(cè)
== 機(jī)器人推薦 ==
迎賓講解服務(wù)機(jī)器人

服務(wù)機(jī)器人(迎賓、講解、導(dǎo)診...)

智能消毒機(jī)器人

智能消毒機(jī)器人

機(jī)器人開(kāi)發(fā)平臺(tái)

機(jī)器人開(kāi)發(fā)平臺(tái)


機(jī)器人底盤(pán) Disinfection Robot 消毒機(jī)器人  講解機(jī)器人  迎賓機(jī)器人  移動(dòng)機(jī)器人底盤(pán)  商用機(jī)器人  智能垃圾站  智能服務(wù)機(jī)器人  大屏機(jī)器人  霧化消毒機(jī)器人  紫外線(xiàn)消毒機(jī)器人  消毒機(jī)器人價(jià)格  展廳機(jī)器人  服務(wù)機(jī)器人底盤(pán)  核酸采樣機(jī)器人  機(jī)器人代工廠(chǎng)  智能配送機(jī)器人  噴霧消毒機(jī)器人  圖書(shū)館機(jī)器人  導(dǎo)引機(jī)器人  移動(dòng)消毒機(jī)器人  導(dǎo)診機(jī)器人  迎賓接待機(jī)器人  前臺(tái)機(jī)器人  消殺機(jī)器人  導(dǎo)覽機(jī)器人 
版權(quán)所有 創(chuàng)澤智能機(jī)器人集團(tuán)股份有限公司 中國(guó)運(yùn)營(yíng)中心:北京 清華科技園九號(hào)樓5層 中國(guó)生產(chǎn)中心:山東日照太原路71號(hào)
銷(xiāo)售1:4006-935-088 銷(xiāo)售2:4006-937-088 客服電話(huà): 4008-128-728