人工智能安全標準白皮書(2023年版)

《人工智能安全標準化白皮書（2023版）》由中國電子技術標準化研究院等20家單位共同編寫，梳理了人工智能技術與應用發(fā)展現(xiàn)狀，分析了人工智能面臨的新的安全風險，結合國內外人工智能安全政策與標準現(xiàn)狀，指出了人工智能安全標準需求，提出了下一步開展人工智能安全標準化工作的建議，為規(guī)范引導人工智能安全標準化工作提供參考。

（一）人工智能安全屬性定義和度量指標

隨著人工智能安全工作開展，安全屬性定義逐步形成一些共識，國 際標準以及相關技術文件也給出了部分安全屬性的定義描述，但不同文件 之間仍有差異。可靠性、可解釋性、公平性等重要安全屬性定義的標準統(tǒng) 一，以及其度量指標的規(guī)范化，將對人工智能的發(fā)展有著重要促進意義。

（二）用戶輸入數(shù)據(jù)安全保護相關規(guī)范

在人工智能通常收集用戶輸入數(shù)據(jù)用于訓練的背景下，如何保障用戶 輸入數(shù)據(jù)的安全亟需技術標準。根據(jù)操作場景的不同，用戶輸入的數(shù)據(jù)可 能包含人臉、身份證號、家庭住址等個人信息，可能包括個人健康情況、 情感狀況等個人隱私，可能包括企業(yè)技術和經(jīng)營活動有關的商業(yè)秘密，甚 至可能包括國家秘密等。

（三）人工智能服務網(wǎng)絡安全防護相關指南

圍繞人工智能服務過程中，可能會面臨的對抗樣本攻擊、爬山攻擊、 模型竊取、供應鏈攻擊等新型攻擊威脅，需要研究在數(shù)據(jù)集防護、算法模 型保護、抗逆向攻擊等方面的安全技術措施指南，幫助人工智能服務提供 者保護業(yè)務數(shù)據(jù)以及人工智能模型參數(shù)等的機密性和完整性。

附件：人工智能安全標準白皮書(2023年版)