《人工智能安全標準化白皮書（2023版）》由中國電子技術(shù)標準化研究院等20家單位共同編寫，梳理了人工智能技術(shù)與應(yīng)用發(fā)展現(xiàn)狀，分析了人工智能面臨的新的安全風(fēng)險，結(jié)合國內(nèi)外人工智能安全政策與標準現(xiàn)狀，指出了人工智能安全標準需求，提出了下一步開展人工智能安全標準化工作的建議，為規(guī)范引導(dǎo)人工智能安全標準化工作提供參考。

（一）人工智能安全屬性定義和度量指標

隨著人工智能安全工作開展，安全屬性定義逐步形成一些共識，國 際標準以及相關(guān)技術(shù)文件也給出了部分安全屬性的定義描述，但不同文件 之間仍有差異。可靠性、可解釋性、公平性等重要安全屬性定義的標準統(tǒng) 一，以及其度量指標的規(guī)范化，將對人工智能的發(fā)展有著重要促進意義。

（二）用戶輸入數(shù)據(jù)安全保護相關(guān)規(guī)范

在人工智能通常收集用戶輸入數(shù)據(jù)用于訓(xùn)練的背景下，如何保障用戶 輸入數(shù)據(jù)的安全亟需技術(shù)標準。根據(jù)操作場景的不同，用戶輸入的數(shù)據(jù)可 能包含人臉、身份證號、家庭住址等個人信息，可能包括個人健康情況、 情感狀況等個人隱私，可能包括企業(yè)技術(shù)和經(jīng)營活動有關(guān)的商業(yè)秘密，甚 至可能包括國家秘密等。

（三）人工智能服務(wù)網(wǎng)絡(luò)安全防護相關(guān)指南

圍繞人工智能服務(wù)過程中，可能會面臨的對抗樣本攻擊、爬山攻擊、 模型竊取、供應(yīng)鏈攻擊等新型攻擊威脅，需要研究在數(shù)據(jù)集防護、算法模 型保護、抗逆向攻擊等方面的安全技術(shù)措施指南，幫助人工智能服務(wù)提供 者保護業(yè)務(wù)數(shù)據(jù)以及人工智能模型參數(shù)等的機密性和完整性。

附件：人工智能安全標準白皮書(2023年版)