人工智能安全風(fēng)險分析

近年來，人工智能保持快速發(fā)展勢頭，但人工智能所帶來的安全風(fēng)險 也不容忽視。

(一)用戶數(shù)據(jù)用于訓(xùn)練，放大隱私信息泄露風(fēng)險

當(dāng)前，人工智能利用服務(wù)過程中的用戶數(shù)據(jù)進行優(yōu)化訓(xùn)練的情況較為 普遍，但可能涉及在用戶不知情情況下收集個人信息、個人隱私、商業(yè)秘 密等，安全風(fēng)險較為突出。

(二)算法模型日趨復(fù)雜，可解釋性目標(biāo)難實現(xiàn)

長期以來可解釋性都是制約人工智能用在司法判決、金融信貸等關(guān)鍵 領(lǐng)域的主要因素，時至今日問題尚未解決、且變得更為棘手。由于深度模 型算法的復(fù)雜結(jié)構(gòu)是黑盒，人工智能模型天然缺乏呈現(xiàn)決策邏輯進而使人 相信決策準(zhǔn)確性的能力。

(三)可靠性問題仍然制約人工智能關(guān)鍵領(lǐng)域應(yīng)用

由于現(xiàn)實場景中環(huán)境因素復(fù)雜多變，人工智能難以通過有限的訓(xùn)練數(shù) 據(jù)覆蓋現(xiàn)實場景中的全部情況，因此模型在受到干擾或攻擊等情況下會發(fā) 生性能水平波動，嚴重時甚至可引發(fā)安全事故。

(四)濫用誤用人工智能，擾亂生產(chǎn)生活安全秩序

人工智能在對加速社會發(fā)展、提升生產(chǎn)效率等方面產(chǎn)生極大促進作用 的同時，也出現(xiàn)了被濫用誤用、惡意使用的現(xiàn)象，引起威脅社會安全、人 身安全等負面事件。

(五)模型和數(shù)據(jù)成為核心資產(chǎn)，安全保護難度提升

人工智能訓(xùn)練數(shù)據(jù)的獲取以及模型開發(fā)已經(jīng)逐漸變成重資產(chǎn)投入、重 人力投入的工作，算法模型、參數(shù)、加工后的訓(xùn)練數(shù)據(jù)已成為核心資產(chǎn)， 不免遭到覬覦。

(六)網(wǎng)絡(luò)意識形態(tài)安全面臨新風(fēng)險

人工智能的目標(biāo)是模擬、擴展和延伸人類智能，如果人工智能只是單 純追求統(tǒng)計最優(yōu)解，可能表現(xiàn)得不那么有“人性”；相反，包含一些人類 政治、倫理、道德等方面觀念的人工智能會表現(xiàn)得更像人、更容易被人所 接受。