AI 時代，如何為消費(fèi)電子設(shè)備的安全性保駕護(hù)航？

者：Arm 終端事業(yè)部技術(shù)戰(zhàn)略及業(yè)務(wù)拓展總監(jiān) 盧旻盛

人工智能 (AI) 為消費(fèi)電子設(shè)備實現(xiàn)了更綜合、更加個性化且更智能的體驗。而這也意味著設(shè)備上運(yùn)行的軟件和系統(tǒng)將愈發(fā)復(fù)雜，對安全性產(chǎn)生了直接的影響。舉例來說，如果代碼行數(shù)增加 10 倍，出現(xiàn)更多漏洞的風(fēng)險也會增加 10 倍。

雖然端側(cè) AI 創(chuàng)造了大量的機(jī)遇，新模型、功能、算子類型和量化技術(shù)不斷涌入市場，但這種快速的變化在安全方面也帶來了嚴(yán)峻的挑戰(zhàn)，尤其是對消費(fèi)電子設(shè)備而言。因此，建立起保護(hù)客戶隱私與數(shù)據(jù)的安全技術(shù)和倡議，必須與 AI 帶來的優(yōu)勢和持續(xù)機(jī)遇相輔相成。

本文，我們將探討針對消費(fèi)電子設(shè)備（尤其是智能手機(jī)）上的 AI 用例，以及我們在計算和數(shù)據(jù)安全方面應(yīng)該有怎樣的設(shè)計思考。

常見的 AI 安全挑戰(zhàn)

無論是用于內(nèi)容創(chuàng)作還是日常使用，具有 AI 功能的智能手機(jī)依然是消費(fèi)者最常使用的個人電子設(shè)備。在智能手機(jī)上，新的 AI 創(chuàng)新、模型和用例層出不窮，而這些 AI 需要更多的數(shù)據(jù)才能提供更加個性化的體驗。因此，AI 會在這些設(shè)備上收集大量數(shù)據(jù)，這也使得消費(fèi)者隱私和數(shù)據(jù)保護(hù)成為越來越重要的考量因素，并重點關(guān)注新的資產(chǎn)、攻擊途徑和軟件棧。

惡意行為者可以利用 AI 發(fā)動可擴(kuò)展的攻擊，攻擊者只需付出極少的努力或成本，便能在許多設(shè)備上高效執(zhí)行這些攻擊。如相關(guān)產(chǎn)業(yè)報告 ^[1] 所述，AI 可通過深度偽造，對身份驗證和訪問控制（如基于語音和生物特征的身份驗證）構(gòu)成威脅，使設(shè)備及其內(nèi)容面臨被黑客攻擊和假冒的風(fēng)險。

什么是 Arm 安全原則？

作為一家將最終用戶的安全、信任和隱私放在戰(zhàn)略首位的公司，Arm 通過開發(fā)新特性和新技術(shù)來持續(xù)優(yōu)化產(chǎn)品路線圖。Arm 架構(gòu)提供一整套的安全特性，目的是防范不法分子的攻擊，并在設(shè)備使用期間抵御新的威脅。這些安全特性一方面是為了增加黑客的攻擊難度，使攻擊行為需要耗費(fèi)大量資源和時間，不再具有經(jīng)濟(jì)價值，另一方面是為了保護(hù)全球消費(fèi)者的重要憑證和數(shù)據(jù)。

在保護(hù)消費(fèi)電子設(shè)備的計算安全方面，Arm 的基本原則側(cè)重于以下部分：

通過避免代碼出現(xiàn)漏洞，使開發(fā)者能夠“基于 Arm 平臺創(chuàng)建更好的軟件”，從而確保任何 AI 應(yīng)用都能實現(xiàn)預(yù)期成果，防止被非法侵占；

通過可信執(zhí)行環(huán)境，隨時隨地保護(hù)數(shù)據(jù)和計算免受不法分子的攻擊；

持續(xù)改進(jìn)消費(fèi)電子設(shè)備的功耗、性能和面積 (PPA)，以促進(jìn)更多計算任務(wù)在本地（端側(cè)）和個人設(shè)備上完成 —— 基本上可以實現(xiàn)任何在設(shè)備上進(jìn)行的計算都會保留在設(shè)備上；

為旨在保護(hù)用戶隱私和數(shù)據(jù)的倡議貢獻(xiàn)力量；

應(yīng)對不斷變化的威脅環(huán)境和新的安全風(fēng)險。

Arm 如何保護(hù)軟件安全

隨著代碼量的增加，漏洞和發(fā)生人為錯誤的可能性也會攀升。因此，Arm 在根源處設(shè)置保護(hù)措施并建立“設(shè)計保證安全 (security by-design)” 的環(huán)境，從而保護(hù)軟件安全。此舉可確保在開發(fā)周期中盡早發(fā)現(xiàn)任何安全漏洞，使任何 AI 應(yīng)用都能實現(xiàn)預(yù)期成果而不被非法侵占，同時提供與操作系統(tǒng) (OS) 的隔離，確保任何應(yīng)用及其內(nèi)容都能保持完整性。

通過與安卓的合作，Arm 推出新的 Armv9 安全特性與技術(shù)，助力在基于 Arm 架構(gòu)的安卓移動設(shè)備上提供更優(yōu)質(zhì)、更安全的軟件，從而幫助計算基礎(chǔ)設(shè)施實現(xiàn)巨大突破。例如 Arm 的指針驗證 (PAC)、分支目標(biāo)識別 (BTI) 和 內(nèi)存標(biāo)記擴(kuò)展 (MTE) 技術(shù) ，它們有助于消除黑客以往利用過的各種內(nèi)存安全漏洞。這一點非常重要，因為 Google 的 Chromium 項目團(tuán)隊指出 ^[2] ，內(nèi)存安全問題在所有嚴(yán)重安全漏洞中占到了 70%。侵害內(nèi)存安全可能會對用戶產(chǎn)生巨大不利影響，因為惡意應(yīng)用和不法分子會利用不安全的內(nèi)存來訪問機(jī)密和敏感數(shù)據(jù)，比如用戶憑證和密碼。消除整類漏洞后，構(gòu)建漏洞利用鏈的難度將大幅增加。

如何隨時隨地保護(hù)數(shù)據(jù)

相較于在設(shè)備與云端和數(shù)據(jù)中心之間來回傳輸數(shù)據(jù)，在端側(cè)運(yùn)行 AI 處理具有延遲低、功耗小和成本低等優(yōu)勢，因此這種做法正變得越來越普遍。然而，在某些情況下，考慮到模型或數(shù)據(jù)的體量，AI 處理仍需要在云端進(jìn)行。

因此，一套混合安全的模式有其必要性，能從云端到端側(cè)提供全程保護(hù)。Arm 提供從云端到移動端的隔離技術(shù)，比如 TrustZone、虛擬化和機(jī)密領(lǐng)域管理擴(kuò)展 (RME)。RME 是 Arm 機(jī)密計算架構(gòu) (CCA) 的硬件組件，允許對模型進(jìn)行機(jī)密處理并提供保護(hù)環(huán)境，以防不法分子竊取個人數(shù)據(jù)。此外，云端和端側(cè)一旦具有相似的安全態(tài)勢，就意味著數(shù)據(jù)可以在相同的安全邊界內(nèi)無縫流動和共享，從而使混合部署得以進(jìn)一步擴(kuò)展。

如何實現(xiàn)更加個性化的計算

在邊緣側(cè)進(jìn)行 AI 處理有助于更好地保護(hù)消費(fèi)者的數(shù)據(jù)隱私，同時也有利于在設(shè)備上提供個性化的計算體驗。如果數(shù)據(jù)不離開設(shè)備，就不用擔(dān)心存儲在云端的數(shù)據(jù)可能發(fā)生泄露風(fēng)險。得益于消費(fèi)電子設(shè)備算力的不斷提升，更多的端側(cè) AI 成為可能。例如，過去 10 年間，通過 新的 CPU 、 GPU 、 Arm 終端計算子系統(tǒng) (CSS for Client) 和 Arm Kleidi 軟件庫 等 Arm 技術(shù)，基于 Arm 架構(gòu)的移動設(shè)備的計算性能提高了 110 倍。

如今，Arm 持續(xù)在 Armv9 架構(gòu)中實現(xiàn)更多的 AI 加速特性，如 可伸縮矩陣擴(kuò)展 (SME) 。通過 SME，更多的高級 AI 工作負(fù)載可在邊緣側(cè)處理，從而在消費(fèi)電子設(shè)備上提供更加個性化的計算體驗。此外，Arm 安全技術(shù)有助于支持可驗證的安全環(huán)境，并允許在創(chuàng)建和存儲內(nèi)容的 AI 智能手機(jī)上安全地處理圖像處理管線。

為行業(yè)倡議和標(biāo)準(zhǔn)貢獻(xiàn)力量

Arm 正積極參與并推動全球性倡議，比如旨在保護(hù)內(nèi)容和數(shù)據(jù)免遭不法分子利用的內(nèi)容來源和真實性聯(lián)盟 (Coalition for Content Provenance and Authenticity, C2PA)。而且，Arm 積極參與致力于為未來 AI 安全奠定基礎(chǔ)的組織，如可信計算組織 (Trusted Computing Group, TCG) 和開源安全基金會 (OpenSSF)。

新涌現(xiàn)的 AI 安全用例

與此同時，Arm 與生態(tài)系統(tǒng)持續(xù)合作，以應(yīng)對新涌現(xiàn)的 AI 安全用例，例如：

開發(fā)者不希望自己的 AI 模型暴露給其他第三方，而 OEM 廠商著眼于為在傳輸（指數(shù)據(jù)在兩個來源或系統(tǒng)之間移動時）和執(zhí)行（指數(shù)據(jù)加載到內(nèi)存中并準(zhǔn)備由應(yīng)用進(jìn)行處理時）過程中部署模型的開發(fā)者提供安全保護(hù)；

遵守全球網(wǎng)絡(luò)安全法規(guī)，保障弱勢群體免受非法或有害內(nèi)容的侵害；

與 OEM 伙伴合作，為其設(shè)備上生成的內(nèi)容提供內(nèi)容來源信息；

為用于監(jiān)控和檢測異常行為、欺詐與詐騙的 AI 模型提供保護(hù)；

保護(hù)為提供更加個性化的體驗和建議而存儲于不同設(shè)備和服務(wù)中的個人用戶數(shù)據(jù)。

Arm 將不斷研究新的安全解決方案、特性和技術(shù)，以應(yīng)對許多新出現(xiàn)的用例和威脅，從而確保在產(chǎn)品開發(fā)周期結(jié)束后，生態(tài)系統(tǒng)仍能得到長期保護(hù)。

Arm 安全基礎(chǔ)

在 Arm，安全是一切工作的重中之重，內(nèi)置架構(gòu)特性和技術(shù)可為全球數(shù)十億基于 Arm 架構(gòu)的消費(fèi)電子設(shè)備的安全性提供支持，進(jìn)而為各種消費(fèi)電子設(shè)備上的 AI 工作負(fù)載提供了安全基礎(chǔ)。在 AI 時代，Arm 的產(chǎn)品和原則將持續(xù)演進(jìn)，為計算技術(shù)的未來發(fā)展保駕護(hù)航。