AI安全研究白皮書

?2023云安全聯(lián)盟大中華區(qū)版權(quán)所有?2023云安全聯(lián)盟大中華區(qū)版權(quán)所有 4 6 7 9 10 10 27 37 37 59 94 94 97 99 101 104 107 109 128 128 133 142在確保數(shù)據(jù)可用性的前提下，創(chuàng)造價值，改變世界。安全白皮書》的學(xué)習(xí)，對于企業(yè)全面地建立2AI賦能安全2.1AI賦能安全2.1.1AI賦能漏洞挖掘第三階段，結(jié)合動態(tài)測試技術(shù)，90年代開始的黑），放眼國內(nèi)，近年來我國信息安全體系日趨完善，2017年印工智能發(fā)展規(guī)劃》，標(biāo)志著我國人工智能發(fā)展然語言識別處理等領(lǐng)域創(chuàng)新”視為新一代人工智者腳本語言，從而識別出可疑的匯編代碼序列，進(jìn)測試程序進(jìn)行反饋，迭代模糊測試的輸入生成策2.1.2AI賦能安全防御2.1.2.1人工智能應(yīng)用于網(wǎng)絡(luò)安全防御的特點(diǎn)2.1.2.2人工智能在網(wǎng)絡(luò)安全防御中的應(yīng)用過人工智能技術(shù)實(shí)現(xiàn)自動化漏洞發(fā)現(xiàn)與修復(fù)，對歷史數(shù)據(jù)的分析和預(yù)測，預(yù)警未來可能出現(xiàn)的2.1.2.3人工智能在網(wǎng)絡(luò)安全防御中的挑戰(zhàn)歸、支持向量機(jī)、貝葉斯等機(jī)器學(xué)習(xí)算法的應(yīng)用，也在現(xiàn)。受限于篇幅，同時也從時效性的角度出發(fā)，本節(jié)將對近些年來更為流行的簽名和基于規(guī)則的方式外，也都可以采用機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等AI技術(shù)，即基且AI模型可以通過使用新樣本進(jìn)行迭代訓(xùn)練而實(shí)現(xiàn)自動更新優(yōu)化，避免了規(guī)則應(yīng)用廣泛。一方面，可以采用不同的AI技術(shù)構(gòu)建統(tǒng)計基線以用于異常檢測，包括面向單數(shù)值特征的數(shù)值分布區(qū)間、正態(tài)分布擬合及3σ準(zhǔn)則等，面向時間序列類型的惡意流量，如信息熵、可見字符占比、參數(shù)個數(shù)及意義分值、base64編（3）針對流量數(shù)據(jù)直接構(gòu)建基于深度學(xué)習(xí)的分類檢測模型。類似于惡意代成灰度圖像的樣式，然后采取CNN等深度學(xué)習(xí)算法進(jìn)行建模而無需進(jìn)行單獨(dú)的也無法使用正則表達(dá)式等規(guī)則匹配的方式進(jìn)行精準(zhǔn)識別。本小節(jié)對一些AI賦能對于DGA算法生成的惡意域名，或者仿冒的釣魚網(wǎng)站域名等場景，由于其域名本身包含較為豐富的特征，所以可基于域名字符串提取一系列特征以構(gòu)建結(jié)果、解析請求的時間及IP分布等，基于有監(jiān)督機(jī)器學(xué)習(xí)算法可以構(gòu)建更精準(zhǔn)多特征，包括頁面的文本內(nèi)容及圖片元素、內(nèi)嵌的JS代碼等，然后構(gòu)建相應(yīng)的很多來源的漏洞描述信息是以非結(jié)構(gòu)化文本形式呈現(xiàn)的，包括CVE、臨多項(xiàng)技術(shù)挑戰(zhàn)1）由于軟件名稱和軟件版本等相關(guān)情報信息的多樣性，基于字典和正則表達(dá)式的方案難以實(shí)現(xiàn)高精確率和高召回率2）漏洞描述信息理算法難以駕馭3）需要在提取有價值情報的同時排除文本中無關(guān)的實(shí)體，嵌入向量、文檔嵌入向量等AI技術(shù)將一篇文檔表示為多維向量，然后使用余弦2.2AI伴生安全AI衍生安全影響AI的合規(guī)使用，還涉及人身安全、隱私保護(hù)、人工智能內(nèi)生安全指AI技術(shù)的脆弱性、對數(shù)據(jù)的依賴性等自身缺陷原因而AI技術(shù)近幾年的快速發(fā)展依賴于深度學(xué)習(xí)算法、算力和數(shù)據(jù)。圖4OWASP機(jī)器學(xué)習(xí)安全風(fēng)險TOP10框架和三方包中存在漏洞，就會被引入模型，這幾年，關(guān)于AI框架與組件的漏洞急速提升，各主流平臺無一幸免，漏洞類型神經(jīng)網(wǎng)絡(luò)是通過“輸入-輸出”對來學(xué)習(xí)已知的因果關(guān)系，通過神經(jīng)網(wǎng)絡(luò)的隱含層義?這些問題目前都很難回答，神經(jīng)網(wǎng)絡(luò)如同使用TensorFlow機(jī)器學(xué)習(xí)框架時，攻擊者一個重要的原因便是近十幾年來大數(shù)據(jù)的蓬勃發(fā)展為機(jī)器學(xué)習(xí)等人工智能算法相比于數(shù)據(jù)投毒，通過對抗樣本實(shí)施攻擊是近年來新出現(xiàn)的一種攻擊方法。目標(biāo)攻擊和有目標(biāo)攻擊；從對抗樣本的形式上來劃分，全檢測，在整個運(yùn)行生命周期重從技術(shù)和管理角度及人工智能衍生安全指人工智能系統(tǒng)因其自身脆弱性被利用而引起其他領(lǐng)域型帶來的安全問題和人工智能武器引發(fā)軍備競賽等三個方面簡要介紹衍生安全器人中有近50個安全漏洞可能威脅到人身安全，如果人工智能系統(tǒng)經(jīng)常犯錯，新聞則可能引發(fā)更加復(fù)雜的社會問題。AIGC用到的語料和生成的內(nèi)容可能涉及更加頻繁的實(shí)質(zhì)性推進(jìn)工作，包括但不限于：使無人機(jī)3AI安全的生態(tài)3.1AI安全的監(jiān)管生態(tài)美國白宮2023年10月30日發(fā)布拜登簽署的《關(guān)于安全、可靠和可信的AI行政命令》，以確保美國在把握AI的前景和管理其風(fēng)險方面處于領(lǐng)先地位。作為美政府負(fù)責(zé)任創(chuàng)新綜合戰(zhàn)略的一部分，該行政令以美國總統(tǒng)之前采取的行動為基礎(chǔ)，包括促使15家領(lǐng)軍企業(yè)自愿承諾推動安全、可靠和可信的AI發(fā)展的工作。該行政令包含8個目標(biāo)：（1）建立AI安全的新標(biāo)準(zhǔn)；（2）保護(hù)美國民眾的隱私；（3）促進(jìn)公平和公民權(quán)利；（4）維護(hù)消費(fèi)者、病患和學(xué)生的權(quán)益；（5）支持勞動者；（6）促進(jìn)創(chuàng)新和競爭；（7）提升美國在海外的領(lǐng)導(dǎo)力；（8）確保美國政府負(fù)責(zé)任且有效地使用AI。美國《2020年國家人工智能倡議法案》（NationalAIInitiativeActof2020）頒布于2021年1月，旨在強(qiáng)化和協(xié)調(diào)各聯(lián)邦機(jī)構(gòu)之間的人工智能研發(fā)活動，確保美國在全球人工智能技術(shù)領(lǐng)域的領(lǐng)先地位?！?020年國家AI倡議法案》通過將美國AI計劃編入法典以幫助增加研究投資、改善計算和數(shù)據(jù)資源的獲取、設(shè)置技術(shù)標(biāo)準(zhǔn)、建立勞動力系統(tǒng)并跟盟友展開合作。其中關(guān)鍵措施.設(shè)立國家人工智能倡議辦公室，屬于白宮科技政策辦公室，承擔(dān)監(jiān)督和實(shí)施美國國家人工智能戰(zhàn)略等職責(zé)。.設(shè)立國家人工智能咨詢委員會，委員會應(yīng)由商務(wù)部部長任命，代表廣泛跨學(xué)科的學(xué)術(shù)機(jī)構(gòu)、私營企業(yè)、非盈利機(jī)構(gòu)等，并就人工智能相關(guān)事項(xiàng)向總統(tǒng)和國家人工智能辦公警示提供建議，幫助美國保持在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位。.加大人工智能研發(fā)投入，命令聯(lián)邦機(jī)構(gòu)在其研發(fā)任務(wù)中優(yōu)先考慮人工智能投資的方式，保持美國對高回報、基礎(chǔ)性人工智能研發(fā)的長期且強(qiáng)有力的重視。.開放人工智能資源，要求相關(guān)機(jī)構(gòu)將聯(lián)邦數(shù)據(jù)、模型向美國人工智能和計算資源研發(fā)專家、研究人員和產(chǎn)業(yè)開放，增強(qiáng)公眾對人工智能技術(shù)的信任,提高這些資源對人工智能研發(fā)專家的價值,同時確保數(shù)據(jù)安全、保護(hù)公民自由與隱私權(quán)又不失機(jī)密性。.設(shè)定人工智能治理標(biāo)準(zhǔn)。聯(lián)邦機(jī)構(gòu)將通過建立適用于不同領(lǐng)域的技術(shù)工業(yè)部門的人工智能發(fā)展指南來增強(qiáng)公眾對人工智能系統(tǒng)的信任，幫助聯(lián)邦監(jiān)管機(jī)構(gòu)制定一套人工智能技術(shù)的治理方法。該倡議還要求美國國家標(biāo)準(zhǔn)與技術(shù)研究所領(lǐng)導(dǎo)制定人工智能系統(tǒng)的適當(dāng)技術(shù)標(biāo)準(zhǔn)，使其可靠、安全、便捷、可互操作。依據(jù)此法案，美國白宮科學(xué)技術(shù)政策辦公室（OSTP）宣布成立國家人工智能倡議辦公室和國家人工智能咨詢委員會，并建立或指定一個機(jī)構(gòu)間委員會，以更健全完備的組織機(jī)構(gòu)推動“國家人工智能計劃”實(shí)施。該法案顯示了兩黨對美國政府在AI領(lǐng)域長期努力的大力支持，并將美國政府現(xiàn)有的許多AI政策和舉措編入法律并加以擴(kuò)展。例如，將美國AI計劃確立的5項(xiàng)關(guān)鍵任務(wù)（加大人工智能研發(fā)投入、開放人工智能資源、設(shè)定人工智能治理標(biāo)準(zhǔn)、培養(yǎng)人工智能勞動力，以及國際協(xié)作和保護(hù)美國人工智能優(yōu)勢）納入法律，擴(kuò)大2018年成立的人工智能專責(zé)委員會并使其成為常設(shè)機(jī)構(gòu)，承認(rèn)2020年成立的國家AI研究所的合法地位，規(guī)定要對2019年發(fā)布的國家AI研發(fā)戰(zhàn)略規(guī)劃進(jìn)行定期更新，將白宮2019年指導(dǎo)的關(guān)鍵AI技術(shù)標(biāo)準(zhǔn)活動擴(kuò)展至包括美國《人工智能權(quán)利法案藍(lán)圖》2022年10月美國白宮科技政策辦公室發(fā)布了《人工智能權(quán)利法案藍(lán)圖：讓自動化系統(tǒng)為美國人民服務(wù)》。該文件目的是支持制定政策，在自動化系統(tǒng)的建設(shè)、部署和治理中保護(hù)公民的權(quán)利和促進(jìn)民主價值。核心內(nèi)容如下：.安全和有效的系統(tǒng)。自動化系統(tǒng)應(yīng)該通過咨詢不同的社區(qū)、利益相關(guān)者和領(lǐng)域?qū)＜?，以確定系統(tǒng)的關(guān)注點(diǎn)、風(fēng)險和潛在影響。.算法歧視的保護(hù)。系統(tǒng)應(yīng)該以公平的方式使用和設(shè)計，當(dāng)自動化系統(tǒng)導(dǎo)致人們因其種族、膚色、民族、性別（包括懷孕、性別認(rèn)同等）、宗教、年齡、國籍、殘疾、退伍軍人身份或其他任何法律保護(hù)的分類而受到不合理的待遇或影響時，就會發(fā)生算法歧視。.數(shù)據(jù)隱私保護(hù)。系統(tǒng)應(yīng)該通過內(nèi)置的保護(hù)措施，以免受到濫用數(shù)據(jù)行為的影響，而且應(yīng)該確保用戶應(yīng)該對關(guān)于自己數(shù)據(jù)的使用方式擁有自主權(quán)。自動系統(tǒng)的設(shè)計者、開發(fā)者和部署者應(yīng)該以適當(dāng)?shù)姆绞讲⒃谧畲蟪潭壬汐@取用戶的同意，并且尊重用戶關(guān)于收集、使用、訪問、轉(zhuǎn)移和刪除用戶數(shù)據(jù)的決定。.告知和解釋。自動化系統(tǒng)的設(shè)計者、開發(fā)者和部署者應(yīng)該提供可訪問的通俗語言文件，包括對整個系統(tǒng)功能和自動化所起作用的清晰描述，關(guān)于這些系統(tǒng)使用的告知，負(fù)責(zé)該系統(tǒng)的個人或組織，應(yīng)當(dāng)對結(jié)果給出清晰、及時和可訪問的解釋。歐洲歐洲擬議的《人工智能法》主要側(cè)重于加強(qiáng)圍繞數(shù)據(jù)質(zhì)量、透明度、人類監(jiān)督和責(zé)任的規(guī)則。它還旨在解決從醫(yī)療和教育到金融和能源等各個領(lǐng)域的道德問題和實(shí)施挑戰(zhàn)?！度斯ぶ悄芊ā返幕A(chǔ)是一個分類系統(tǒng)，用來明確人工智能技術(shù)可能對個體的健康和安全或基本權(quán)利構(gòu)成的風(fēng)險水平。該框架包括四個風(fēng)險等級：不可接受的、高的、有限的和最低的。具有有限和最低風(fēng)險的人工智能系統(tǒng)，如垃圾郵件過濾器或視頻游戲等是允許使用的，除了透明度義務(wù)外，沒有什么要求。而如政府的社會評分和公共場所的實(shí)時生物識別系統(tǒng)會被認(rèn)為構(gòu)成不可接受的風(fēng)險的系統(tǒng)，禁止使用且?guī)缀鯖]有例外。高風(fēng)險的人工智能系統(tǒng)是被允許的，但開發(fā)者和使用者必須遵守規(guī)定，要進(jìn)行嚴(yán)格的測試，對數(shù)據(jù)質(zhì)量進(jìn)行適當(dāng)?shù)挠涗?，并制定詳?xì)的人類監(jiān)督問責(zé)框架。被視為高風(fēng)險的人工智能包括自動駕駛汽車、醫(yī)療設(shè)備和關(guān)鍵基礎(chǔ)設(shè)施機(jī)械，以上僅為枚舉。擬議的法案還概述了圍繞所謂的通用人工智能的規(guī)定，這些人工智能系統(tǒng)可用于不同的目的，具有不同程度的風(fēng)險。此類技術(shù)包括，例如，像ChatGPT這樣的大型語言模型生成型人工智能系統(tǒng)?！度斯ぶ悄芊ā诽岢隽藝?yán)厲的違規(guī)處罰措施。對于公司來說，罰款可高達(dá)3000萬歐元或全球收入的6%。向監(jiān)管機(jī)構(gòu)提交虛假或誤導(dǎo)性文件也會導(dǎo)致罰款。歐盟通用數(shù)據(jù)保護(hù)監(jiān)管法（GDPR）是為個人的數(shù)據(jù)在處理和數(shù)據(jù)流動方面提供保護(hù)。該監(jiān)管法于2016年5月24日生效，并于2018年5月25日開始在歐盟所有成員國都具有約束力并直接適用。GDPR要求從事個人數(shù)據(jù)處理的所有人必須遵守其規(guī)定，并賦予個人數(shù)據(jù)正在處理的個人一些重要的權(quán)利。參與個人數(shù)據(jù)處理的自然人和法人，包括公司和政府機(jī)構(gòu)，都被要求按照GDPR行事。潛在的不合規(guī)行為可能導(dǎo)致高額罰金，并導(dǎo)致法院訴訟和名譽(yù)損害的后果。GDPR適用于在歐盟設(shè)立的參與個人數(shù)據(jù)處理的自然人和法人。但是，對于位于歐盟以外國家的公司、機(jī)構(gòu)和個人，當(dāng)他們處理歐盟公民或居民的個人數(shù)據(jù)時，他們須按照GDPR開展活動。該法案重點(diǎn)保護(hù)的是自然人的“個人數(shù)據(jù)”，號稱史上最嚴(yán)的數(shù)據(jù)保護(hù)法案。根據(jù)該法案規(guī)定的“市場地原則”，只要數(shù)據(jù)的收集方、數(shù)據(jù)的提供方（被收集數(shù)據(jù)的用戶）和數(shù)據(jù)的處理方（比如第三方數(shù)據(jù)處理機(jī)構(gòu)）這三方之中，有任何一方是歐盟公民或法人，就將受到該法案管轄。這就是說，任何企業(yè)只要是在歐盟市場提供商品或服務(wù)，或者收集歐盟公民的個人數(shù)據(jù)，都將受到這部法律的管轄。對于違法企業(yè)的罰金，最高可達(dá)2000萬歐元（約合1.5億元人民幣）或者其全球營業(yè)額的4%，以這二者中高者為準(zhǔn)。中國中國在第三屆“一帶一路”國際合作高峰論壇提出了《全球人工智能治理倡議》互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定近年來，隨著中國《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個人信息保護(hù)法》等相關(guān)法律的不斷完善，人民群眾對于個人信息、數(shù)據(jù)安全以及網(wǎng)絡(luò)安全不斷重視。黨中央在《法治社會建設(shè)實(shí)施綱要（2020-2025年）》明確提出制定完善對算法推薦等新技術(shù)應(yīng)用的規(guī)范管理辦法。2021年九部委出臺《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，為《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱“《規(guī)定》”）的制定奠定了良好的法制基礎(chǔ)。中國國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。《規(guī)定》明確了算法推薦服務(wù)提供者的信息服務(wù)規(guī)范，要求算法推薦服務(wù)提供者應(yīng)當(dāng)建立健全用戶注冊、信息發(fā)布審核、數(shù)據(jù)安全和個人信息保護(hù)、安全事件應(yīng)急處置等管理制度和技術(shù)措施，定期審核、評估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等；建立健全用于識別違法和不良信息的特征庫，發(fā)現(xiàn)違法和不良信息的，應(yīng)當(dāng)采取相應(yīng)的處置措施；加強(qiáng)用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點(diǎn)規(guī)則和用戶標(biāo)簽管理規(guī)則；加強(qiáng)算法推薦服務(wù)版面頁面生態(tài)管理，建立完善人工干預(yù)和用戶自主選擇機(jī)制，在重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價值導(dǎo)向的信息；規(guī)范開展互聯(lián)網(wǎng)新聞信息服務(wù)，不得生成合成虛假新聞信息或者傳播非國家規(guī)定范圍內(nèi)的單位發(fā)布的新聞信息；不得利用算法實(shí)施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當(dāng)競爭行為?！兑?guī)定》要求，具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報備案信息，履行備案手續(xù)；備案信息發(fā)生變更的，應(yīng)當(dāng)在規(guī)定時間內(nèi)辦理變更手續(xù)。算法推薦服務(wù)提供者應(yīng)當(dāng)依法留存網(wǎng)絡(luò)日志，配合有關(guān)部門開展安全評估和監(jiān)督檢查工作，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。互聯(lián)網(wǎng)彈窗信息服務(wù)管理規(guī)定中國國家互聯(lián)網(wǎng)信息辦公室于2022年9月9日，《互聯(lián)網(wǎng)彈窗信息推送服務(wù)管理規(guī)定》（以下簡稱“規(guī)定”）正式發(fā)布，已于2022年9月30日正式施行?！兑?guī)定》總共十條，條文簡短，影響重大。《規(guī)定》明確了提供信息彈窗的介質(zhì)包括操作系統(tǒng)、應(yīng)用軟件和網(wǎng)站，這也糾正了部分人的認(rèn)知誤區(qū)，《規(guī)定》的主要適用主體和監(jiān)管對象不僅是PC端桌面和網(wǎng)站彈窗，還包括移動APP、小程序、電腦軟件等各種應(yīng)用軟件。這對企業(yè)來說，尤其要注意，以各種操作系統(tǒng)或硬件類型（例如智能穿戴設(shè)備、智慧電視等）為載體的應(yīng)用軟件，通過所有對外接口進(jìn)行的彈窗信息，均應(yīng)當(dāng)符合《規(guī)定》的要求。其中，《規(guī)定》第三條明確互聯(lián)網(wǎng)彈窗信息推送服務(wù)應(yīng)當(dāng)遵守的法律法規(guī)明確為“憲法、法律和行政法規(guī)”。事實(shí)上，隨著近兩年互聯(lián)網(wǎng)行業(yè)法律法規(guī)的不斷出臺，與互聯(lián)網(wǎng)彈窗廣告、信息內(nèi)容安全和用戶權(quán)益保護(hù)相關(guān)的上位法體系已比較完善，此類調(diào)整給監(jiān)管實(shí)務(wù)與企業(yè)合規(guī)治理過程中，提供了更加清晰的合規(guī)指向?！兑?guī)定》第五條第五款：提供互聯(lián)網(wǎng)彈窗信息推送服務(wù)的，應(yīng)當(dāng)健全彈窗信息推送內(nèi)容管理規(guī)范，完善信息篩選、編輯、推送等工作流程，配備與服務(wù)規(guī)模相適應(yīng)的審核力量，加強(qiáng)彈窗信息內(nèi)容審核。美國人工智能監(jiān)管側(cè)重于人工智能反對歧視欺詐濫用，立法關(guān)注應(yīng)對人工智能帶來的危害，敦促企業(yè)遵守相關(guān)法律法規(guī)。歐洲人工智能監(jiān)管側(cè)重于可審計可理解，要求于人類交互的人工智能系統(tǒng)需要符合透明度規(guī)則，對于情感識別系統(tǒng)或者生物分類系統(tǒng)，系統(tǒng)提供者應(yīng)將系統(tǒng)的運(yùn)營情況和結(jié)果告知使用者，高風(fēng)險類型的人工智能在上市前，需要進(jìn)行風(fēng)險評估。中國人工智能監(jiān)管側(cè)重于明確標(biāo)準(zhǔn)具體指導(dǎo)，明確人工智能算法推薦服務(wù)者的主體責(zé)任，定期對算法進(jìn)行審核、評估和驗(yàn)證，并要求算法推薦服務(wù)i提供者加強(qiáng)算法規(guī)則的透明度和解釋性。隨著人工智能AI技術(shù)的快速發(fā)展，各行業(yè)專家希個國際標(biāo)準(zhǔn)，自動駕駛領(lǐng)域核心的AI安全中汽中心、一汽、華為、商湯、地平線組成的中國專家代表團(tuán)作為該標(biāo)準(zhǔn)第9SubteamNameSubteam01ConceptsandDefinitionsSubteam02ScopingSubteam03FunctionalSafetyandSOTIFSubteam04SafetyLifecycleSubteam05Definitionofsafety-relatedpropertiesofAIfunctionsSubteam06SelectionofAItechniquesanddesignrelatedconsiderationsSubteam07Data-relatedpropertiesSubteam08Evaluatingtheperformance/V&VSubteam09Measuresduringoperationandcontinuousassurance該標(biāo)準(zhǔn)定義了影響道路車輛環(huán)境中人工智能(一)YD/T4044-2022基于人工智能的知識圖譜構(gòu)建技術(shù)要求非功能要求，用于規(guī)范基于人工智能的知識圖譜的框架構(gòu)建流程。在該標(biāo)準(zhǔn)的8.6章節(jié)安全性要求部分對基于人工智能的知識圖譜系統(tǒng)的安35273—2020），敏感數(shù)據(jù)傳輸相關(guān)的訪問控制要求，(一)YD/T4043-2022基于人工智能的多中心醫(yī)療數(shù)據(jù)協(xié)同分析平臺參考架構(gòu)主要為多中心醫(yī)療數(shù)據(jù)協(xié)同分析平臺的軟件(一)JR/T0221-2021人工智能算法金融應(yīng)用評價規(guī)范該標(biāo)準(zhǔn)的發(fā)布旨在引導(dǎo)金融機(jī)構(gòu)加強(qiáng)對人工智能算法金融應(yīng)用的規(guī)范管理該標(biāo)準(zhǔn)的第6章節(jié)安全性評價部分針對目標(biāo)函數(shù)、常見攻擊范圍、算法依工智能計算平臺設(shè)計與實(shí)現(xiàn)?！缎畔踩夹g(shù)生成3)中國電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會（CESA）《信息技術(shù)人工智能風(fēng)險管4)中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）《可信人工智能組織治理能力成熟度模負(fù)責(zé)/歸口標(biāo)準(zhǔn)類型標(biāo)準(zhǔn)編號標(biāo)準(zhǔn)名稱階段全國信安標(biāo)委國家標(biāo)準(zhǔn)20211000-T-469信息安全技術(shù)機(jī)器學(xué)習(xí)算法安全評估規(guī)范報批稿全國信安標(biāo)委國家標(biāo)準(zhǔn)20230249-T-469信息安全技術(shù)人工智能計算平臺安全框架征求意見稿全國信安標(biāo)委國家標(biāo)準(zhǔn)--信息安全技術(shù)生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)在研練數(shù)據(jù)安全規(guī)范全國信標(biāo)委人工智能分委會（TC28/SC42）國家標(biāo)準(zhǔn)20221791-T-469人工智能管理體系在研全國信標(biāo)委人工智能分委會（TC28/SC42）國家標(biāo)準(zhǔn)20221795-T-469人工智能深度學(xué)習(xí)框架多硬件平臺適配技術(shù)規(guī)范在研中國電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會（CESA）團(tuán)體標(biāo)準(zhǔn)T/CESA1193-2022信息技術(shù)人工智能風(fēng)險管理能力評估中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）--可信人工智能組織治理能力成熟度模型在研中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）--大規(guī)模預(yù)訓(xùn)練模型技術(shù)和應(yīng)用評估方法第5部分：安全可信在研息安全技術(shù)生物特征識別信息保護(hù)基本要求》，《信息安全技術(shù)汽車數(shù)據(jù)處理安全要求》，有效展《人工智能終端產(chǎn)品個人信息保護(hù)要求和評估5)中國電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會（CESA6)新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AIT負(fù)責(zé)/歸口標(biāo)準(zhǔn)類型標(biāo)準(zhǔn)編號標(biāo)準(zhǔn)名稱階段全國信安標(biāo)委國家標(biāo)準(zhǔn)GB/T38542-2020信息安全技術(shù)基于生物特征識別的移動智能終端身份鑒別技術(shù)框架發(fā)布全國信安標(biāo)委國家標(biāo)準(zhǔn)GB/T38671-2020信息安全技術(shù)遠(yuǎn)程人臉識別系統(tǒng)技術(shù)要求發(fā)布全國信安標(biāo)委國家標(biāo)準(zhǔn)GB/T40660-2021信息安全技術(shù)生物特征識別信息保護(hù)基本要求發(fā)布全國信安標(biāo)委國家標(biāo)準(zhǔn)GB/T41819-2022信息安全技術(shù)人臉識別數(shù)據(jù)安全要求發(fā)布全國信安標(biāo)委國家標(biāo)準(zhǔn)GB/T41807-2022信息安全技術(shù)聲紋識別數(shù)據(jù)安全要求發(fā)布全國信安標(biāo)委國家標(biāo)準(zhǔn)GB/T41806-2022信息安全技術(shù)基因識別數(shù)據(jù)安全要求發(fā)布全國信安標(biāo)委國家標(biāo)準(zhǔn)GB/T41773-2022信息安全技術(shù)步態(tài)識別數(shù)據(jù)安全要求發(fā)布全國信安標(biāo)委國家標(biāo)準(zhǔn)GB/T41871-2022信息安全技術(shù)汽車數(shù)據(jù)處理安全要求發(fā)布全國信安標(biāo)委國家標(biāo)準(zhǔn)20230253-T-469信息安全技術(shù)基于個人信息的自動化決策安全要求在研全國信標(biāo)委生物特征識別分委會(TC28/SC37)國家標(biāo)準(zhǔn)GB/T41815.1-2022信息技術(shù)生物特征識別呈現(xiàn)攻擊檢測第1部分：框架發(fā)布全國信標(biāo)委生物特征識別分委會(TC28/SC37)國家標(biāo)準(zhǔn)GB/T41815.2-202信息技術(shù)生物特征識別呈現(xiàn)攻擊檢測第2部分：數(shù)據(jù)格式發(fā)布全國信標(biāo)委生物特征識別分委會(TC28/SC37)國家標(biāo)準(zhǔn)GB/T41815.3-2023信息技術(shù)生物特征識別呈現(xiàn)攻擊檢測第3部分：測試與報告發(fā)布全國信標(biāo)委生物特征識別分委會國家標(biāo)準(zhǔn)GB/T37036.3-2019信息技術(shù)移動設(shè)備生物特征識別第3部分：人臉發(fā)布（TC28/SC37）全國信標(biāo)委生物特征識別分委會(TC28/SC37)國家標(biāo)準(zhǔn)GB/T37036.8-2022信息技術(shù)移動設(shè)備生物特征識別第8部分：呈現(xiàn)攻擊檢測發(fā)布全國信標(biāo)委生物特征識別分委會(TC28/SC37)國家標(biāo)準(zhǔn)GB/T5271.37-2021信息技術(shù)詞匯第37部分：生物特征識別發(fā)布全國信標(biāo)委生物特征識別分委會(TC28/SC37）國家標(biāo)準(zhǔn)20221220-T-469信息技術(shù)生物特征識別人臉識別系統(tǒng)應(yīng)用要求在研中國通信標(biāo)準(zhǔn)化協(xié)會（CCSA）行業(yè)標(biāo)準(zhǔn)YD/T4087-2022移動智能終端人臉識別安全技術(shù)要求及測試評估方法發(fā)布中國通信標(biāo)準(zhǔn)化協(xié)會（CCSA）行業(yè)標(biāo)準(zhǔn)2023-0041TYD人工智能開發(fā)平臺通用能力要求第2部分：安全要求在研中國通信標(biāo)準(zhǔn)行業(yè)標(biāo)準(zhǔn)2023-0039TYD面向人臉識別系統(tǒng)的人臉在研化協(xié)會（CCSA）信息保護(hù)基礎(chǔ)能力要求中國通信標(biāo)準(zhǔn)化協(xié)會（CCSA）行業(yè)標(biāo)準(zhǔn)--人臉識別線下支付安全要求草案中國通信標(biāo)準(zhǔn)化協(xié)會（CCSA）行業(yè)標(biāo)準(zhǔn)2021-0630TYD電信網(wǎng)和互聯(lián)網(wǎng)人臉識別數(shù)據(jù)安全檢測要求在研上海市市監(jiān)局地方標(biāo)準(zhǔn)--人工智能數(shù)據(jù)通用安全要求征求意見稿上海市市監(jiān)局地方標(biāo)準(zhǔn)--人臉識別分級分類應(yīng)用標(biāo)準(zhǔn)草案中國電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會（CESA）團(tuán)體標(biāo)準(zhǔn)T/CESA1124-2020信息安全技術(shù)人臉比對模型安全技術(shù)規(guī)范發(fā)布新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AITISA）團(tuán)體標(biāo)準(zhǔn)T/AI110.1-2020人工智能視覺隱私保護(hù)第1部分：通用技術(shù)要求發(fā)布新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟團(tuán)體標(biāo)準(zhǔn)T/AI110.2-2022人工智能視覺隱私保護(hù)第2部分：技術(shù)應(yīng)用指南發(fā)布（AITISA）新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AITISA）團(tuán)體標(biāo)準(zhǔn)T/AI113-2021生物特征識別服務(wù)中的隱私保護(hù)技術(shù)指南發(fā)布新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AITISA）團(tuán)體標(biāo)準(zhǔn)T/AI111-2020生物特征模板的安全使用要求發(fā)布新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AITISA）團(tuán)體標(biāo)準(zhǔn)2023011205信息技術(shù)數(shù)字視網(wǎng)膜系統(tǒng)第11部分：安全與隱私保護(hù)草案1）在人工智能管理方面，國際標(biāo)準(zhǔn)主要研究人工智能數(shù)2）在可信性方面，國際標(biāo)準(zhǔn)主要關(guān)注人工智能的透明度、可3）在安全與隱私保護(hù)方面，國際標(biāo)準(zhǔn)主要聚焦于人工智能的系統(tǒng)安全、功歐洲電信標(biāo)準(zhǔn)化協(xié)會（ETSI）近期關(guān)注的重點(diǎn)議題包括人工智能數(shù)據(jù)安全、ETSIGRSAI005《人工智能安全：緩解策略3.2AI安全的技術(shù)生態(tài)數(shù)據(jù)安全是確保AI系統(tǒng)所使用的數(shù)據(jù)的保密性、完整性和可用性。這包括算法安全關(guān)注的是AI系統(tǒng)所使用的算法的安全性。這包括對算法進(jìn)行安全模型安全是確保AI系統(tǒng)所使用的模型的安全性和可信度。這包括對模型進(jìn)服務(wù)器、存儲和通信等基礎(chǔ)設(shè)施進(jìn)行安全配置、漏洞管理和監(jiān)控，以保護(hù)AI系以上這些安全技術(shù)共同構(gòu)成了保障AI環(huán)境安全的重要組成部分，通過綜合應(yīng)用這些技術(shù)，可以提高AI系統(tǒng)的安全性、可靠性和可信度，減少潛在的風(fēng)險3.2.1.2.1云服務(wù)提供商的安全生態(tài)回避的關(guān)鍵議題。云服務(wù)提供商在推動AI技術(shù)的創(chuàng)新與應(yīng)用的同時，必須提供一套多維度的安全防護(hù)體系，包括數(shù)據(jù)安全、網(wǎng)絡(luò)安全、計算安全等，保障AI對不同行業(yè)的特定需求，為AI客戶提供定制化的安全解決方案，以滿足各行業(yè)區(qū)，加強(qiáng)與全球安全研究者、機(jī)構(gòu)的交流與合作，共同推動云計算與AI安全領(lǐng)3.2.1.2.2硬件供應(yīng)商的安全生態(tài)在構(gòu)建AI安全環(huán)境中，硬件供應(yīng)商的角色不僅限于提供傳統(tǒng)的基于硬件的計算安全：對于AI的安全性，硬件供應(yīng)商所提供的安全計算和模型保護(hù)能3.2.1.2.3軟件供應(yīng)商的安全生態(tài)在AI安全的生態(tài)中，軟件供應(yīng)商扮演著至關(guān)重要的角色。除了基本的安全安全開發(fā)生命周期：“安全左移”的理念已經(jīng)成為業(yè)界共識。對于AI產(chǎn)品而安全賦能：為了構(gòu)建一個更加安全的AI生態(tài)環(huán)境，軟件供應(yīng)商需要將其在安全方面的專業(yè)知識和能力拓展到AI應(yīng)用開發(fā)者社群中，從而強(qiáng)化整個生態(tài)的持等。如此，軟件供應(yīng)商不僅保證了自身產(chǎn)品的安全，還促進(jìn)了整個AI生態(tài)的3.2.1.2.4開源社區(qū)的安全生態(tài)因此在開源社區(qū)實(shí)踐安全，為AI的安全發(fā)展具有重要意義。首先，應(yīng)遵循3.2.1.2.5研究機(jī)構(gòu)的安全生態(tài)3.2.1.2.6最終用戶的安全生態(tài)最終用戶是AI生態(tài)中的關(guān)鍵參與者，他們的安全直接關(guān)系到整個生態(tài)的穩(wěn)信息數(shù)據(jù)被收集，會造成用戶隱私泄露；此外，通過AI分析關(guān)聯(lián)大規(guī)模收集到機(jī)器學(xué)習(xí)階段可能面臨的攻擊/安全風(fēng)險數(shù)據(jù)收集/預(yù)處理階段數(shù)據(jù)投毒攻擊、個人敏感信息泄露訓(xùn)練階段模型逆向攻擊、模型提取攻擊預(yù)測階段模型逆向攻擊、模型提取攻擊、成員推斷攻擊數(shù)據(jù)投毒、對抗樣本等）的防護(hù)技術(shù)將在其聯(lián)邦學(xué)習(xí)是一種特殊的分布式機(jī)器學(xué)習(xí)框架，它僅通過交互模型中間參數(shù)應(yīng)用包括面向手機(jī)/物聯(lián)網(wǎng)設(shè)備的下一單詞預(yù)測、人臉識別等，面向組織的多家機(jī)器學(xué)習(xí)算法，覆蓋常規(guī)商業(yè)應(yīng)用建模場景需求。此外，F(xiàn)ATE提供一站式聯(lián)邦計算范式方面，TFF支持單機(jī)模擬和移動設(shè)的是飛槳訓(xùn)練框架，結(jié)合飛槳的參數(shù)服務(wù)器功能，其可以實(shí)現(xiàn)在Kubernetes集國牛津大學(xué)研發(fā)Flower，字節(jié)跳動研發(fā)的Fedlearner，阿里巴巴達(dá)摩院研發(fā)的業(yè)數(shù)據(jù)高度聚合的企業(yè)。從2018年起，騰訊上，是一種“無可信第三方”的聯(lián)邦學(xué)習(xí)框架。整個系統(tǒng)以AnFedlearn平臺創(chuàng)新性地提出了并行加密算法、異步計算框架、創(chuàng)新聯(lián)邦學(xué)習(xí)等SM4以及混淆電路、差分隱私和同態(tài)加密務(wù)場景的不同需求，此外，采用GPU等異構(gòu)計算芯片來加速聯(lián)邦學(xué)習(xí)的加密和每一方僅獲取自己的計算結(jié)果，對其他參與方的結(jié)果/輸入一無中。一方面，在學(xué)習(xí)過程中保障了（多方）訓(xùn)練數(shù)據(jù)的安全性/隱私性；另一方工具綜合應(yīng)用而來?；诙喾桨踩嬎銓I數(shù)據(jù)進(jìn)行保護(hù)，按照技術(shù)路線的不測。典型協(xié)議有結(jié)合秘密共享和混淆電路的ABY3、XONN等框架，結(jié)合同態(tài)加用的安全多方計算技術(shù)，底層協(xié)議為SecureNN和自研的Helix協(xié)議，可支持聯(lián)國內(nèi)諸多廠商利用多方安全計算來增強(qiáng)AI數(shù)據(jù)的安全性和隱私性的，包括螞蟻集團(tuán)、阿里巴巴、百度、華控清交、原語科2.類同態(tài)加密：是只支持有限次加法和乘法運(yùn)和精度有限，多次計算會累積誤差。這將嚴(yán)重拖慢訓(xùn)練過程,使之難以滿足實(shí)際機(jī)器學(xué)習(xí)過程中使用的非線性運(yùn)算，如神經(jīng)網(wǎng)絡(luò)中的sigmoid和ReLU等激活函.TenSEAL是Openmined開源的一個支持同態(tài)加密隱私保護(hù)機(jī)器學(xué)習(xí)的隱私保護(hù)框架，支持BFV、CKKS等多種同態(tài)加密方案，實(shí)現(xiàn)多種機(jī)器學(xué)習(xí)模型上的開源隱私保護(hù)機(jī)器學(xué)習(xí)工具集,旨在簡化同態(tài)加密在機(jī)器學(xué)習(xí)隱私保護(hù)方面差分隱私是由Dwork等人提出的一種建立在嚴(yán)格數(shù)學(xué)理論基礎(chǔ)之上的隱私差分隱私機(jī)制是目前AI數(shù)據(jù)保護(hù)的最常采用的技術(shù)之一，主要通過添加一測結(jié)果添加噪聲，可以防止敵手對模型進(jìn)行成員加噪聲。這種方式可以提高效率和可用，但是只差分隱私技術(shù)已被谷歌、蘋果、微軟、字節(jié)跳動、阿里巴巴等一些IT公司），操作系統(tǒng)（OPTEE_OS普通世界客戶端（OPTEE_Client測試套件lARM、Intel和AMD公司分別提出各自的可信執(zhí)行環(huán)境技術(shù)TrustZone、標(biāo)識、數(shù)字指紋、數(shù)字隱寫等技術(shù)實(shí)現(xiàn)，適用lgo-mask包，通過結(jié)構(gòu)體的tag功能可以脫敏結(jié)構(gòu)體中的任何字段，實(shí)現(xiàn)對行推導(dǎo)預(yù)測；而目前以AIGC為代表的深度學(xué)習(xí)則是模擬人腦神經(jīng)排序精選類：例如搜索引擎廣告排序算法、3.2.3.2算法黑盒問題算法的黑盒問題制約AI應(yīng)用場景的廣泛落地，特別是對于一些安全性要求析、定位根因，因此也無法有效避免類似事件的再次發(fā)生。要加速AI在此類場法模型的可解釋性增強(qiáng)，按模型訓(xùn)練前后階段可通過算法優(yōu)化與模塊化提高可解釋性:在訓(xùn)練數(shù)據(jù)較少時，選擇人類較易理解的算法來訓(xùn)練模型，如決策樹算法模型;對于復(fù)雜模型，可設(shè)計成相互獨(dú)立的里的Attention技術(shù)、模塊化網(wǎng)絡(luò)結(jié)構(gòu)、概率模型（ProbabilisticModel）均可以3.2.3.3算法脆弱性問題種異常情況，從而提高模型面對異常情況的判斷能力。如在AI圖像識別模型訓(xùn)3.2.3.4算法監(jiān)管與知識產(chǎn)權(quán)風(fēng)險撐行業(yè)監(jiān)管，都對算法機(jī)制機(jī)理的審核對象、程序都提模型訓(xùn)練數(shù)據(jù)的采集以及算法模型的設(shè)計開發(fā)已經(jīng)逐漸變成了企業(yè)的重資3.2.3.5針對算法模型的攻擊“大規(guī)模鑒偽數(shù)據(jù)的構(gòu)建”和“深度合成內(nèi)容檢測算法”2個部分。除此之外，為了數(shù)字水印可以認(rèn)為是AIGC平臺在防止自身提供在國家法規(guī)政策和標(biāo)準(zhǔn)規(guī)范的指導(dǎo)下，出臺企業(yè)組織AI人工智能安全產(chǎn)品和工具，能準(zhǔn)確判定企業(yè)所需4AI安全的熱門問題4.1大模型安全對不同類別的和主題的輸入內(nèi)容進(jìn)行檢測并對不恰當(dāng)內(nèi)容已經(jīng)通過安全審核的、符合安全標(biāo)準(zhǔn)的指令數(shù)據(jù)對大模型進(jìn)此外，大模型在交互場景中的業(yè)務(wù)運(yùn)營中，面方面也應(yīng)采取多種技術(shù)手段保障業(yè)務(wù)運(yùn)營安全。綜大模型交互場景中的各種安全風(fēng)險，保護(hù)用戶隱私定運(yùn)行，同時，持續(xù)的監(jiān)控、分析和改進(jìn)也是確保4.2對抗樣本攻擊4.3數(shù)據(jù)投毒攻擊到錯誤的標(biāo)簽-特征關(guān)聯(lián)，從而產(chǎn)生誤導(dǎo)性的輸出。三、標(biāo)簽矛盾，在訓(xùn)練數(shù)據(jù)任度產(chǎn)生負(fù)面影響；二、信息泄露，數(shù)據(jù)投毒可能導(dǎo)致模型敏感信息被泄露。安全；三、安全風(fēng)險，數(shù)據(jù)投毒可能對個人隱私和公共安全構(gòu)成威脅。例如攻可能導(dǎo)致AI系統(tǒng)違反法律法規(guī)或合規(guī)要求。例如在金融領(lǐng)域，攻擊者可能通過數(shù)據(jù)投毒攻擊主要有以下集中檢測和防御方式。一、檢查數(shù)據(jù)集中的標(biāo)簽、4.4供應(yīng)鏈攻擊過滲透和利用目標(biāo)組織或產(chǎn)品的供應(yīng)鏈環(huán)節(jié)來滲透或破壞目標(biāo)系統(tǒng)或數(shù)據(jù)的安供應(yīng)鏈攻擊具有多方面的關(guān)鍵要點(diǎn)。首先，攻擊目標(biāo)的多樣性是顯著特征，還有可能通過在供應(yīng)鏈組件中插入后門或木馬程序來建立持久性的未經(jīng)授權(quán)訪在模型訓(xùn)練過程中注入惡意代碼。此類惡意代碼注入可能會在AI模型運(yùn)行時觸發(fā)，導(dǎo)致安全問題。另外，攻擊者也可能針對AI開發(fā)中常用的數(shù)據(jù)集，通過數(shù)據(jù)篡改來誤導(dǎo)模型學(xué)習(xí)，影響模型的預(yù)測結(jié)果。這些攻擊形式對于AI系統(tǒng)的安重要的是加強(qiáng)對AI開發(fā)過程中涉及的具體軟件、組件和服務(wù)的安全防護(hù)，以確能導(dǎo)致模型偏差，降低模型預(yù)測的準(zhǔn)確性和可靠性，對AI系統(tǒng)的性能造成負(fù)面此外，供應(yīng)鏈攻擊可能導(dǎo)致AI系統(tǒng)的不穩(wěn)定性，增加系統(tǒng)崩潰或服務(wù)中斷的風(fēng)供應(yīng)鏈攻擊的檢測是確保組織能夠及時發(fā)現(xiàn)潛在威脅并采取行動的至關(guān)重4.5數(shù)據(jù)泄露攻擊脅到使用者，還可能對模型的擁有者產(chǎn)生深遠(yuǎn)的影響。首先，這種風(fēng)險源于AI技術(shù)所依賴的算法模型和運(yùn)行參數(shù)的潛在漏洞。其次，由于AI技術(shù)在處理和分某一具體數(shù)據(jù)是否被用于訓(xùn)練集，這進(jìn)一步方式獲得模型使用訓(xùn)練數(shù)據(jù)和運(yùn)行數(shù)據(jù)的某子模型”來模擬其運(yùn)作方式。接著，攻擊者利用類得不認(rèn)真思考針對數(shù)據(jù)泄露攻擊的防御技術(shù)過修改模型的損失函數(shù)，使目標(biāo)模型給出的輸出數(shù)信息混淆：對模型的輸入數(shù)據(jù)或預(yù)測結(jié)果做模糊操作，在保證AI露的風(fēng)險。信息混淆技術(shù)主要包含兩類：1）截斷做取整操作，抹除小數(shù)點(diǎn)某位之后的信息；2）噪4.6模型竊取攻擊進(jìn)行保護(hù)，防止以防止攻擊者通過觀察模型輸出或分析模重的是，人工智能技術(shù)已經(jīng)開始被犯罪分子用來傷害他人或社會，如利根據(jù)ChangwuHuang教授的觀點(diǎn)，人工智能系統(tǒng)主要服務(wù)于個人或社會公層次，即個人、社會和環(huán)境層面的倫理問題。個人層面的倫理問題主要包括AI來了負(fù)擔(dān)。人工智能的廣泛應(yīng)用往往需要部署大量的通過新技術(shù)尤其是機(jī)器學(xué)習(xí)技術(shù)，以消除或減輕當(dāng)前AI的缺點(diǎn)，規(guī)避相應(yīng)原則包含領(lǐng)域TransparencyExplainableAIorinterpretableAIFairness&JusticeNon-maleficenceSafeAISecureRobustAIAIResponsibility&AccountabilityResponsibleAIPrivacyDifferentialPrivacyFederatedorDistributedLearningHomomorphicEncryption4.8AI輔助安全在內(nèi)的個人病歷數(shù)據(jù)被泄露了。福勒指出，不少被泄露感染新冠病毒進(jìn)行判斷，而不是根據(jù)真正的醫(yī)學(xué)病理法規(guī)和合規(guī)性（Regulationsand執(zhí)業(yè)許可等）甚至可能承擔(dān)刑事責(zé)任（醫(yī)療事年美國一家知名在線零售商發(fā)生了一起嚴(yán)重的如果數(shù)據(jù)存儲和傳輸過程中出現(xiàn)安全漏洞，可能導(dǎo)致數(shù)對待。例如，2016年美國總統(tǒng)選舉期間，谷歌的面部識別系統(tǒng)因例如，2017年一家歐洲銀行因遭受勒索軟件攻擊而導(dǎo)致系統(tǒng)癱可能導(dǎo)致消費(fèi)者對金融機(jī)構(gòu)的信任度下降，從而影響業(yè)務(wù)發(fā)展。例如，2018年一家美國信用卡公司因拒絕為一位患有肺癌2009年，美國證券交易委員會（SEC）公布的數(shù)據(jù)顯），(無線接入點(diǎn)、工業(yè)交換機(jī)、路由器、網(wǎng)管服務(wù)