依法推動深度合成技術向上向善

依法推動深度合成技術向上向善【資政場】隨著人工智能技術不斷迭代演進，網絡治理面臨新課題、新挑戰(zhàn)。習近平總書記高度關注人工智能技術發(fā)展，強調“要加強人工智能發(fā)展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控”，“建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德”。人工智能技術的廣泛應用，在促進數字經濟與數字社會迅猛發(fā)展的同時，也帶來風險與挑戰(zhàn)。如深度合成技術若遭非法濫用，不僅會侵害公民人身權益與財產安全，還會污染網絡生態(tài)環(huán)境、危及國家網絡安全。因此，需要以法治方式筑牢信息安全屏障，確保人工智能技術在法治軌道上健康發(fā)展。深度合成技術安全風險急需立法回應2022年我國人工智能核心產業(yè)規(guī)模達5080億元，同比增長18%，躋身國際領先行列。深度合成技術是人工智能領域一項前沿技術，不僅包含了深度偽造技術，也泛指所有AI生成算法和涵蓋自動生成圖像、視頻、語音、文本、音樂等內容的人工智能合成技術。其中深度偽造技術借助人工智能技術，通過深度學習對生物識別信息、音頻或視頻等進行修改和創(chuàng)造，能高度還原一個人的樣貌、聲音、動態(tài)，甚至能以假亂真，有被濫用的風險。實際上，目前也已出現通過深度偽造技術進行詐騙的案例。人工智能的生態(tài)環(huán)境與安全治理，是構建網絡空間命運共同體的重要環(huán)節(jié)。為防范人工智能發(fā)展的潛在風險，各國日益重視人工智能深度合成技術的法律規(guī)制。美國通過平臺審查、技術對抗、法律監(jiān)督形成自下而上的治理路徑，先后提出了多部與深度偽造有關的法案。歐盟則將深度偽造視為對生物識別信息的濫用，運用《通用數據保護條例》加以規(guī)制，并發(fā)布《反虛假信息行為準則》，通過行業(yè)自律、提升人工智能安全素養(yǎng)、加強人工智能倫理治理等協調歐盟各成員國參與治理。對人工智能深度合成技術安全風險進行立法回應，已經成為包括中國在內的許多國家的共識。規(guī)制深度合成技術應用的中國方案黨的十八大以來，我國網絡安全和信息化事業(yè)取得重大成就。網絡安全和信息化工作始終堅持黨管互聯網，堅持網信為民，走中國特色治網之道，統籌發(fā)展和安全，筑牢國家網絡安全屏障。針對人工智能技術應用潛在風險的防范，我國以多部門立法相結合的方式作出積極回應。在法律層面上，民法典第1019條的規(guī)定為深度偽造技術的圖像和視頻應用劃定紅線。在規(guī)章層面，《網絡音視頻信息服務管理規(guī)定》《網絡信息內容生態(tài)治理規(guī)定》等規(guī)范性文件相繼制定，規(guī)定了服務提供者對深度合成的音頻或視頻的顯著標識義務。今年年初施行的《互聯網信息服務深度合成管理規(guī)定》是我國最具系統性、針對性、可操作性的第一部規(guī)制深度合成的專門立法。該法規(guī)定在深度偽造技術應用中，利用生物識別信息編輯的，應取得信息主體的單獨同意；提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。深度合成管理規(guī)定的出臺，開啟了對深度合成技術全方位立法治理的時代。近日頒布的《生成式人工智能服務管理暫行辦法》，是我國首部全面監(jiān)管生成式人工智能的立法文件。該法一方面劃定不得生成違法內容、防止歧視、尊重知識產權和他人合法權益的法律底線；一方面鼓勵創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管。這兩部規(guī)章的實施，不僅為我國人工智能深度合成技術健康發(fā)展提供了重要法制保障，而且所采用的由監(jiān)管機構全面監(jiān)管、預先遏制新技術潛在安全風險的開創(chuàng)性治理路徑，為全球人工智能治理提供了中國方案、貢獻了中國智慧。構建規(guī)制深度合成技術應用法律體系加快發(fā)展數字經濟，貫徹落實國家發(fā)展新一代人工智能的決策部署，提升人工智能安全治理能力，應堅持以人民為中心的人工智能治理理念，結合民法、行政法、刑法等多法律部門，構建多維度、全方位的法律規(guī)范體系，切實規(guī)制深度合成技術應用，推動科技向善，發(fā)展負責的人工智能。在人工智能立法方面，各地相繼出臺新規(guī)，國家層面的人工智能立法也在提速。筆者認為，對深度合成的規(guī)制應納入人工智能治理框架，重視深度合成技術的算法治理，提升區(qū)塊鏈溯源防偽和反向破解技術，對人工智能應用生物識別信息提出嚴格限制。在個人信息保護方面，在利用生物識別信息深度偽造的場景中，信息處理者應取得信息主體的單獨書面同意，切實履行“通知—刪除”義務、“發(fā)現—刪除”義務以及“發(fā)現—標記”義務。在民法保護方面，對生物識別信息應采用權利保護模式，信息主體有證據證明行為人非法利用生物識別信息進行深度偽造的，有權立即申請人格權侵害禁令，責令停止侵害，屏蔽、刪除AI換臉記錄。在行政立法方面，應提升深度合成專門立法的法律位階，落實數字平臺的主體監(jiān)管責任，強化問責機制與懲罰性賠償責任。在刑事立法方面，可考慮對以深度偽造技術為犯罪工具竊用他人身份的犯罪行為設定新罪名；適度降低應用深度偽造技術進行侮辱、誹謗或危害