生成的AI透明度：識別機器生成的內(nèi)容

JRCJRC137136夠生成逼真的類人類內(nèi)容。對其潛在濫用和社會影響的關注突顯了識別機器生成內(nèi)→識別AI生成內(nèi)容的解決方案應具備以下四個 的一個前沿領域，近年來由于最先進的技術進步用于生成媒體內(nèi)容（如文本、音頻、圖像或視頻 )的模型，這些內(nèi)容模仿人類制作的內(nèi)容。該技術的應用潛力覆蓋了各個行業(yè)。其創(chuàng)造力和推理諸多益處，其不斷增長的能力也引發(fā)了對其自身或操控的內(nèi)容（如圖像、音頻或視頻）與現(xiàn)有的人、物、地點或其他實體或事件極為相似，并且 通用型AI系統(tǒng)、生成合成音頻、圖像、視humans"人工生成或操縱。提供商應確保其技術解決方案在相關范圍內(nèi)有效、互操作性強、穩(wěn)健可靠。對于歐盟以外的地區(qū)，機器生成內(nèi)容的問題也已受 開發(fā)有效的技術手段以確保用戶知曉內(nèi)容由AI生成[9]，以及中國對深度合成互聯(lián)網(wǎng)服務提出眾多要求，包括使用技術手段標注這些服務生成或編輯的內(nèi)容[10]。在過去五十年中，數(shù)字技術的興起顯著重塑了所有權和版權的格局。數(shù)字化資產(chǎn)可以被復制和修改的可能性催生了將隱藏信息或標記嵌入到圖像技術），以及唯一標識這些資產(chǎn)的方法（指紋識），的修改，如添加標志或文字。隨著時間的推移，這些技術演進為對人類感官不可感知且在視覺和音頻領域具有強大抗篡改性的水印。水印技術與指紋識別方法相結合，進一步增強了安全性，采此簡報的目的，我們將重點放在最常見的研究工作中產(chǎn)生的文本、音頻、圖像和視頻數(shù)據(jù)上。支器（GPT基于卷積網(wǎng)絡的技術[13]，例如用于生成的內(nèi)容對于確保數(shù)字技術和媒體的信心保這份簡報旨在回顧四種技術解決方案（見圖1） ,以實現(xiàn)這一目標。這些解決方案根據(jù)四項des供者名稱、創(chuàng)建日期或用于身份驗證的數(shù)字簽名等信息來實現(xiàn)。該過程應要求最小的努力和受到可預見的變化或修改影響，這些變化或修改不影響內(nèi)容的合成性質(zhì)，也不改變內(nèi)容的整體外觀或可解釋性（例如，圖像的亮度或音頻的音量 )。的的信息的修改，無論是更改識別元素（篡改）元數(shù)據(jù)是嵌入計算機文件中并提供有關這些文件G、JPG、MP3或PDF。當生成音頻或圖像時，這通常是常見的做法，但對于返回原始文本的文據(jù)。然而，某些元數(shù)據(jù)中的信息可能需要更新以圖1對四種技術解決方案的示意圖進行了分析，以識別生成的內(nèi)容。水印技術將元數(shù)據(jù)嵌入內(nèi)容中作為不可見或幾乎不可感知的標記。水印可以在媒體內(nèi)容生成期間[23]。-水印可以設計成對內(nèi)容質(zhì)量影響最小，尤其是對的水印是可行的，并且已在科學作品中進行了演下，指紋識別涉及生成并存儲在一個外部數(shù)據(jù)庫中唯一標識符，該標識符用于識別生成的內(nèi)容，標識:識別過程包括計算待識別內(nèi)容的指紋，并將修改敏感，這可能導致不同的指紋和錯誤的身份基于人工智能的檢測工具采用機器學習分類技術構建，并通過人工制作和機器生成的內(nèi)容進行訓標識:水印需要特定的工具來驗證真?zhèn)?、檢測篡標識:識別過程涉及將內(nèi)容輸入到檢測器中。然而，當前用于檢測生成內(nèi)容的技術存在較高的誤報率，并且可能會錯誤地識別出由人類生成的內(nèi)。開放性促進了創(chuàng)新文化的形成，允許開發(fā)者迭代關鍵想法并逐步開發(fā)更為先進的系統(tǒng)。然而，當數(shù)據(jù)、指紋或水印只需刪除一行代碼即可，從而指紋識別、水印或檢測方法）也是開源的，惡意行為者可能分析代碼以找出繞過生成內(nèi)容識對于這些問題，最穩(wěn)健的方法是在生成過程中整或?qū)τ柧殧?shù)據(jù)集中的所有圖像進行水印處理，使而另一端保持封閉。例如，公開水印代碼和封閉受限于當前的技術水平，且目前尚未找到單一解決方案能夠全面滿足識別可靠生成內(nèi)容的全部理將元數(shù)據(jù)和水印整合到內(nèi)容中，可以更容易地跟蹤和驗證由機器生成的數(shù)字內(nèi)容。諸如內(nèi)容來源表1與上述討論的四種desirable屬性相比的技術解決方案比較。（綠色：已覆蓋，橙色：部分覆蓋，紫色：未覆蓋）效率完整性對含量變更操縱TextText音頻音頻ImageImageTextText音頻音頻ImageImageTextText音頻音頻ImageImageTextText音頻音頻ImageImage元數(shù)據(jù)水印指紋檢測另一方面，指紋識別和檢測方法可以區(qū)分真容與被篡改的內(nèi)容，無論是否存在元數(shù)據(jù)或水印。然而，這些方法仍然存在一些不足：指紋識別需要專門的基礎設施來大規(guī)模生成和存儲指紋，依賴于數(shù)字簽名的解決方案需要設置合適的公鑰基礎設施(PKI)此外，技術實施可以留給提供商處理，或者在專更廣泛治理系統(tǒng)的一部分，以確保各方之間的正確互動。在實踐中，這帶來了諸多挑戰(zhàn)，尤其是需要進行進一步的基礎研究。這還包括探索新的工程方法以開發(fā)產(chǎn)品，使內(nèi)容生成的識別更Intelligence'.2021.[online].Available:theproposalforaregulation[.]layingdownficialIntelligenceAct)[..],2023.[online]. TrustworthyArtificialIntelligence',Thewhite whatcost?'printing:ForwhichApplications?', nismsasaconditionnismsasaconditionofpublicRelease',Glo'AdversarialAudiowatermarkintoDeepFeature',Miers,andT.GoldstFingerprintsforDiffusionImages',ngh,'surveyofrobustandimperceptiblewatermarking',Z.Jiang,J.zhang,andN.z.Gong,'Evadingwa-content'.arxiv線進行多輪機器生成文本檢測的國際機器學習大,'Robustness