受訪專家：中國科學院自動化(huà)研究所多(duō)模态人(rén)工智能系統全國重點實驗室研究員(yuán) 赫 然

二〇二二年十一月(yuè)十五日，在第二十四屆中國國際高(gāo)新技術成果交易會上，參觀者體驗AI“換臉”。

中國規範深度合成技術的(de)新規定《互聯網信息服務深度合成管理(lǐ)規定》自1月(yuè)10日起施行。

法新社報道稱，新規定要求深度合成服務提供者對(duì)使用(yòng)者進行真實身份信息認證，同時(shí)要求對(duì)深度合成内容進行合理(lǐ)标識，避免公衆混淆。

“算(suàn)法監管的(de)先行者——中國，近期将注意力轉向治理(lǐ)深度合成。”《華爾街(jiē)日報》網站報道稱，所謂深度合成，就是由人(rén)工智能軟件生成或編輯内容，可(kě)以讓人(rén)們看起來(lái)完成了(le)一些從未做(zuò)過的(de)事情。

深度合成技術是指利用(yòng)深度學習(xí)、虛拟現實等生成合成類算(suàn)法制作文本、圖像、音(yīn)頻(pín)、視頻(pín)、虛拟場(chǎng)景等網絡信息的(de)技術。合成的(de)虛拟内容有極佳的(de)視覺、聽(tīng)覺等效果，具有“以假亂真”的(de)特點。深度合成技術的(de)代表性研究——2014年提出的(de)生成對(duì)抗網絡（GANs）、2020年提出的(de)生成式預訓練模型（GPT-3），大(dà)幅提升了(le)多(duō)媒體數據合成的(de)逼真程度，推動了(le)“人(rén)工智能生成内容”和(hé)“元宇宙”等一系列新型智能應用(yòng)形态。目前，深度合成技術已衍生出面部替換、表情操縱、語音(yīn)合成、文章(zhāng)生成、智能對(duì)話(huà)等不同技術分(fēn)支，在教育、影(yǐng)視、傳媒等領域扮演著(zhe)越來(lái)越重要的(de)角色，對(duì)升級傳統内容制作方法、改善制作效果、提高(gāo)制作效率有積極作用(yòng)。但同時(shí)，該技術也(yě)可(kě)能被不法分(fēn)子用(yòng)于深度僞造，如僞造公衆人(rén)物(wù)發言，進行诽謗、詐騙等，給國家安全和(hé)社會穩定帶來(lái)挑戰。

智能技術本身是中立的(de)，但技術的(de)使用(yòng)蘊含價值取向。針對(duì)深度合成技術帶來(lái)的(de)風險和(hé)安全挑戰，中國正在積極探索治理(lǐ)路徑。

2022年11月(yuè)25日，中國國家互聯網信息辦公室會同工信部、公安部發布《互聯網信息服務深度合成管理(lǐ)規定》（以下(xià)簡稱《規定》）。《規定》根據《中華人(rén)民共和(hé)國網絡安全法》《中華人(rén)民共和(hé)國數據安全法》《中華人(rén)民共和(hé)國個(gè)人(rén)信息保護法》《互聯網信息服務管理(lǐ)辦法》等法律、行政法規制定，是中國第一部針對(duì)深度合成人(rén)工智能技術治理(lǐ)的(de)專門性規章(zhāng)。《規定》一方面爲防範深度合成的(de)潛在風險提出了(le)科學且系統的(de)治理(lǐ)方案，另一方面有效統籌了(le)深度合成的(de)風險管理(lǐ)與技術創新，有利于促進深度合成相關人(rén)工智能技術健康有序發展。

《規定》厘清了(le)深度合成技術定義與應用(yòng)範圍，确定了(le)生成合成類算(suàn)法的(de)監管對(duì)象，明(míng)确了(le)深度合成服務提供者、技術支持者和(hé)使用(yòng)者及應用(yòng)程序分(fēn)發平台的(de)各方責任，提出建立健全行業标準和(hé)自律管理(lǐ)制度。

《規定》有效銜接現行法規制度，在延續互聯網信息服務算(suàn)法治理(lǐ)思路的(de)基礎上，對(duì)利用(yòng)深度合成技術危害國家安全和(hé)人(rén)民利益、侵害公民合法權益和(hé)隐私的(de)行爲及法律責任作出了(le)全面、具體的(de)規定，進一步細化(huà)了(le)現行算(suàn)法應用(yòng)的(de)監管規則，給出了(le)合成類算(suàn)法服務的(de)監督管理(lǐ)樣闆。

實現網絡綜合治理(lǐ)、構建網絡生态，是世界各國面臨的(de)共同課題。《規定》的(de)出台，是中國加強互聯網智能技術依法治理(lǐ)、規範産業服務健康發展、推進人(rén)工智能倫理(lǐ)進步、引導科學技術向上向善的(de)重要舉措，具有一定的(de)全球示範效應。同時(shí)，《規定》的(de)多(duō)項内容處于國際領先地位，具有針對(duì)性、前瞻性和(hé)引導性和(hé)可(kě)操作性。近期，美(měi)國人(rén)工智能實驗室OpenAI最新發布的(de)對(duì)話(huà)式大(dà)型語言模型ChatGPT引起廣泛關注。該算(suàn)法模型可(kě)以智能書(shū)寫情書(shū)、辭職信、文章(zhāng)等，也(yě)可(kě)以模仿特定人(rén)物(wù)的(de)風格發布推文。使用(yòng)這(zhè)類算(suàn)法模型提供智能寫作、對(duì)話(huà)服務也(yě)應當遵守《規定》。

下(xià)一步，中國在規範深度合成技術方面還(hái)可(kě)進行三方面探索：一是在技術基礎研究方面，可(kě)進一步研究智能合成類算(suàn)法的(de)機制機理(lǐ)和(hé)深度合成鑒别等關鍵技術，推動深度合成技術管理(lǐ)能力和(hé)技術保障措施建設，提升視頻(pín)、圖像、音(yīn)頻(pín)、虛拟場(chǎng)景生成等應用(yòng)服務領域的(de)合成效果。二是在安全與監管方面，可(kě)研究深度合成與鑒别的(de)博弈對(duì)抗機制，研究媒體數字水(shuǐ)印、算(suàn)法模型水(shuǐ)印和(hé)内容安全溯源等深度合成标識技術，建設面向移動互聯網全媒體的(de)監測管理(lǐ)平台，加強技術和(hé)人(rén)工審核交互的(de)人(rén)機混合監管方式，建立深度合成服務提供者的(de)安全可(kě)控技術保障方案以及辟謠投訴機制。三是可(kě)開展深度合成相關智能算(suàn)法标準和(hé)安全評估标準等的(de)研究與制定，進一步支撐技術服務規範和(hé)安全能力建設等工作。

中國積極探索規範深度合成技術，有利于引導以深度學習(xí)爲主的(de)新興智能技術健康發展，促進人(rén)工智能算(suàn)法在音(yīn)頻(pín)、視頻(pín)、圖像和(hé)文本等多(duō)媒體信息處理(lǐ)領域的(de)應用(yòng)。随著(zhe)深度合成技術應用(yòng)的(de)普及和(hé)拓展，深度合成檢測分(fēn)析技術也(yě)将順勢而來(lái)。通(tōng)過深度合成與檢測分(fēn)析技術的(de)對(duì)抗演練良性叠代，深度合成技術将有望實現安全、可(kě)靠、可(kě)控發展，推動新興人(rén)工智能技術應用(yòng)落地。

來(lái)源：新華網