爲促進生成式人(rén)工智能技術健康發展和(hé)規範應用(yòng)，國家網信辦起草(cǎo)了(le)《生成式人(rén)工智能服務管理(lǐ)辦法（征求意見稿）》（以下(xià)簡稱征求意見稿），于4月(yuè)11日向社會公開征求意見。征求意見稿明(míng)确，生成式人(rén)工智能是指基于算(suàn)法、模型、規則生成文本、圖片、聲音(yīn)、視頻(pín)、代碼等内容的(de)技術。國家支持人(rén)工智能算(suàn)法、框架等基礎技術的(de)自主創新、推廣應用(yòng)、國際合作，鼓勵優先采用(yòng)安全可(kě)信的(de)軟件、工具、計算(suàn)和(hé)數據資源。

日前，上海人(rén)民廣場(chǎng)地鐵樞紐換乘通(tōng)道内，多(duō)幅AI人(rén)工智能生成的(de)畫(huà)作吸引了(le)不少過往乘客的(de)注意。據悉，這(zhè)些畫(huà)作是地鐵傳媒德高(gāo)申通(tōng)STDecaux投放的(de)由Tiamat人(rén)工智能AI生成的(de)作品。（圖片由CNSPHOTO提供）

明(míng)确提供者主體責任

征求意見稿規定，提供生成式人(rén)工智能産品或服務應當遵守法律法規的(de)要求，尊重社會公德、公序良俗。

征求意見稿要求，利用(yòng)生成式人(rén)工智能産品提供聊天和(hé)文本、圖像、聲音(yīn)生成等服務的(de)組織和(hé)個(gè)人(rén)（以下(xià)稱提供者），包括通(tōng)過提供可(kě)編程接口等方式支持他(tā)人(rén)自行生成文本、圖像、聲音(yīn)等，承擔該産品生成内容生産者的(de)責任；涉及個(gè)人(rén)信息的(de)，承擔個(gè)人(rén)信息處理(lǐ)者的(de)法定責任，履行個(gè)人(rén)信息保護義務。利用(yòng)生成式人(rén)工智能産品向公衆提供服務前，應當按照(zhào)《具有輿論屬性或社會動員(yuán)能力的(de)互聯網信息服務安全評估規定》向國家網信部門申報安全評估，并按照(zhào)《互聯網信息服務算(suàn)法推薦管理(lǐ)規定》履行算(suàn)法備案和(hé)變更、注銷備案手續。

征求意見稿明(míng)确，提供者應當對(duì)生成式人(rén)工智能産品的(de)預訓練數據、優化(huà)訓練數據來(lái)源的(de)合法性負責。用(yòng)于生成式人(rén)工智能産品的(de)預訓練、優化(huà)訓練數據，應符合《中華人(rén)民共和(hé)國網絡安全法》等法律法規的(de)要求；不含有侵犯知識産權的(de)内容；數據包含個(gè)人(rén)信息的(de)，應當征得(de)個(gè)人(rén)信息主體同意或者符合法律、行政法規規定的(de)其他(tā)情形；能夠保證數據的(de)真實性、準确性、客觀性、多(duō)樣性；國家網信部門關于生成式人(rén)工智能服務的(de)其他(tā)監管要求。

征求意見稿要求，提供者應當建立用(yòng)戶投訴接收處理(lǐ)機制，及時(shí)處置個(gè)人(rén)關于更正、删除、屏蔽其個(gè)人(rén)信息的(de)請求；發現、知悉生成的(de)文本、圖片、聲音(yīn)、視頻(pín)等侵害他(tā)人(rén)肖像權、名譽權、個(gè)人(rén)隐私、商業秘密，或者不符合本辦法要求時(shí)，應當采取措施，停止生成，防止危害持續。

征求意見稿規定，提供者發現用(yòng)戶利用(yòng)生成式人(rén)工智能産品過程中違反法律法規，違背商業道德、社會公德行爲時(shí)，包括從事網絡炒作、惡意發帖跟評、制造垃圾郵件、編寫惡意軟件，實施不正當的(de)商業營銷等，應當暫停或者終止服務。            

未雨(yǔ)綢缪精準施策

ChatGPT的(de)爆紅帶來(lái)了(le)生成式AI創業浪潮，也(yě)在該領域激發了(le)新一輪投融資熱(rè)潮。據悉，包括谷歌(gē)、元宇宙、亞馬遜公司等在内的(de)科技巨頭紛紛開始推出或開發自己的(de)聊天機器人(rén)，并投資相關初創企業，針對(duì)生成式AI的(de)投資浪潮也(yě)逐漸席卷全球。據風投公司NFX統計，目前全球已有約450家生成式AI公司，這(zhè)些公司一共籌集了(le)将近120億美(měi)元的(de)投資。

随著(zhe)AI在各行業滲透率不斷提升，各國均加快(kuài)對(duì)相關領域的(de)政策規範。今年年初，工信部、國家網信辦、國家發改委等16個(gè)部門聯合發布的(de)《關于促進數據安全産業發展的(de)指導意見》明(míng)确，到2025年，數據安全産業基礎能力和(hé)綜合實力明(míng)顯增強。

中國科學院院士、南(nán)京大(dà)學黨委書(shū)記譚鐵牛表示，近年來(lái)，以ChatGPT爲代表的(de)人(rén)工智能内容生成技術取得(de)重大(dà)突破，在全球掀起了(le)人(rén)工智能的(de)新一輪熱(rè)潮，也(yě)使我國面臨諸多(duō)新的(de)風險與挑戰。“針對(duì)上述風險與挑戰，我們必須未雨(yǔ)綢缪、趨利避害，多(duō)措并舉，精準施策，确保AIGC（人(rén)工智能生成内容）技術安全、可(kě)靠、可(kě)控”。

譚鐵牛表示，當前我國在人(rén)工智能基礎理(lǐ)論、訓練數據和(hé)芯片算(suàn)力等方面存在明(míng)顯差距，導緻我國缺乏對(duì)整個(gè)AIGC技術的(de)主導權。同時(shí)，法規與治理(lǐ)體系不完善帶來(lái)社會穩定與國家安全方面的(de)風險。近期，十餘家國内互聯網和(hé)科技企業宣布已布局AIGC技術，并且還(hái)有很多(duō)創業團隊一擁而上。

譚鐵牛建議(yì)，加快(kuài)構建國家頂層規劃、龍頭企業牽頭、高(gāo)校科研機構共同支撐的(de)創新鏈産業鏈融合體系。建立健全相應的(de)法律法規，構建良好輿論環境，推動AIGC技術健康有序發展。

推動産業有序發展

國務院于2017年發布了(le)《新一代人(rén)工智能發展規劃》，明(míng)确“初步建立人(rén)工智能法律法規、倫理(lǐ)規範和(hé)政策體系，形成人(rén)工智能安全評估和(hé)管控能力”。國家新一代人(rén)工智能治理(lǐ)專業委員(yuán)會也(yě)相繼于2019年和(hé)2021年發布了(le)《新一代人(rén)工智能治理(lǐ)原則——發展負責任的(de)人(rén)工智能》和(hé)《新一代人(rén)工智能倫理(lǐ)規範》。上述文件爲我國目前生成式AI的(de)發展提供了(le)堅實的(de)法律法規和(hé)标準保障。

首都經濟貿易大(dà)學法學院訴訟與司法制度研究中心主任陳磊表示，法律監管可(kě)分(fēn)爲事前、事中、事後三個(gè)階段。事前應注意預防，投資者在研發生成式AI之前，應向有關部門提交申請書(shū)，将其人(rén)工智能的(de)主要内容進行闡述和(hé)備案；事中須加強管控，在發現生成式AI侵犯他(tā)人(rén)著作權或者内容涉及倫理(lǐ)道德不當時(shí)，應當及時(shí)進行管控；事後要注意監督，對(duì)相關侵權行爲及時(shí)進行處罰，保障他(tā)人(rén)合法權益。

“生成式AI帶來(lái)了(le)革命性的(de)變化(huà)，這(zhè)種變化(huà)不亞于互聯網發明(míng)的(de)變革。”廣東财經大(dà)學法學院教授姚志偉在談及監管思路時(shí)強調，面對(duì)新興的(de)革命性技術，一方面要劃定底線，保障國家安全和(hé)公共安全；另一方面，也(yě)應創造寬松的(de)監管環境，促進新興技術和(hé)産業的(de)發展，爲國内産業加強國際競争力創造良好條件。

北(běi)京大(dà)學法學院教授王錫鋅提出，人(rén)工智能内容生成技術的(de)法律風險确實存在，但是需要進一步厘清是技術本身的(de)風險還(hái)是技術産品應用(yòng)的(de)風險。呼籲對(duì)科技進行約束的(de)同時(shí)也(yě)需要提供一個(gè)有競争力的(de)、持續創新的(de)、可(kě)預期的(de)法律化(huà)制度生态。（袁芳）

■觀點

征求意見稿爲AIGC（人(rén)工智能生成内容）産業提供了(le)一套明(míng)确的(de)法規框架，有助于規範整個(gè)産業的(de)健康發展、提升行業标準。例如，征求意見稿強調了(le)對(duì)個(gè)人(rén)信息和(hé)隐私的(de)保護，規定了(le)對(duì)于涉及個(gè)人(rén)信息的(de)處理(lǐ)和(hé)保護的(de)要求，有助于提升用(yòng)戶對(duì)AIGC産業的(de)信任。——商務部研究院電商所副研究員(yuán)洪勇