（一）《暫行辦法》適用的前提是向我國(guó)境內(nèi)公眾提供服務(wù)（二）利用境外技術(shù)向境內(nèi)提供服務(wù)需受《暫行辦法》規(guī)制二、《暫行辦法》對(duì)人工智能生成內(nèi)容的主要規(guī)制（一）應(yīng)當(dāng)遵守法律、法規(guī)以及尊重社會(huì)公德和倫理道德（二）不得侵犯他人知識(shí)產(chǎn)權(quán)及其他合法權(quán)益三、《暫行辦法》對(duì)生成人工智能服務(wù)提供者的具體行為規(guī)范（一）提高生成內(nèi)容的準(zhǔn)確性和可靠性（二）對(duì)人工智能生成內(nèi)容進(jìn)行標(biāo)識(shí)（三）針對(duì)未成年人設(shè)定防沉迷模式（四）辦理安全評(píng)估與算法備案手續(xù)（五）履行服務(wù)平臺(tái)的管理義務(wù)（一）聚焦生成內(nèi)容安全，引導(dǎo)服務(wù)向上向善（二）突出用戶權(quán)益保護(hù)，保障服務(wù)合法合規(guī)（三）強(qiáng)化服務(wù)主體責(zé)任，構(gòu)建全面治理架構(gòu)《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱“《暫行辦法》”）已于2023年8月15日正式生效實(shí)施?！稌盒修k法》系通過廣泛吸收公眾對(duì)《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡(jiǎn)稱“《征求意見稿》”）的反饋意見修改而成。與《征求意見稿》相比，《暫行辦法》更加體現(xiàn)了現(xiàn)階段相關(guān)監(jiān)管機(jī)構(gòu)“發(fā)展與安全并重”的治理原則，強(qiáng)調(diào)鼓勵(lì)技術(shù)發(fā)展與創(chuàng)新，從原理和制度兩個(gè)層面統(tǒng)籌促進(jìn)實(shí)現(xiàn)規(guī)范治理與科技創(chuàng)新的平衡，既為產(chǎn)業(yè)創(chuàng)新提供了政策導(dǎo)向和法律保障，又為產(chǎn)業(yè)監(jiān)管提供了科學(xué)合理和平衡適度的框架，為我國(guó)生成式人工智能服務(wù)的健康發(fā)展提供了有力保障。這一重要法規(guī)的出臺(tái)，為生成式人工智能服務(wù)的進(jìn)一步發(fā)展提供了明確的規(guī)范和指引，標(biāo)志著我國(guó)在生成式人工智能服務(wù)管理方面取得了重要突破。未來，隨著技術(shù)的創(chuàng)新度和社會(huì)的接受度不斷提高，生成式人工智能將在更多領(lǐng)域發(fā)揮重要作用，為人們的生活帶來便利和效益。本文擬對(duì)《暫行辦法》中的核心要點(diǎn)進(jìn)行歸納總結(jié)如下。
《暫行辦法》第二十二條對(duì)生成式人工智能的相關(guān)概念進(jìn)行了界定：生成式人工智能技術(shù)可應(yīng)用于傳媒、影視、辦公、社交、電商等多個(gè)業(yè)務(wù)場(chǎng)景，當(dāng)前代表性產(chǎn)品包括ChatGPT、Midjourney、Stable Diffusion、阿里通義千問、訊飛星火等。《暫行辦法》第二條對(duì)適用范圍做了具體的闡述，規(guī)定該辦法的主要適用對(duì)象為生成式人工智能服務(wù)，規(guī)制主體主要為利用生成式人工智能技術(shù)向中國(guó)境內(nèi)公眾提供生成式人工智能服務(wù)的主體。由此可歸納出以下兩個(gè)注意要點(diǎn)：
（一）《暫行辦法》適用的前提是向我國(guó)境內(nèi)公眾提供服務(wù)
首先，《暫行辦法》明確了適用的前提是將生成式人工智能服務(wù)向境內(nèi)公眾提供，也就是向境內(nèi)不特定主體公開提供?！稌盒修k法》第二條規(guī)定，行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等研發(fā)、應(yīng)用生成式人工智能技術(shù)，未向境內(nèi)公眾提供生成式人工智能服務(wù)的，不適用本辦法的規(guī)定。這意味著內(nèi)部訓(xùn)練或開發(fā)生成式人工智能服務(wù)，并不適用該辦法的規(guī)定。此項(xiàng)規(guī)定體現(xiàn)了國(guó)家對(duì)各組織、企業(yè)及機(jī)構(gòu)對(duì)人工智能技術(shù)鼓勵(lì)研發(fā)及創(chuàng)新的積極態(tài)度。但需要注意的是，內(nèi)部訓(xùn)練或開發(fā)生成式人工智能的行為雖然不受《暫行辦法》規(guī)制，有關(guān)主體也應(yīng)當(dāng)保證訓(xùn)練數(shù)據(jù)獲取的合規(guī)性及合法性，否則將面臨侵犯他人肖像權(quán)、隱私權(quán)、商業(yè)秘密以及不正當(dāng)競(jìng)爭(zhēng)等的法律風(fēng)險(xiǎn)。
（二）利用境外技術(shù)向境內(nèi)提供服務(wù)需受《暫行辦法》規(guī)制
《暫行辦法》并未將規(guī)制主體局限于中國(guó)境內(nèi)的服務(wù)提供者，而是規(guī)定所有向中國(guó)境內(nèi)提供生成式人工智能服務(wù)的提供者均受到本辦法的監(jiān)管。因此，對(duì)于境外服務(wù)提供者而言，不論是向境內(nèi)直接提供服務(wù)，還是通過API接口或其他形式“封裝”后提供“間接”服務(wù)，只要是向中國(guó)境內(nèi)公眾提供相關(guān)服務(wù)，均將受到《暫行辦法》的監(jiān)管及規(guī)制。若來源于境外向境內(nèi)提供的生成式人工智能服務(wù)不符合法律、行政法規(guī)和《暫行辦法》的規(guī)定，國(guó)家網(wǎng)信部門將通知有關(guān)機(jī)構(gòu)采取技術(shù)措施和其他必要措施予以處置，采取的措施可能包括斷開鏈接、下架App等。
二、《暫行辦法》對(duì)人工智能生成內(nèi)容的主要規(guī)制
（一）應(yīng)當(dāng)遵守法律、法規(guī)以及尊重社會(huì)公德和倫理道德
不得生成法律法規(guī)明確禁止的內(nèi)容
《暫行辦法》強(qiáng)調(diào)，人工智能生成內(nèi)容需堅(jiān)持社會(huì)主義核心價(jià)值觀，不得生成煽動(dòng)顛覆國(guó)家政權(quán)、推翻社會(huì)主義制度，危害國(guó)家安全和利益、損害國(guó)家形象，煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一和社會(huì)穩(wěn)定，宣揚(yáng)恐怖主義、極端主義，宣揚(yáng)民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容。[1]
在人工智能時(shí)代，數(shù)字技術(shù)成為歧視表達(dá)的新載體，嵌入人工智能的歧視隱匿到數(shù)字世界的角落悄無聲息地侵蝕社會(huì)公平正義。國(guó)務(wù)院《新一代人工智能發(fā)展規(guī)劃》（國(guó)發(fā)〔2017〕35號(hào)）以及中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院《人工智能標(biāo)準(zhǔn)化白皮書》、國(guó)家人工智能標(biāo)準(zhǔn)化總體組《人工智能倫理風(fēng)險(xiǎn)分析報(bào)告》、國(guó)家新一代人工智能治理專業(yè)委員會(huì)《新一代人工智能治理原則》、全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)秘書處《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南——人工智能倫理安全風(fēng)險(xiǎn)防范指引》等政策文件正在積極規(guī)劃、倡導(dǎo)和推進(jìn)多維治理人工智能的歧視問題。《暫行辦法》要求生成式人工智能服務(wù)的提供者在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，需采取有效措施防止產(chǎn)生民族、信仰、國(guó)別、地域、性別、年齡、職業(yè)、健康等歧視。[2]生成式人工智能服務(wù)中的“歧視”，是指在算法設(shè)計(jì)、數(shù)據(jù)選擇的過程中，整合、生產(chǎn)與分發(fā)內(nèi)容中所產(chǎn)生的歧視，具體包含種族歧視、性別歧視、年齡歧視、地域歧視和職業(yè)歧視等。由于人工智能發(fā)展階段和發(fā)展路徑的特殊性，決定了其容易被現(xiàn)有歧視影響，主要原因在于：一方面，現(xiàn)在仍處于弱人工智能階段，人工智能智能按照開發(fā)者設(shè)定的邏輯運(yùn)行，無法自主識(shí)別、修正開發(fā)者寫入的代碼中隱含的偏見；另一方面，現(xiàn)今人工智能主要以深度學(xué)習(xí)（Deep Learning）算法為主，其底層邏輯是從結(jié)構(gòu)化和非結(jié)構(gòu)化的數(shù)據(jù)中實(shí)現(xiàn)特征提取、模式識(shí)別，亦即從具體樣例中抽象出普遍規(guī)則指引實(shí)踐，這種基于“大數(shù)據(jù)集”而通過自我訓(xùn)練、自我學(xué)習(xí)以形成“規(guī)則集”的過程，實(shí)質(zhì)上是對(duì)于過往人類社會(huì)模式特征的總結(jié)并將其用于對(duì)未來社會(huì)的感知與決策，不可避免地復(fù)制并延續(xù)當(dāng)前社會(huì)的既有格局與特征。[3]經(jīng)由上述流程，偏見與歧視得以代碼化、數(shù)據(jù)化，成為人工智能的決策基礎(chǔ)，基于此所生成的人工智能服務(wù)也將不可避免地輸出歧視性內(nèi)容與結(jié)果，這些隱形歧視將產(chǎn)生信息窄化與信息繭房的風(fēng)險(xiǎn)。因此，企業(yè)在開發(fā)生成式人工智能的過程中，在涉及模型構(gòu)建、數(shù)據(jù)輸入等步驟時(shí)需特別注意對(duì)歧視性信息的排查，及時(shí)進(jìn)行修正。
（二）不得侵犯他人知識(shí)產(chǎn)權(quán)及其他合法權(quán)益
不得侵犯他人知識(shí)產(chǎn)權(quán)
生成式人工智能技術(shù)的運(yùn)行邏輯是在海量的數(shù)據(jù)訓(xùn)練和算法模型的基礎(chǔ)上，對(duì)信息進(jìn)行識(shí)別、提取、加工、處理后產(chǎn)出創(chuàng)造性的內(nèi)容。在上述過程中，生成式人工智能在不同的運(yùn)行階段將面臨不同的知識(shí)產(chǎn)權(quán)問題。在算法模型訓(xùn)練階段，獲取數(shù)據(jù)進(jìn)行訓(xùn)練、調(diào)試階段時(shí)面臨不正當(dāng)競(jìng)爭(zhēng)等問題；在內(nèi)容輸入階段，面臨如何界定用戶輸入內(nèi)容使用邊界的問題；在內(nèi)容生成階段，面臨生成內(nèi)容的知識(shí)產(chǎn)權(quán)屬性和權(quán)屬以及生成內(nèi)容侵權(quán)風(fēng)險(xiǎn)和責(zé)任承擔(dān)的問題。特別是在內(nèi)容生成階段，人工智能所生成的內(nèi)容極易與原作品產(chǎn)生強(qiáng)相關(guān)性，進(jìn)而引發(fā)侵權(quán)被訴的風(fēng)險(xiǎn)。因此，《暫行辦法》規(guī)定生成式人工智能應(yīng)尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì)，實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為。[4]目前，司法實(shí)踐中已經(jīng)發(fā)生了多起有關(guān)人工智能技術(shù)侵犯他人肖像權(quán)的糾紛，值得關(guān)注。例如，在趙某涵與上海魚腥草信息科技有限公司肖像權(quán)糾紛一案[5]中，魚腥草公司以趙某涵的視頻為底稿向用戶提供AI換臉技術(shù)，用戶在使用魚腥草公司的軟件后即可將視頻主角的臉換成自己的。法院認(rèn)為：“被告將原告視頻中的形象“換臉”后上架供其注冊(cè)用戶換臉使用，破壞了原告肖像的完整性，系利用信息技術(shù)手段偽造等方式侵害原告的肖像權(quán)，應(yīng)當(dāng)認(rèn)定侵害了原告的肖像權(quán)。”因此，除知識(shí)產(chǎn)權(quán)外，《暫行辦法》還規(guī)定生成式人工智能需尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益。[6]
三、《暫行辦法》對(duì)生成人工智能服務(wù)提供者的具體行為規(guī)范
（一）提高生成內(nèi)容的準(zhǔn)確性和可靠性
由于生成式人工智能存在算法“黑箱”的特性，提供者無法控制生成內(nèi)容的真實(shí)性，人工智能本身也不能對(duì)其生成內(nèi)容的真實(shí)性與準(zhǔn)確性進(jìn)行驗(yàn)證，導(dǎo)致人工智能可能出現(xiàn)“一本正經(jīng)地胡說八道”的現(xiàn)象，故服務(wù)提供者需開展嚴(yán)格規(guī)范的數(shù)據(jù)標(biāo)注工作以提高訓(xùn)練數(shù)據(jù)的質(zhì)量。數(shù)據(jù)標(biāo)注是對(duì)未經(jīng)處理過的文本、圖片、音頻、視頻等非結(jié)構(gòu)化原始數(shù)據(jù)進(jìn)行框選、提取、添加標(biāo)簽、分類等加工處理，從而轉(zhuǎn)變成機(jī)器可識(shí)別信息的過程，它是人工智能算法得以有效運(yùn)行的關(guān)鍵，只有經(jīng)過標(biāo)注處理后的結(jié)構(gòu)化數(shù)據(jù)才能被用于算法模型訓(xùn)練使用。數(shù)據(jù)標(biāo)注對(duì)于生成內(nèi)容的糾偏發(fā)揮著重要作用，有利于糾正人工智能自然存在的固有算法偏見，將生成結(jié)果引導(dǎo)至所需的正確方向。換言之，數(shù)據(jù)標(biāo)注的質(zhì)量一定程度上決定了人工智能學(xué)習(xí)結(jié)果的優(yōu)良。因此，《暫行辦法》第九條強(qiáng)調(diào)了數(shù)據(jù)標(biāo)注的重要性，要求提供者應(yīng)當(dāng)清晰、具體、可操作的標(biāo)注規(guī)則，及時(shí)開展數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估，抽樣核驗(yàn)標(biāo)注內(nèi)容的準(zhǔn)確性，并要對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)，提升尊法守法意識(shí)，監(jiān)督指導(dǎo)標(biāo)注人員規(guī)范開展標(biāo)注工作。
（二）對(duì)人工智能生成內(nèi)容進(jìn)行標(biāo)識(shí)
針對(duì)目前服務(wù)生成內(nèi)容難以被分辨，甚至出現(xiàn)技術(shù)被濫用、誤用等問題，《暫行辦法》第十二條規(guī)定，生成式人工智能服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱“《深度合成規(guī)定》”）對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。對(duì)于如何確認(rèn)需要標(biāo)識(shí)的場(chǎng)景和如何進(jìn)行標(biāo)識(shí)，參考《深度合成規(guī)定》中第十六條及第十七條的規(guī)定，可歸納出以下兩個(gè)方面要點(diǎn)：一方面，生成式人工智能服務(wù)提供者應(yīng)當(dāng)采取技術(shù)措施對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容添加不影響用戶使用的標(biāo)識(shí)，并依照法律、行政法規(guī)和國(guó)家有關(guān)規(guī)定保存日志信息。[7]另一方面，生成式人工智能服務(wù)提供者提供的服務(wù)可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)。關(guān)于何種服務(wù)可能導(dǎo)致公眾混淆或誤認(rèn)，可參考以下幾種情形進(jìn)行確定：①智能對(duì)話、智能寫作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù)；②合成人聲、仿聲等語音生成或者顯著改變個(gè)人身份特征的編輯服務(wù)；③人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個(gè)人身份特征的編輯服務(wù)；④沉浸式擬真場(chǎng)景等生成或者編輯服務(wù)；⑤其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù)。[8]（三）針對(duì)未成年人設(shè)定防沉迷模式
《暫行辦法》第十條規(guī)定了針對(duì)未成年需設(shè)立防沉迷模式，要求生成式人工智能服務(wù)提供者應(yīng)當(dāng)明確并公開其服務(wù)的適用人群、場(chǎng)合、用途，指導(dǎo)使用者科學(xué)理性認(rèn)識(shí)和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)。對(duì)于如何設(shè)定防沉迷模式，可以參考《國(guó)家新聞出版署關(guān)于進(jìn)一步嚴(yán)格管理切實(shí)防止未成年人沉迷網(wǎng)絡(luò)游戲的通知》（國(guó)新出發(fā)〔2021〕14號(hào)）中的規(guī)定：一方面要嚴(yán)格限制向未成年人提供網(wǎng)絡(luò)游戲服務(wù)的時(shí)間；另一方面，要嚴(yán)格落實(shí)網(wǎng)絡(luò)游戲用戶賬號(hào)實(shí)名注冊(cè)和登錄要求。（四）辦理安全評(píng)估與算法備案手續(xù)
《暫行辦法》第十七條對(duì)提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的提供者進(jìn)行了特殊規(guī)定，要求此類提供者應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開展安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱“《算法推薦規(guī)定》”）履行算法備案和變更、注銷備案手續(xù)。第十七條中的“具有輿論屬性或者社會(huì)動(dòng)員能力”可以參照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》（以下簡(jiǎn)稱“《安全評(píng)估規(guī)定》”）的相關(guān)條款予以理解。具體而言，“具有輿論屬性或者社會(huì)動(dòng)員能力”是指提供公眾輿論表達(dá)渠道或者具有發(fā)動(dòng)社會(huì)公眾從事特定活動(dòng)的能力，具體包括開辦論壇、博客、微博客、聊天室、通訊群組、公眾賬號(hào)、短視頻、網(wǎng)絡(luò)直播、信息分享、小程序等，以及開辦提供公眾輿論表達(dá)渠道或者具有發(fā)動(dòng)社會(huì)公眾從事特定活動(dòng)能力的其他互聯(lián)網(wǎng)信息服務(wù)。[9]實(shí)務(wù)中，如提供虛擬主播、AI聊天及社交、AI創(chuàng)作及教育等相關(guān)AIGC技術(shù)服務(wù)的從業(yè)者，被要求開展安全評(píng)估和履行算法備案的可能性較高。關(guān)于安全評(píng)估，根據(jù)《安全評(píng)估規(guī)定》的相關(guān)規(guī)定，服務(wù)提供者可以自行實(shí)施安全評(píng)估，也可以委托第三方安全評(píng)估機(jī)構(gòu)實(shí)施，[10]服務(wù)提供者主要對(duì)信息服務(wù)和新技術(shù)新應(yīng)用的合法性，落實(shí)法律、行政法規(guī)、部門規(guī)章和標(biāo)準(zhǔn)規(guī)定的安全措施的有效性，防控安全風(fēng)險(xiǎn)的有效性等情況進(jìn)行全面評(píng)估，經(jīng)過安全評(píng)估，符合法律、行政法規(guī)、部門規(guī)章和標(biāo)準(zhǔn)的，應(yīng)當(dāng)形成安全評(píng)估報(bào)告。服務(wù)提供者重點(diǎn)評(píng)估內(nèi)容主要如下：①確定與所提供服務(wù)相適應(yīng)的安全管理負(fù)責(zé)人、信息審核人員或者建立安全管理機(jī)構(gòu)的情況；②用戶真實(shí)身份核驗(yàn)以及注冊(cè)信息留存措施；③對(duì)用戶的賬號(hào)、操作時(shí)間、操作類型、網(wǎng)絡(luò)源地址和目標(biāo)地址、網(wǎng)絡(luò)源端口、客戶端硬件特征等日志信息，以及用戶發(fā)布信息記錄的留存措施；④對(duì)用戶賬號(hào)和通訊群組名稱、昵稱、簡(jiǎn)介、備注、標(biāo)識(shí)，信息發(fā)布、轉(zhuǎn)發(fā)、評(píng)論和通訊群組等服務(wù)功能中違法有害信息的防范處置和有關(guān)記錄保存措施；⑤個(gè)人信息保護(hù)以及防范違法有害信息傳播擴(kuò)散、社會(huì)動(dòng)員功能失控風(fēng)險(xiǎn)的技術(shù)措施；⑥建立投訴、舉報(bào)制度，公布投訴、舉報(bào)方式等信息，及時(shí)受理并處理有關(guān)投訴和舉報(bào)的情況；⑦建立為網(wǎng)信部門依法履行互聯(lián)網(wǎng)信息服務(wù)監(jiān)督管理職責(zé)提供技術(shù)、數(shù)據(jù)支持和協(xié)助的工作機(jī)制的情況；⑧建立為公安機(jī)關(guān)、國(guó)家安全機(jī)關(guān)依法維護(hù)國(guó)家安全和查處違法犯罪提供技術(shù)、數(shù)據(jù)支持和協(xié)助的工作機(jī)制的情況。[11]關(guān)于算法備案，《算法推薦規(guī)定》指明，備案主體為算法推薦服務(wù)提供者，備案的對(duì)象是算法推薦服務(wù)，具體的算法類別包括生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)。[12]算法備案應(yīng)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)（以下簡(jiǎn)稱“備案系統(tǒng)”）進(jìn)行，網(wǎng)址為https://beian.cac.gov.cn。《算法推薦規(guī)定》對(duì)具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者的備案內(nèi)容作了詳細(xì)規(guī)定，要求服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息，履行備案手續(xù)。[13]值得注意的是，備案以“算法”為備案單位，而非以“產(chǎn)品”為備案單位，即對(duì)于同一產(chǎn)品中使用的不同算法，應(yīng)分別進(jìn)行備案，而所屬不同產(chǎn)品使用同一個(gè)算法的，則僅需進(jìn)行一項(xiàng)備案。（五）履行服務(wù)平臺(tái)的管理義務(wù)
由于生成式人工智能所提供服務(wù)的特殊性，服務(wù)提供者除需按照《暫行辦法》第九條規(guī)定承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任外，還需根據(jù)第十四條、第十五條的規(guī)定承擔(dān)服務(wù)平臺(tái)的管理責(zé)任。對(duì)此，可將其分別概括為違法行為內(nèi)容處置及報(bào)告義務(wù)與健全投訴舉報(bào)機(jī)制義務(wù)兩種類型。具體而言，違法行為內(nèi)容處置及報(bào)告義務(wù)，是指生成式人工智能服務(wù)提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改，并向有關(guān)主管部門報(bào)告。提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的，應(yīng)當(dāng)依法依約采取警示、限制功能、暫?；蛘呓K止向其提供服務(wù)等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門報(bào)告。投訴舉報(bào)機(jī)制義務(wù)，是指生成式人工智能服務(wù)提供者應(yīng)當(dāng)建立健全投訴、舉報(bào)機(jī)制，設(shè)置便捷的投訴、舉報(bào)入口，公布處理流程和反饋時(shí)限，及時(shí)受理、處理公眾投訴舉報(bào)并反饋處理結(jié)果。此外，《暫行辦法》此處所規(guī)定的管理義務(wù)與網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)所應(yīng)履行的管理義務(wù)相類似，可以參考《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第九條[14]的規(guī)定進(jìn)一步完善平臺(tái)的治理機(jī)制，通過遵守科學(xué)合法的規(guī)范、積極履行相關(guān)的管理義務(wù)以減少相應(yīng)的經(jīng)營(yíng)風(fēng)險(xiǎn)。
（一）聚焦生成內(nèi)容安全，引導(dǎo)服務(wù)向上向善
生成式人工智能服務(wù)提供者需注意內(nèi)容的合法合規(guī)性，也要注重提高生產(chǎn)內(nèi)容的準(zhǔn)確性和可靠性。一方面，應(yīng)當(dāng)遵守法律、法規(guī)、社會(huì)公德及倫理道德，禁止生成法律法規(guī)明確禁止的內(nèi)容，也不得生成含有歧視性的內(nèi)容，需在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取有效措施防止歧視，還需注意所生成的內(nèi)容不得侵犯他人的知識(shí)產(chǎn)權(quán)、肖像權(quán)、隱私權(quán)及名譽(yù)權(quán)等合法權(quán)益。另一方面，生成式人工智能的技術(shù)原理決定其具有準(zhǔn)確性和偏見層面的風(fēng)險(xiǎn)，服務(wù)提供者需制定清晰、具體、可操作的標(biāo)注規(guī)則以提升生成式人工智能服務(wù)的透明度。
（二）突出用戶權(quán)益保護(hù)，保障服務(wù)合法合規(guī)
生成式人工智能服務(wù)給社會(huì)大眾帶來方便的同時(shí)，也帶來了新的安全問題與安全風(fēng)險(xiǎn)，結(jié)合其現(xiàn)有的技術(shù)特點(diǎn)可知，服務(wù)過程極易涉及用戶敏感數(shù)據(jù)，故需對(duì)此進(jìn)行重點(diǎn)保護(hù)。服務(wù)提供者對(duì)使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù)，不得收集非必要個(gè)人信息，不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄，以便為用戶安全使用服務(wù)提供保障。此外，服務(wù)提供者需履行對(duì)用戶的提醒義務(wù)，針對(duì)圖片、視頻等生成內(nèi)容設(shè)置明顯標(biāo)識(shí)，防止出現(xiàn)技術(shù)被濫用、誤用等現(xiàn)象。（三）強(qiáng)化服務(wù)主體責(zé)任，構(gòu)建全面治理架構(gòu)
首先，服務(wù)提供者應(yīng)依法承擔(dān)網(wǎng)絡(luò)安全信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)，尤其具有輿論屬性或者社會(huì)動(dòng)員能力的服務(wù)是有關(guān)部門監(jiān)管的重點(diǎn)，在提供此類服務(wù)時(shí)，服務(wù)提供者需就監(jiān)管重點(diǎn)關(guān)注的高風(fēng)險(xiǎn)事項(xiàng)開展安全評(píng)估，及時(shí)進(jìn)行合規(guī)自查和整改，并需按要求對(duì)訓(xùn)練數(shù)據(jù)來源、規(guī)模、類型、標(biāo)注規(guī)則、算法機(jī)制機(jī)理等予以說明，及時(shí)辦理備案手續(xù)，積極配合相關(guān)監(jiān)管工作。其次，提供者需明確并公開服務(wù)的適用人群、場(chǎng)合、用途，嚴(yán)格落實(shí)網(wǎng)絡(luò)游戲用戶賬號(hào)實(shí)名注冊(cè)和登錄要求，并嚴(yán)格限制向未成年人提供服務(wù)的時(shí)間，通過采取年齡限制、訪問控制、時(shí)間提醒等防沉迷手段防范未成年人用戶的過度依賴。最后，提供者除需承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任、履行網(wǎng)絡(luò)信息安全義務(wù)外，還需履行服務(wù)平臺(tái)的管理義務(wù)，如當(dāng)服務(wù)提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的，應(yīng)當(dāng)依法依約采取警示、限制、暫停或者終止向其提供服務(wù)等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門報(bào)告。總之，服務(wù)提供者需通過完善制度建設(shè)及操作規(guī)范等措施，建立合法合規(guī)的長(zhǎng)效運(yùn)行機(jī)制。
隨著技術(shù)的不斷更新和迭代，生成式人工智能正給現(xiàn)代產(chǎn)業(yè)、教育、生活、娛樂、醫(yī)療等領(lǐng)域帶來革命性的變革。技術(shù)的進(jìn)步不僅為各行各業(yè)帶來了新的機(jī)遇和挑戰(zhàn)，同時(shí)也對(duì)相關(guān)管理規(guī)范提出了更高的要求。相關(guān)行業(yè)從業(yè)者應(yīng)當(dāng)持續(xù)關(guān)注國(guó)家的立法和司法動(dòng)態(tài)，確保落實(shí)相應(yīng)的合規(guī)要求，以便更好地應(yīng)對(duì)生成式人工智能帶來的挑戰(zhàn)和機(jī)遇。【1】參見《生成式人工智能服務(wù)管理暫行辦法》第四條。【3】參見李成：《人工智能歧視的法律治理》，載《中國(guó)法學(xué)》2021年第2期。【5】參見上海市金山區(qū)人民法院(2022)滬0116民初13222號(hào)民事判決書。【7】參見《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條。【8】參見《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條。【9】參見《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》第二條。【10】參見《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》第四條。【11】參見《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》第五條。【12】參見《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第二條。【13】參見《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第二十四條。【14】參見《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第九條 網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)應(yīng)當(dāng)建立網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理機(jī)制，制定本平臺(tái)網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理細(xì)則，健全用戶注冊(cè)、賬號(hào)管理、信息發(fā)布審核、跟帖評(píng)論審核、版面頁(yè)面生態(tài)管理、實(shí)時(shí)巡查、應(yīng)急處置和網(wǎng)絡(luò)謠言、黑色產(chǎn)業(yè)鏈信息處置等制度。網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)應(yīng)當(dāng)設(shè)立網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理負(fù)責(zé)人，配備與業(yè)務(wù)范圍和服務(wù)規(guī)模相適應(yīng)的專業(yè)人員，加強(qiáng)培訓(xùn)考核，提升從業(yè)人員素質(zhì)。賈常巍律師，北京金誠(chéng)同達(dá) (深圳）律師事務(wù)所合伙人。賈常巍律師在知識(shí)產(chǎn)權(quán)領(lǐng)域具有豐富的執(zhí)業(yè)經(jīng)驗(yàn)。賈常巍律師曾先后為眾多國(guó)內(nèi)外知名企業(yè)提供上百余起知識(shí)產(chǎn)權(quán)相關(guān)法律服務(wù)，其中代理及參與的訴訟案件多次被各級(jí)法院評(píng)為“知識(shí)產(chǎn)權(quán)典型案例”。賈常巍律師尤其擅長(zhǎng)互聯(lián)網(wǎng)相關(guān)法律業(yè)務(wù)，例如游戲侵權(quán)、互聯(lián)網(wǎng)新型不正當(dāng)競(jìng)爭(zhēng)、電商、新媒體侵權(quán)等各類網(wǎng)絡(luò)侵權(quán)案件，以及網(wǎng)絡(luò)安全、數(shù)據(jù)合規(guī)等相關(guān)法律業(yè)務(wù)。賈常巍律師能夠準(zhǔn)確把握客戶需求，提供行之有效的整體解決方案。同時(shí)，賈常巍律師也密切關(guān)注高速發(fā)展的人工智能等新興領(lǐng)域，經(jīng)常為企業(yè)就相關(guān)問題提供法律意見。周惠珍，北京金誠(chéng)同達(dá) (深圳）律師事務(wù)所實(shí)習(xí)生，中南財(cái)經(jīng)政法大學(xué)法律碩士。
?? 【知產(chǎn)前沿特別推薦】 ??
?? “合規(guī)plus” ??
全行業(yè)合規(guī)領(lǐng)域的新光點(diǎn)！
??時(shí)刻關(guān)注最新的合規(guī)及監(jiān)管動(dòng)態(tài)?? 為您解讀行業(yè)最新政策，助您走在合規(guī)前沿??? 與“知產(chǎn)前沿”媒體矩陣同行，為您的搭建知識(shí)產(chǎn)權(quán)與合規(guī)的雙重保障??立即關(guān)注“合規(guī)plus”，共同開啟合規(guī)新篇章??
掃描下方二維碼添加合規(guī)小助手，加入合規(guī)讀者交流群，更有贈(zèng)書、抽獎(jiǎng)等精彩活動(dòng)！
作者：賈常巍 周惠珍
編輯：Eleven
點(diǎn)擊圖片查看文章
(www.pharmaip.cn)
(www.meddeviceip.com)
(www.caiips.com)
本站僅提供存儲(chǔ)服務(wù)，所有內(nèi)容均由用戶發(fā)布，如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)
點(diǎn)擊舉報(bào)。
