熊貓法律星球WORD插件版發(fā)布 文末添加月半獲??！
生成式人工智能（Generative Artificial Intelligence）（AIGC）是指一類人工智能技術(shù)和算法，其目標(biāo)是通過學(xué)習(xí)和模擬現(xiàn)實(shí)世界的數(shù)據(jù)來生成新的、創(chuàng)造性的內(nèi)容、圖像、聲音或其他形式的信息。生成式人工智能系統(tǒng)能夠分析和理解大規(guī)模的數(shù)據(jù)集，并從中提取模式、規(guī)律和特征，然后利用這些學(xué)習(xí)到的知識生成全新的內(nèi)容。
AIGC作為當(dāng)代社會最具前瞻性和顛覆性的技術(shù)之一，正深刻地影響著人們的生活和工作方式。其核心技術(shù)之一就是算法，它決定了人工智能系統(tǒng)的學(xué)習(xí)能力和推薦效果。然而，隨著算法的廣泛應(yīng)用和智能化進(jìn)程的加速，也帶來了一系列監(jiān)管和治理的挑戰(zhàn)。為了保障算法的透明度、公平性和安全性，各國紛紛加強(qiáng)算法的監(jiān)管措施。2022年3月1日，我國正式上線運(yùn)行了“互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)”，開啟了我國算法監(jiān)管的新里程。
昨日，國家互聯(lián)網(wǎng)信息辦公室公布《生成式人工智能服務(wù)管理暫行辦法》已經(jīng)2023年5月23日2023年第12次室務(wù)會會議審議通過，并經(jīng)國家發(fā)展和改革委員會、教育部、科學(xué)技術(shù)部、工業(yè)和信息化部、公安部、國家廣播電視總局同意，自2023年8月15日起施行。在《生成式人工智能服務(wù)管理暫行辦法》中，算法備案制度備受矚目。作為多維一體的算法監(jiān)管體系的關(guān)鍵環(huán)節(jié)，AIGC企業(yè)備案制度將與算法評估、算法檢查一道，共同推進(jìn)算法治理體系的完善和企業(yè)算法應(yīng)用的合規(guī)。在歐盟，針對大型網(wǎng)絡(luò)平臺和人工智能系統(tǒng)的算法透明度要求日益增加。歐盟委員會通過《數(shù)字服務(wù)法案》對網(wǎng)絡(luò)平臺的算法透明度提出了新的要求，包括在服務(wù)條款中明確公開推薦算法系統(tǒng)的主要參數(shù)和提供算法及數(shù)據(jù)庫的完整解釋。此外，為保障高風(fēng)險(xiǎn)人工智能應(yīng)用的算法透明度，歐盟還規(guī)定了人工智能算法登記備案制度。根據(jù)該制度，高風(fēng)險(xiǎn)人工智能系統(tǒng)投放市場或投入使用之前，提供商或授權(quán)代表需要進(jìn)行登記備案，并要求備案信息在歐盟數(shù)據(jù)庫中可供公眾訪問。美國在算法治理方面分別對企業(yè)和政府機(jī)構(gòu)的算法應(yīng)用進(jìn)行了區(qū)別規(guī)制。針對企業(yè)，主要關(guān)注商業(yè)消費(fèi)領(lǐng)域的算法透明度。例如，科羅拉多州立法規(guī)定禁止保險(xiǎn)公司使用外部消費(fèi)者數(shù)據(jù)和信息源的算法或預(yù)測模型進(jìn)行歧視。美國聯(lián)邦貿(mào)易委員會強(qiáng)調(diào)企業(yè)在應(yīng)用算法時(shí)應(yīng)使用透明框架和獨(dú)立標(biāo)準(zhǔn)，并進(jìn)行定期測試，以確保算法不會基于種族、性別等因素進(jìn)行歧視。在政府應(yīng)用算法方面，為促進(jìn)公眾對政府在決策中使用人工智能和算法技術(shù)的接受和信任，美國對行政機(jī)構(gòu)和國防、情報(bào)部門的算法應(yīng)用進(jìn)行了詳細(xì)規(guī)范。例如，美國行政會議規(guī)定政府機(jī)構(gòu)應(yīng)公開確定算法流程的目標(biāo)及其背后的理由，以促進(jìn)對決策的內(nèi)部或外部審查。美國國防部要求確保算法的透明度和可解釋性，并在可行的范圍內(nèi)使用可理解和可解釋的方法，以便用戶、監(jiān)督者和公眾了解人工智能的輸出如何產(chǎn)生。（3）國內(nèi)監(jiān)管現(xiàn)狀在我國，算法的規(guī)制在一些法律法規(guī)和指導(dǎo)意見中初露端倪?！峨娮由虅?wù)法》第18條首次規(guī)定了禁止“大數(shù)據(jù)殺熟”的行為?！秱€人信息保護(hù)法》將反自動化決策權(quán)納入個人信息保護(hù)體系，要求個人信息處理者保證決策的透明性、公平性和平等交易。《國務(wù)院反壟斷委員會關(guān)于平臺經(jīng)濟(jì)領(lǐng)域的反壟斷指南》明確規(guī)制“算法共謀”導(dǎo)致的壟斷行為。為了加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法的綜合治理，2021年9月，國家互聯(lián)網(wǎng)信息辦公室等九部門發(fā)布了《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，計(jì)劃在三年左右的時(shí)間內(nèi)建立完善的算法安全綜合治理格局。隨后，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，作為我國首部以算法推薦服務(wù)為規(guī)制對象的部門規(guī)章，該規(guī)定旨在規(guī)范通過算法技術(shù)向用戶提供信息的行為，保護(hù)用戶的知情權(quán)、選擇權(quán)、拒絕權(quán)和救濟(jì)權(quán)。其中，算法備案管理作為重要環(huán)節(jié)，要求具有輿論屬性或社會動員能力的算法推薦服務(wù)提供者在備案系統(tǒng)中填報(bào)相關(guān)信息并履行備案手續(xù)。AIGC企業(yè)備案制度的實(shí)施現(xiàn)狀AIGC企業(yè)備案制度作為算法治理體系的關(guān)鍵環(huán)節(jié)，具有重要的意義和作用。首先，它有助于監(jiān)管機(jī)關(guān)系統(tǒng)摸排算法的基本情況，為算法分級分類體系提供基礎(chǔ)性支撐。其次，備案制度可以為公眾提供算法的基本信息和透明度，為未來的公眾算法知情權(quán)提供制度性保障。此外，備案制度還可以督促算法推薦服務(wù)提供者積極進(jìn)行風(fēng)險(xiǎn)評估和全流程記錄，促使運(yùn)營者在算法活動的各個階段考慮算法合規(guī)問題。算法作為個人信息處理者收集和處理數(shù)據(jù)、推送信息、調(diào)配資源的核心力量，一旦泄露將損害國家利益、社會公共利益和公民合法權(quán)益。因此，采取相對溫和但具有強(qiáng)約束力的行政監(jiān)管手段是必要的。在數(shù)字法治的實(shí)踐背景下，AIGC企業(yè)備案制度將擴(kuò)展和適用于更廣泛的領(lǐng)域，并在我國的算法治理體系中發(fā)揮更加重要的作用。《生成式人工智能服務(wù)管理暫行辦法》第十七條 提供具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。根據(jù)《生成式人工智能服務(wù)管理暫行辦法》和《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，具有輿論屬性或社會動員能力的算法推薦服務(wù)提供者需要履行備案手續(xù)。這些備案主體包括開辦論壇、博客、微博客、公眾賬號、短視頻、網(wǎng)絡(luò)直播、信息分享、各類小程序等信息服務(wù)或具有發(fā)動社會公眾從事特定活動能力的其他互聯(lián)網(wǎng)信息服務(wù)。例如，微信、微博、抖音、豆瓣等應(yīng)用都屬于具有輿論屬性或社會動員能力的算法推薦服務(wù)提供者。根據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第二十四條，備案內(nèi)容包括服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評估報(bào)告、擬公示內(nèi)容等信息。
算法備案的主要目的是為了公開和透明算法的基本情況，讓公眾了解算法的應(yīng)用范圍和類型，并提供自評估報(bào)告以評估算法的風(fēng)險(xiǎn)和合規(guī)性。通過備案系統(tǒng)，社會公眾可以查詢備案算法的基本原理和其他相關(guān)信息，從而增加對算法推薦服務(wù)的了解和監(jiān)督。 | | |
| | ·算法安全專職機(jī)構(gòu)名稱及其組織架構(gòu) ·機(jī)構(gòu)負(fù)責(zé)人基本信息和主要工作職責(zé) ·算法安全工作人員的任職要求 ·算法安全工作人員配備的規(guī)模 ·算法安全技術(shù)保障措施 |
| | ·算法自評估的制度設(shè)計(jì)考慮 ·論證制度的合理性、完備性和可落地性 ·為制度執(zhí)行所采取的保障措施 |
| ·信息安全監(jiān)測：信息內(nèi)容安全、信息源安全等方面的監(jiān)測制度與技術(shù)保障措施 ·數(shù)據(jù)安全監(jiān)測：服務(wù)開發(fā)過程中和上線后的數(shù)據(jù)安全監(jiān)測制度與技術(shù)保障措施 ·用戶個人信息安全監(jiān)測：服務(wù)開發(fā)或上線后的用戶個人信息安全監(jiān)測制度與技術(shù)保障措施 ·算法安全監(jiān)測：算法應(yīng)用過程中算法推薦服務(wù)自身的安全監(jiān)測 |
| ·在發(fā)生算法安全事件時(shí)應(yīng)急處置的操作步驟、責(zé)任人、協(xié)調(diào)調(diào)度機(jī)制 |
| ·算法違法違規(guī)處置的情形及實(shí)施處罰的條文規(guī)則 |
| |
根據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，企業(yè)在提供算法服務(wù)后的10個工作日內(nèi)，需通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)進(jìn)行填報(bào)和備案手續(xù)。填報(bào)信息包括算法主體信息、產(chǎn)品及功能信息以及算法信息。算法主體信息涉及服務(wù)提供者的基本信息和備案申請人的聯(lián)系方式等（例如主體基本信息、證件信息、法定代表人信息、算法安全責(zé)任人信息等）。產(chǎn)品及功能信息需要詳細(xì)描述服務(wù)提供者的應(yīng)用產(chǎn)品和功能特點(diǎn)（例如產(chǎn)品功能訪問路徑，路徑下的功能信息等）。算法信息包括算法的類型、算法數(shù)據(jù)、算法模型、算法策略、算法風(fēng)險(xiǎn)、防范機(jī)制、數(shù)據(jù)處理方式等。此外需要填寫《算法安全自評估報(bào)告》、《落實(shí)算法安全主體責(zé)任基本情況》等備案文件。完成備案后，企業(yè)還可以根據(jù)業(yè)務(wù)變化進(jìn)行備案信息的變更或注銷備案。（1）算法備案制度作為算法治理體系的重要組成部分，具有以下幾方面的意義：保護(hù)用戶權(quán)益：通過備案制度，確保算法推薦服務(wù)提供者遵守規(guī)定，保護(hù)用戶的知情權(quán)、選擇權(quán)和拒絕權(quán)，促進(jìn)公眾對算法的信任和接受。促進(jìn)算法透明和安全：備案制度可以迫使算法推薦服務(wù)提供者進(jìn)行風(fēng)險(xiǎn)評估和全流程記錄，加強(qiáng)對算法合規(guī)性的考慮，從而提升算法的透明度和安全性。推動算法治理體系的完善：通過備案制度，監(jiān)管機(jī)關(guān)能夠了解和掌握算法的基本情況，為建立完善的算法分級分類體系提供基礎(chǔ)支撐，推動算法治理體系的不斷完善和發(fā)展。（2）算法備案制度在實(shí)施過程中也面臨一些挑戰(zhàn)：技術(shù)難題：由于算法的復(fù)雜性和快速發(fā)展，如何準(zhǔn)確理解和分類算法類型，以及如何對各類算法進(jìn)行評估和審核，是一個技術(shù)上的挑戰(zhàn)。數(shù)據(jù)隱私和保護(hù)：備案過程涉及大量的數(shù)據(jù)和信息，如何保護(hù)用戶數(shù)據(jù)隱私和商業(yè)秘密，防止數(shù)據(jù)濫用和泄露，是一個重要的挑戰(zhàn)。國際合作與標(biāo)準(zhǔn)統(tǒng)一：算法治理是全球性的挑戰(zhàn)，尤其是跨國企業(yè)，各國之間的法律法規(guī)有所差異，因此需要進(jìn)行合作和交流，制定統(tǒng)一的標(biāo)準(zhǔn)和規(guī)范，以推動全球算法治理體系的協(xié)調(diào)發(fā)展。AIGC企業(yè)備案制度作為我國算法治理體系的重要組成部分，具有重要的意義和作用。它有助于保護(hù)用戶權(quán)益、推進(jìn)算法透明和安全，并推動算法治理體系的完善。然而，實(shí)施備案制度也面臨技術(shù)、隱私保護(hù)和國際合作等挑戰(zhàn)。為了更好地應(yīng)對這些挑戰(zhàn)，需要采取一系列措施：技術(shù)研發(fā)與創(chuàng)新：加強(qiáng)對算法技術(shù)的研發(fā)和創(chuàng)新，提高算法的可解釋性和可控性，以應(yīng)對技術(shù)難題。同時(shí)，鼓勵跨學(xué)科的合作，促進(jìn)算法與倫理、法律、社會科學(xué)等領(lǐng)域的交叉融合，共同探索算法治理的最佳實(shí)踐。加強(qiáng)數(shù)據(jù)隱私保護(hù)：建立健全的數(shù)據(jù)隱私保護(hù)機(jī)制，明確數(shù)據(jù)使用和共享的邊界和權(quán)限，加強(qiáng)對用戶數(shù)據(jù)的合法獲取和使用監(jiān)管，確保算法備案過程中的數(shù)據(jù)隱私保護(hù)措施得到有效執(zhí)行。同時(shí)，加強(qiáng)用戶教育，提高用戶對數(shù)據(jù)隱私保護(hù)的意識和知識，使用戶能夠主動參與和監(jiān)督算法的使用過程。國際合作與標(biāo)準(zhǔn)統(tǒng)一：積極參與國際合作，加強(qiáng)與其他國家和組織的交流與合作，共同研究算法治理的國際標(biāo)準(zhǔn)和最佳實(shí)踐。建立國際合作機(jī)制，促進(jìn)算法治理規(guī)范的共識和互認(rèn)，推動全球算法治理體系的協(xié)調(diào)發(fā)展。加強(qiáng)監(jiān)管與執(zhí)法能力：根據(jù)《生成式人工智能服務(wù)管理暫行辦法》第十九條 ：“有關(guān)主管部門依據(jù)職責(zé)對生成式人工智能服務(wù)開展監(jiān)督檢查，提供者應(yīng)當(dāng)依法予以配合，按要求對訓(xùn)練數(shù)據(jù)來源、規(guī)模、類型、標(biāo)注規(guī)則、算法機(jī)制機(jī)理等予以說明，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。參與生成式人工智能服務(wù)安全評估和監(jiān)督檢查的相關(guān)機(jī)構(gòu)和人員對在履行職責(zé)中知悉的國家秘密、商業(yè)秘密、個人隱私和個人信息應(yīng)當(dāng)依法予以保密，不得泄露或者非法向他人提供?！?/span>因此，建立健全的監(jiān)管機(jī)制和執(zhí)法體系，加強(qiáng)對算法備案制度的監(jiān)督和執(zhí)行力度。加強(qiáng)監(jiān)管部門的技術(shù)能力培養(yǎng)，提高對算法的審查和評估能力，確保備案制度的有效實(shí)施和執(zhí)行。通過以上措施的實(shí)施，AIGC企業(yè)備案制度可以更好地發(fā)揮作用，促進(jìn)算法治理的透明、公平和安全，為社會提供更可靠的算法推薦服務(wù)，推動人工智能技術(shù)的可持續(xù)發(fā)展和社會進(jìn)步。同時(shí)，也需要不斷總結(jié)經(jīng)驗(yàn)和教訓(xùn)，及時(shí)調(diào)整和完善制度，以適應(yīng)技術(shù)和社會的發(fā)展變化，推動算法治理體系的不斷優(yōu)化和升級。
本站僅提供存儲服務(wù)，所有內(nèi)容均由用戶發(fā)布，如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請
點(diǎn)擊舉報(bào)。
