2023年4月,國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《生成式人工智能服務管理暫行辦法(征求意見稿)》,旨在促進生成式人工智能(AIGC)技術(shù)的健康發(fā)展與規(guī)范應用。對于從事計算機信息技術(shù)咨詢服務的專業(yè)人士而言,這不僅是一份監(jiān)管文件,更是一張理解未來技術(shù)應用合規(guī)框架的路線圖。以下將從咨詢服務的專業(yè)視角,對該辦法的核心要點進行梳理與解讀。
一、 核心目標:發(fā)展與安全并重
《辦法》開宗明義,其首要目標是“促進生成式人工智能健康發(fā)展和規(guī)范應用”。這體現(xiàn)了“在發(fā)展中規(guī)范,在規(guī)范中發(fā)展”的總體思路。對于技術(shù)咨詢服務而言,這意味著在為客戶規(guī)劃AIGC技術(shù)路線、設(shè)計應用方案時,必須將“安全可控”與“創(chuàng)新賦能”置于同等重要的位置,幫助客戶建立兼顧效能與合規(guī)的技術(shù)治理體系。
二、 適用范圍界定:聚焦“向公眾提供服務”
《辦法》明確了其規(guī)范對象是“利用生成式人工智能技術(shù)向中華人民共和國境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務”。這為咨詢服務提供了清晰的界定:
- 若客戶的業(yè)務是研發(fā)底層模型供自身使用或定向合作,其合規(guī)重點可能更偏向數(shù)據(jù)安全與算法倫理內(nèi)部治理。
- 若客戶的業(yè)務是面向公眾提供AIGC工具或集成服務(如營銷文案生成、設(shè)計素材生成、智能客服等),則必須全面適用本辦法的各項要求。咨詢服務需要據(jù)此為客戶提供差異化的合規(guī)策略。
三、 服務提供者的主體責任:全鏈條合規(guī)義務
《辦法》為服務提供者設(shè)定了一系列貫穿訓練、運行、服務全鏈條的義務,這是咨詢服務需要協(xié)助客戶構(gòu)建的核心合規(guī)框架:
- 數(shù)據(jù)來源合規(guī):訓練數(shù)據(jù)必須合法,不得侵犯知識產(chǎn)權(quán),并需采取有效措施保障個人信息權(quán)益。咨詢服務應協(xié)助客戶建立數(shù)據(jù)來源審核與版權(quán)治理機制。
- 內(nèi)容安全與算法透明:必須采取有效措施防止生成歧視性、虛假有害信息。鼓勵提升生成內(nèi)容的準確性與可靠性。這意味著在技術(shù)方案中需內(nèi)置內(nèi)容過濾、事實核查等安全層,并對算法機制有一定程度的可解釋性設(shè)計。
- 用戶權(quán)益保護:明確要求提供者保護用戶輸入信息和使用記錄,不得非法留存、泄露。需建立用戶身份認證機制,并為用戶提供投訴舉報渠道。咨詢服務可幫助設(shè)計相應的數(shù)據(jù)生命周期管理方案與用戶服務體系。
- 標識義務:生成內(nèi)容需進行標識。這對于所有集成AIGC功能的應用(如寫作助手、設(shè)計軟件)都是必須履行的程序性要求,需要在產(chǎn)品設(shè)計中予以實現(xiàn)。
四、 對計算機信息技術(shù)咨詢服務的影響與機遇
- 新增專業(yè)服務需求:客戶將迫切需要咨詢服務來解讀法規(guī)、進行合規(guī)差距分析、設(shè)計并實施合規(guī)技術(shù)方案(如數(shù)據(jù)治理、內(nèi)容安全過濾系統(tǒng)、用戶權(quán)益保護機制)。這開辟了全新的“技術(shù)+合規(guī)”咨詢服務市場。
- 技術(shù)方案設(shè)計升級:未來的AIGC應用解決方案,必須將監(jiān)管要求作為核心架構(gòu)要素。咨詢服務需要從單純的技術(shù)選型與實施,轉(zhuǎn)向提供“技術(shù)-業(yè)務-合規(guī)”一體化的綜合解決方案。
- 風險咨詢價值凸顯:幫助客戶評估AIGC應用的法律風險、倫理風險與社會風險,制定風險緩解預案,將成為高價值的專業(yè)服務。
- 促進產(chǎn)業(yè)生態(tài)優(yōu)化:《辦法》鼓勵采用安全可信的芯片、工具、算力和數(shù)據(jù)資源。咨詢服務可借此引導客戶構(gòu)建更自主可控、安全可信的技術(shù)棧,推動產(chǎn)業(yè)鏈的健康發(fā)展。
五、 行動建議
對于信息技術(shù)咨詢服務提供者及他們的客戶,當前階段應:
- 深入學習與研究:組織團隊精研《辦法》條文,關(guān)注其正式發(fā)布版本及后續(xù)配套細則。
- 開展合規(guī)自查:對現(xiàn)有或計劃中的涉及AIGC的業(yè)務項目進行全面的合規(guī)評估。
- 規(guī)劃合規(guī)架構(gòu):將數(shù)據(jù)治理、算法審核、內(nèi)容安全、用戶保護等要求,提前融入技術(shù)架構(gòu)與產(chǎn)品設(shè)計藍圖。
- 建立協(xié)同機制:在企業(yè)內(nèi)部,推動技術(shù)研發(fā)、法務、風控、業(yè)務部門的協(xié)同工作模式,以共同應對AIGC帶來的綜合挑戰(zhàn)。
《生成式人工智能服務管理暫行辦法(征求意見稿)》的出臺,標志著我國AIGC領(lǐng)域進入了“有序創(chuàng)新”的新階段。對于計算機信息技術(shù)咨詢行業(yè)而言,這不僅是必須遵循的規(guī)范,更是驅(qū)動服務升級、創(chuàng)造新價值的重要機遇。主動理解、適應并幫助客戶駕馭這一監(jiān)管框架,將是專業(yè)服務者在人工智能時代構(gòu)建核心競爭力的關(guān)鍵所在。
如若轉(zhuǎn)載,請注明出處:http://www.baumatic.com.cn/product/74.html
更新時間:2026-03-09 12:01:58