國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》(以下稱《辦法》),自2023年8月15日起施行,成為國家首次針對于當下爆火的生成式人工智能(生成式AI,或AIGC)產(chǎn)業(yè)發(fā)布規(guī)范性政策。
《辦法》提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則,采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展,對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管,明確了提供和使用生成式人工智能服務(wù)總體要求。
同時,《辦法》提出了促進生成式人工智能技術(shù)發(fā)展的具體措施,明確了訓(xùn)練數(shù)據(jù)處理活動和數(shù)據(jù)標注等要求;規(guī)定了生成式人工智能服務(wù)規(guī)范,明確生成式人工智能服務(wù)提供者應(yīng)當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù),按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進行標識,發(fā)現(xiàn)違法內(nèi)容應(yīng)當及時采取處置措施等。
此外,《辦法》還規(guī)定了安全評估、算法備案、投訴舉報等制度,明確了法律責(zé)任。
4月11日,國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《關(guān)于<生成式人工智能服務(wù)管理辦法(征求意見稿)>公開征求意見的通知》(參考文章:《重磅!首個國家AIGC監(jiān)管文件,生成式AI服務(wù)管理辦法公布征求意見稿》)。今日,定稿版的《辦法》在意見稿的基礎(chǔ)上做了一定程度的修訂和優(yōu)化。
《生成式人工智能服務(wù)管理暫行辦法》全文內(nèi)容
我國的人工智能產(chǎn)業(yè)集群表現(xiàn)為新型創(chuàng)新區(qū)→城市→區(qū)域→全國→全球的空間結(jié)構(gòu)特征,依托狹小的物理空間打造無限的網(wǎng)絡(luò)空間產(chǎn)業(yè)創(chuàng)新生態(tài)
增進人類福祉:以人為本,可持續(xù)性;尊重生命權(quán)利:合作,隱私;堅持公平公正:公平,共享;合理控制風(fēng)險:共享;合理控制風(fēng)險:外部安全,內(nèi)部安全
《新一代人工智能發(fā)展規(guī)劃》,《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃(2018-2020年)》,《關(guān)于加強科技倫理治理的意見》,《中國關(guān)于加強人工智能倫理治理的立場文件》
《算法透明性和可問責(zé)性的聲明》,《2018年惡意偽造禁令法案》,《美國人工智能倡議》,《國家人工智能研究與發(fā)展戰(zhàn)略計劃》,《2019年深度偽造報告法案》
從技術(shù)合作關(guān)系的密度看,北京市,廣東省和上海市構(gòu)成了人工智能產(chǎn)業(yè)集群網(wǎng)絡(luò)結(jié)構(gòu)的三個極點;北京,廣東,上海,江蘇,安微,四川,湖北,湖南,重慶,山東和福建之間存在密集的人工智能技術(shù)合作關(guān)系
排第一的是長江三角洲地區(qū),占比 30.95%;排第二的是京津 冀地區(qū),占比 29.36%;排第三的是珠江三角洲地區(qū),占比 26.45%;排第四的是川渝地區(qū),占比 3.55%
構(gòu)成具有全球競爭力人工智能產(chǎn)業(yè)集群的首要因素是企業(yè)簇群及其產(chǎn)業(yè)創(chuàng)新生態(tài);人工智能產(chǎn)業(yè)集群發(fā)展所倚重的科技創(chuàng)新要素不僅包括數(shù)據(jù)生態(tài) 算力 算法和人才
劉剛教授發(fā)布了《中國新一代人工智能科技產(chǎn)業(yè)發(fā)展 2023》人工智能企業(yè)及其創(chuàng)新活動構(gòu)成了人工智能產(chǎn)業(yè)集群發(fā)展的微觀基礎(chǔ),我國人工智能企業(yè)數(shù)量超過3000家
模型規(guī)模增長產(chǎn)生了接近人類的高級能力,通用人工智能或?qū)⒌絹?有人類參與的指令微調(diào)技術(shù)是近年來人工智能的另一 大技術(shù)特點
人工智能與實體經(jīng)濟融合發(fā)展,推動了相關(guān)產(chǎn)品服務(wù)的新一輪變革;人工智能作為助手融入新領(lǐng)域,極大豐富了人們的數(shù)字生活
網(wǎng)絡(luò)安全基本屬性;透明性,實現(xiàn)人工智能開發(fā)過程的可審計以及可追溯;可解釋性,可被人理解其運行邏輯的特性;公平性,保證處理結(jié)果的公正 中立
用戶數(shù)據(jù)用于訓(xùn)練,放大隱私信息泄露風(fēng)險;算法模型日趨復(fù)雜,可解釋性目標難實現(xiàn);可靠性問題仍然制約人工智能關(guān)鍵領(lǐng)域應(yīng)用