【光明論壇】

　　作者：馬麗霞（中國科學院大學經(jīng)濟與管理學院高級工程師；汪壽陽，系中國科學院預測科學研究中心主任）

　　“加快發(fā)展數(shù)字經(jīng)濟，促進數(shù)字經(jīng)濟和實體經(jīng)濟深度融合”“構建新一代信息技術、人工智能、生物技術、新能源、新材料、高端裝備、綠色環(huán)保等一批新的增長引擎”，黨的二十大報告的重要部署，為以人工智能等新興技術驅(qū)動數(shù)字經(jīng)濟發(fā)展提供了重要遵循。作為人工智能領域的創(chuàng)新應用，深度合成近年來風頭正勁，AI語音助手、虛擬人、數(shù)字人、AR購物、影像修復等在文藝、傳媒、醫(yī)療、社交等多個領域造福著社會，成為促進數(shù)字經(jīng)濟“虛實融合”的關鍵性技術。

　　不過，正如很多科技突破都帶來了意想不到的“副產(chǎn)品”，深度合成在展露出可觀經(jīng)濟價值的同時，也暴露出破壞性“潛力”，通過深度合成偽造的視頻、音頻進行誣陷、誹謗、詐騙、勒索等違法行為近年來層出不窮。尤其在互聯(lián)網(wǎng)經(jīng)濟領域，深度合成技術能夠生成真?zhèn)坞y辨的虛假信息，帶來身份認證、信息存儲等環(huán)節(jié)的技術難題，導致數(shù)字經(jīng)濟發(fā)展面臨新的安全隱患。要求加強監(jiān)管的呼聲近年來日漸高漲。

　　為促進深度合成技術向上向善發(fā)展，世界各國紛紛出臺法律法規(guī)，對深度合成技術進行規(guī)約。在《網(wǎng)絡信息內(nèi)容生態(tài)治理規(guī)定》《網(wǎng)絡音視頻信息服務管理規(guī)定》等規(guī)章的基礎上，近日，國家網(wǎng)信辦等三部門聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，并于今年1月10日起正式實施，其中明確了深度合成內(nèi)容的用途、標記、使用范圍以及濫用處罰，這意味著深度合成將迎來規(guī)范化發(fā)展的關鍵期。為新興技術劃定適當?shù)氖褂每蚣苁且豁棥凹夹g活”，容易陷入一管就死、一放就亂的困局。如何推動智能技術向善發(fā)展，最大限度地趨利避害，還需從幾個方向持續(xù)發(fā)力——

　　促進深度合成技術向善發(fā)展，需完善規(guī)則，強化技術風險防控的法治保障。應當圍繞國家信息安全和數(shù)字經(jīng)濟安全、社會治理以及保護公民合法權益，對深度合成服務劃定合理開發(fā)使用的“綠線”和禁止性的“紅線”，建立分級分類制度。一方面，加大深度合成服務應用程序推廣前的審核力度，尤其是高風險產(chǎn)品和服務，確保技術應用的服務形式和服務范圍符合國家有關規(guī)定。另一方面，要明確互聯(lián)網(wǎng)平臺尤其是社交媒體的內(nèi)容審核義務，推動其建立虛假消息篩查機制，禁止上傳可能危害國家安全或造成負面社會影響的深度合成制品。此外，還要充分賦予用戶知情權和選擇權，通過用戶“投票”倒逼行業(yè)各類不規(guī)范行為的整治。

　　促進深度合成技術向善發(fā)展，需構建體系，實現(xiàn)技術應用安全的常態(tài)化監(jiān)管。在以人工智能新興技術為主的算法服務安全應用監(jiān)管中，普遍存在各主體之間權責不明確、數(shù)據(jù)信息傳遞過程不可控和缺乏社會監(jiān)督等問題，亟須明確責任主體，貫徹常態(tài)化信息監(jiān)管措施。首先，要確定深度合成服務提供者和使用者的主體責任，厘清界限，激活市場主動規(guī)約的積極性，使信息內(nèi)容的生產(chǎn)源頭公開透明、權責分配公正公平。其次，要對深度合成內(nèi)容進行合成前、合成后、發(fā)布后和傳播后的全流程監(jiān)管，追蹤合成內(nèi)容的真實性，控制信息傳遞的風險。再次，要完善深度合成技術的應用體系，引入理性中立的第三方專業(yè)機構，完善行業(yè)標準，推動行業(yè)自律。最后，還應暢通用戶投訴、舉報渠道，確保以主流價值觀為引領，強化信息內(nèi)容的安全規(guī)范。

　　促進深度合成技術向善發(fā)展，還需探索機制，提升技術風險治理的整體水平。新興技術的敏捷、精準治理，需要多方合力、多措并舉，構建多方協(xié)同治理模式。對于政府部門，要推動從傳統(tǒng)管理向“包容審慎”治理轉(zhuǎn)變，倡導有所為有所不為，給予新技術必要的發(fā)展時間與試錯空間，以更為靈活的治理方式適應數(shù)字經(jīng)濟的發(fā)展特點。對于從業(yè)人員，要加強科技倫理教育和法律法規(guī)培訓，建立系統(tǒng)性的科技倫理人才培養(yǎng)體系，鼓勵開展深度合成與深度檢測的技術對抗演練，以技術之道還治技術之險，從源頭防范深度合成的安全應用風險。對于公眾，要加強新興技術科普教育特別是對特定群體數(shù)字鴻溝的彌合，提升技術應用在公眾中的透明度，增強公眾對合成媒體防偽的警惕度和辨識能力。在全球經(jīng)濟復蘇的當下，相信深度合成等新興人工智能技術必將邁著更加穩(wěn)健的步伐迎接一個全面數(shù)字化的世界。