“清朗·整治AI技術濫用 ”專項行動自2025年4月啟動以來 ，中央網(wǎng)信辦聚焦AI換臉擬聲侵犯公眾權益、AI內(nèi)容標識缺失誤導公眾等AI技術濫用亂象
，深入推進第一階段重點整治任務，部署各地網(wǎng)信部門加大違規(guī)AI產(chǎn)品處置力度 ，切斷違規(guī)產(chǎn)品營銷引流渠道
，督促重點網(wǎng)站平臺健全技術安全保障措施，推動生成合成內(nèi)容標識加速落地 。第一階段累計處置違規(guī)小程序 、應用程序
、智能體等AI產(chǎn)品3500余款 ，清理違法違規(guī)信息96萬余條
，處置賬號3700余個，各項工作取得積極進展
。

　　各地網(wǎng)信部門多措并舉 ，扎實推進，積極履行屬地管理責任。北京網(wǎng)信辦開設AI技術濫用治理舉報渠道
，形成“用戶標記—平臺核查—聯(lián)合處置
”工作模式，處置有關舉報26篇 。上海網(wǎng)信辦推動標識要求落地示范 ，組織開展4場法規(guī)宣貫和專題交流
，覆蓋企業(yè)400余家，屬地內(nèi)重點企業(yè)已基本完成顯式標識規(guī)范上線
。浙江網(wǎng)信辦加大對屬地AI應用和網(wǎng)站平臺的督導力度 ，各平臺共攔截清理各類違法違規(guī)信息及提問2550萬余條。江蘇網(wǎng)信辦加強統(tǒng)籌協(xié)調(diào)
，聯(lián)合省通信管理局等部門排查AI風險域名163個，封堵和取消接入域名18個 。天津網(wǎng)信辦采用“人工+技術”方式 ，開展大模型安全監(jiān)測
，通報4批次14個風險問題
。

　　重點網(wǎng)站平臺積極履行主體管理責任，加強AI技術濫用源頭治理。在處置違規(guī)AI產(chǎn)品方面 ，騰訊規(guī)范應用程序管理
，提高準入門檻，優(yōu)化巡查機制 ，駁回、處置違規(guī)小程序 、應用程序等共計570余款 。在清理違規(guī)AI產(chǎn)品教程和商品方面，微博通過策略識別
、用戶舉報等多渠道審核
，累計處置違規(guī)內(nèi)容4800余條，并公布典型案例。在加強訓練語料管理方面 ，通義平臺圍繞數(shù)據(jù)生命周期建立安全管理體系
，在數(shù)據(jù)采集、訓練 、使用等階段加強訓練語料管理
。在強化安全管理措施方面，抖音建立“紅藍對抗 ”機制 ，模擬攻擊案例
，修復潛在安全漏洞，優(yōu)化模型對虛假信息的識別能力。在落實內(nèi)容標識要求方面 ，阿里
、快手、稀宇等重點平臺積極推進元數(shù)據(jù)隱式標識落地落實 。在防范重點領域安全風險方面
，小紅書在模型后置訓練階段輸入專業(yè)領域數(shù)據(jù)，提升模型對醫(yī)療 、金融、未成年人等重點領域問題的理解能力
。

　　下一步 ，中央網(wǎng)信辦將聚焦AI造謠
、低俗內(nèi)容等7類突出問題
，開展“清朗·整治AI技術濫用
”專項行動第二階段工作，構建技術監(jiān)測體系 ，形成處置處罰規(guī)范，推動內(nèi)容標識如期落地
，形成長效工作機制，著力維護清朗網(wǎng)絡生態(tài) ，推動人工智能向善向好。