近期，中央展清治中央網(wǎng)信辦組織開展“清朗·整治AI應(yīng)用亂象”專項(xiàng)行動(dòng)第二階段工作，網(wǎng)信聚焦利用AI製作發(fā)布虛假信息、辦深傳播暴力低俗內(nèi)容、入開假冒仿冒他人、朗整侵害未成年人權(quán)益等突出問題，應(yīng)用亂部署各地網(wǎng)信部門深入推進(jìn)重點(diǎn)整治任務(wù)，象專項(xiàng)行督促網(wǎng)站平臺(tái)集中清理AI生成各類違法不良信息，動(dòng)第依法查處違規(guī)賬號(hào)和移動(dòng)應(yīng)用程序，階段有效遏製AI生成合成信息內(nèi)容亂象，工作推動(dòng)AI應(yīng)用服務(wù)健康有序發(fā)展。中央展清治截至目前，網(wǎng)信累計(jì)清理違法違規(guī)信息561萬(wàn)餘條，辦深查處賬號(hào)4.9萬(wàn)餘個(gè)，入開處置違規(guī)網(wǎng)站、朗整應(yīng)用程序等2400餘個(gè)。

　　專項(xiàng)行動(dòng)開展以來，各地網(wǎng)信部門切實(shí)履行屬地監(jiān)管責(zé)任，因地製宜推出一係列針對(duì)性治理措施。北京網(wǎng)信辦指導(dǎo)網(wǎng)站平臺(tái)全麵升級(jí)審核策略，持續(xù)提升違規(guī)內(nèi)容新型變體識(shí)別處置能力。上海網(wǎng)信辦督促平臺(tái)深入開展自查自糾，加大違法違規(guī)信息和賬號(hào)查處力度，推出AI應(yīng)用“知識(shí)普及包”引導(dǎo)公眾識(shí)別問題風(fēng)險(xiǎn)。浙江網(wǎng)信辦對(duì)屬地重點(diǎn)平臺(tái)開展“一企一策”問診進(jìn)行合規(guī)指導(dǎo)，督促完善內(nèi)控體係，依法查處一批問題突出的AI應(yīng)用軟件。廣東網(wǎng)信辦召開重點(diǎn)網(wǎng)站平臺(tái)工作例會(huì)，對(duì)多款應(yīng)用違規(guī)問題開展點(diǎn)對(duì)點(diǎn)督促整改，確保專項(xiàng)行動(dòng)取得實(shí)效。

　　網(wǎng)站平臺(tái)積極響應(yīng)專項(xiàng)行動(dòng)部署安排，持續(xù)健全AI內(nèi)容常態(tài)化治理機(jī)製。抖音、快手、微博、騰訊、百度、嗶哩嗶哩、小紅書、知乎、豆瓣、淘寶等平臺(tái)進(jìn)一步強(qiáng)化技術(shù)賦能，優(yōu)化多模態(tài)識(shí)別模型，動(dòng)態(tài)擴(kuò)充人臉庫(kù)、聲紋庫(kù)和違規(guī)樣本庫(kù)，上線人臉實(shí)時(shí)治理係統(tǒng)等功能措施，提升違規(guī)內(nèi)容智能檢測(cè)和攔截效率，加大對(duì)違規(guī)賬號(hào)、信息處置力度，暢通線索舉報(bào)渠道，累計(jì)發(fā)布各類治理公告46期。豆包、元寶、千問、文心一言等平臺(tái)嚴(yán)把原始語(yǔ)料內(nèi)容審核關(guān)，嚴(yán)格限製違規(guī)內(nèi)容輸出，強(qiáng)化AI生成合成內(nèi)容標(biāo)識(shí)要求落地，從源頭防範(fàn)違法違規(guī)信息生成傳播。華為、小米、OPPO、vivo等應(yīng)用商店製定嚴(yán)格的APP開發(fā)者準(zhǔn)入規(guī)範(fàn)和上架要求，對(duì)在架APP進(jìn)行抽檢複測(cè)，有效攔截違規(guī)應(yīng)用入庫(kù)。

　　專項(xiàng)行動(dòng)期間，一批違法違規(guī)賬號(hào)和應(yīng)用受到處理。為進(jìn)一步加強(qiáng)警示教育，現(xiàn)將部分典型案例通報(bào)如下：

　　1.利用AI“魔改”經(jīng)典、生成“數(shù)字泔水”。微博賬號(hào)“天**小”、抖音賬號(hào)“歪**國(guó)”、快手賬號(hào)“小*菌”、微信賬號(hào)“鹹*i”等，濫用AI技術(shù)“魔改”《三國(guó)演義》《西遊記》等經(jīng)典名著，顛覆重要人物人設(shè)，虛構(gòu)低質(zhì)獵奇劇情博取流量。相關(guān)賬號(hào)已被依法依約處置。

　　2.AI製作發(fā)布虛假不實(shí)信息。快手賬號(hào)“雲(yún)**視”、小紅書賬號(hào)“有*頭”、抖音賬號(hào)“7**員”、微信賬號(hào)“長(zhǎng)**帆”等，利用AI生成合成虛假災(zāi)害現(xiàn)場(chǎng)、救援畫麵，編造不實(shí)社會(huì)熱點(diǎn)信息，發(fā)布封建迷信內(nèi)容，打造AI數(shù)字人進(jìn)行虛假宣傳帶貨，誤導(dǎo)老年人，製造恐慌情緒。相關(guān)賬號(hào)已被依法依約處置。

　　3.AI假冒仿冒他人。抖音賬號(hào)“特**力”、快手賬號(hào)“石*”、小紅書賬號(hào)“潮**件”、微信賬號(hào)“M**勒”等，利用AI“換臉”“換聲”等技術(shù)，假冒仿冒公眾人物形象，生成合成低俗舞蹈、擁抱接吻等圖片視頻，借機(jī)營(yíng)銷牟利。相關(guān)賬號(hào)已被依法依約處置。

　　4.製作發(fā)布暴力低俗等信息。嗶哩嗶哩賬號(hào)“帶**著”、抖音賬號(hào)“波**C”、快手賬號(hào)“蝦**詭”、微信賬號(hào)“星**7”等，批量發(fā)布AI生成合成的含有恐怖詭異、暴力低俗等畫麵內(nèi)容。相關(guān)賬號(hào)已被依法依約處置。

　　5.AI侵害未成年人權(quán)益。小紅書賬號(hào)“小**娃”、微信賬號(hào)“豆*a”、抖音賬號(hào)“半**曆”、快手賬號(hào)“若**雪”等，發(fā)布AI生成合成未成年人懷孕、打架等與其年齡特點(diǎn)不符的內(nèi)容，批量製作傳播“毒動(dòng)畫”、兒童“虐向”“邪典”視頻，傷害、惡搞未成年人形象，影響未成年人身心健康。相關(guān)賬號(hào)已被依法依約處置。

　　6.利用AI“托管”從事網(wǎng)絡(luò)水軍活動(dòng)。微信賬號(hào)“濤**客”、微博賬號(hào)“A**師”、抖音賬號(hào)“風(fēng)*”等，為AI“托管”軟件引流，模擬真人運(yùn)營(yíng)賬號(hào)、評(píng)論互動(dòng)，生成大量低質(zhì)同質(zhì)文案。相關(guān)賬號(hào)已被依法依約處置。

　　7.AI產(chǎn)品服務(wù)和應(yīng)用程序違規(guī)。“N**t”“穿**元”“甜*圈”“芋**o”等網(wǎng)站平臺(tái)多個(gè)智能體封麵、簡(jiǎn)介和生成對(duì)話中含有淫穢色情及其他危害未成年人身心健康的信息，嚴(yán)重破壞網(wǎng)絡(luò)生態(tài)。對(duì)拒不改正的，依法予以查處，按程序采取警告、罰款、下架或關(guān)閉等措施。

　　下一步，網(wǎng)信部門將在總結(jié)專項(xiàng)行動(dòng)治理成效的基礎(chǔ)上，進(jìn)一步把握人工智能發(fā)展趨勢(shì)和規(guī)律，密切關(guān)注AI生成合成內(nèi)容新情況新風(fēng)險(xiǎn)，及時(shí)采取有效措施防範(fàn)AI技術(shù)濫用惡用，持續(xù)為人工智能創(chuàng)新發(fā)展?fàn)I造良好環(huán)境。