小紅書(shū)平臺的文案，很可能是AI寫(xiě)出來(lái)的——日前有媒體注意到，過(guò)去大半年，該平臺不少博主都開(kāi)始用AI生產(chǎn)圖文內容，有性格測試類(lèi)、知識科普類(lèi)賬號漲粉迅速。Kimi、通義千問(wèn)、文心一言等一眾大模型產(chǎn)品，基本都有專(zhuān)門(mén)針對小紅書(shū)文案的AI撰寫(xiě)能力。

　　這是AI內容在整個(gè)互聯(lián)網(wǎng)內容中占比變大的一個(gè)縮影。隨著(zhù)生成式人工智能（AIGC）蓬勃發(fā)展，AI越來(lái)越“聰明”，可以幫人們承擔更多工作：資訊平臺上，短短幾秒就可以生成一篇文章；短視頻平臺上，從畫(huà)面、字幕到人物的聲音，都可以由AI制作……凡此種種，其影響不得不謹慎評估。

　　去年年底，關(guān)于A(yíng)I創(chuàng )作邊界的討論就已廣泛展開(kāi)。一個(gè)共識是，除了學(xué)術(shù)論文等領(lǐng)域，讓AI做一些輔助工作，由人做最后的把關(guān)與調整，有利于將人從一些基礎、繁瑣的工作中解放出來(lái)。但根據現行相關(guān)規定，至少還要對AI生成內容進(jìn)行顯著(zhù)標識。

　　這么做的必要性有二。其一，幫助其他用戶(hù)區分虛擬與現實(shí)，降低用戶(hù)理解成本；涉及專(zhuān)業(yè)行為等內容時(shí)，標識還相當于風(fēng)險提示。有調查機構研究發(fā)現，AI虛假新聞和信息已開(kāi)始爆發(fā)性增加，背后的動(dòng)機各異，包括依靠?jì)蓸O分化的內容吸引點(diǎn)擊量，獲取廣告收入。也有媒體調查發(fā)現，AI虛假短視頻越來(lái)越普遍，視頻傳播的所謂養生知識、人生哲理等，要么觀(guān)點(diǎn)偏激、要么夾帶廣告“私貨”，具有很強的誤導性，此外，由于反復進(jìn)行訓練，AI內容準確性、個(gè)性化逐步提升，許多內容不再是“一眼假”，危害性不易被察覺(jué)。

　　最近有個(gè)熱門(mén)話(huà)題——關(guān)于“9.11和9.9哪個(gè)大”，記者實(shí)測了ChatGPT以及目前國內的主流大模型，結果12個(gè)大模型中8個(gè)都答錯了，暴露出AI在某些方面的短板。今年3月，兩名律師用AI生成法律文書(shū)，其中的案例卻是假的。專(zhuān)業(yè)人士指出，AI“一本正經(jīng)地胡說(shuō)八道”即AI幻覺(jué)具有普遍性，會(huì )造成知識偏見(jiàn)與誤解，甚至有時(shí)會(huì )導致安全風(fēng)險、倫理和道德問(wèn)題。雖說(shuō)不少平臺明確，發(fā)布者對AI內容產(chǎn)生的相應后果負責，但人難免有失察之時(shí)，有各種各樣的動(dòng)機與僥幸心理，AI有時(shí)也不如我們想象中“聰明”，添加一道“安全門(mén)”很有必要。

　　其二，區分人工內容和AI內容，是避免AI變“笨”的需要。有研究數據表明，使用AI生成的數據訓練超過(guò)5次，模型就會(huì )出現崩潰。如中國工程院院士沈昌祥所說(shuō)，如果讓未經(jīng)證實(shí)的“AI語(yǔ)言”再次進(jìn)入互聯(lián)網(wǎng)，就會(huì )“弄臟”互聯(lián)網(wǎng)，進(jìn)一步被抓取作為訓練AI的語(yǔ)料，AI大模型將會(huì )走向崩潰，陷入“模型自噬”。2023年施行的《生成式人工智能服務(wù)管理暫行辦法》專(zhuān)門(mén)提出要增強訓練數據的真實(shí)性、準確性、客觀(guān)性、多樣性，就是為了避免AI變得封閉、性能下降。隨著(zhù)生成式AI成本越來(lái)越低，AI內容同質(zhì)化等問(wèn)題伴生而來(lái)，保持“數據清潔”需要引起更多重視。