4月27日，小紅書(shū)首次公布平臺(tái)對(duì)AI內(nèi)容的治理主張，并在北京舉辦首屆AI治理開(kāi)放日。此次AI治理主張共分為“平臺(tái)鼓勵(lì)的AI內(nèi)容及行為”和“平臺(tái)反對(duì)的AI內(nèi)容及行為”兩大板塊，以給到創(chuàng)作者清晰指引。

小紅書(shū)明確了對(duì)待AI相關(guān)現(xiàn)象的核心態(tài)度：鼓勵(lì)A(yù)I作為創(chuàng)意放大器，反對(duì)AI作為造假工具與低質(zhì)內(nèi)容生產(chǎn)機(jī)器，所有AI參與創(chuàng)作的內(nèi)容均需主動(dòng)標(biāo)識(shí)。

鼓勵(lì)A(yù)I成為創(chuàng)作者的創(chuàng)意放大器

溝通會(huì)上，小紅書(shū)首次明確“平臺(tái)鼓勵(lì)什么”？核心指向一類內(nèi)容：創(chuàng)作者以AI為創(chuàng)意的放大器，生產(chǎn)出的有審美、有敘事、有真實(shí)信息增量的優(yōu)質(zhì)內(nèi)容。具體來(lái)說(shuō)，小紅書(shū)歡迎創(chuàng)作者用AI做這幾件事：

一、是利用AI提升作品的信息價(jià)值，例如將復(fù)雜知識(shí)變得更具可視化的科普內(nèi)容，讓難懂的信息變得直觀易懂；

二、是利用AI創(chuàng)作有辨識(shí)度的虛擬角色，或?qū)σ延蠭P進(jìn)行有亮點(diǎn)的二次創(chuàng)作；

三、是借助AI進(jìn)行視覺(jué)創(chuàng)作，產(chǎn)出有審美、有敘事的好作品，包括藝術(shù)插畫(huà)、繪畫(huà)，以及具備劇情邏輯的電影感短片。

 

小紅書(shū)AI治理主張摘錄

 “發(fā)布AI治理主張不是為了限制創(chuàng)作，而是為了給創(chuàng)作者提供更清晰的方向?！?小紅書(shū)用戶信任中心負(fù)責(zé)人吉吉表示。

在小紅書(shū)鼓勵(lì)的方向上，也已經(jīng)有不少創(chuàng)作者探索出了有價(jià)值的AI創(chuàng)作路徑。央美國(guó)畫(huà)畢業(yè)生@一方畫(huà)貓呢 就是其中之一。她專攻宋代院體畫(huà)，一幅作品需要近一個(gè)月的精細(xì)打磨，但在AI出現(xiàn)之前，因?yàn)槿鄙賱?dòng)畫(huà)制作能力，這些靜態(tài)的精美畫(huà)作無(wú)法被更生動(dòng)地呈現(xiàn)，如今，AI幫她突破了“畫(huà)不能動(dòng)”的技術(shù)瓶頸?！爱?dāng)我畫(huà)的小龍貓可以實(shí)現(xiàn)穿云而過(guò)的效果，一下子感覺(jué)來(lái)了一個(gè)動(dòng)畫(huà)團(tuán)隊(duì)?！币环皆陂_(kāi)放日現(xiàn)場(chǎng)分享道。在她看來(lái)，AI是創(chuàng)作最后階段的視覺(jué)效果放大器，而畫(huà)面的原創(chuàng)性、核心想法和每一筆手繪，仍然由自己完成。

此外，AI治理主張再次強(qiáng)調(diào)了創(chuàng)作者應(yīng)對(duì)AI參與創(chuàng)作的內(nèi)容進(jìn)行主動(dòng)標(biāo)識(shí)，未進(jìn)行標(biāo)識(shí)的AI內(nèi)容，平臺(tái)將在識(shí)別后統(tǒng)一添加AI標(biāo)識(shí)貼條。

吉吉向雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))表示：鼓勵(lì)A(yù)I標(biāo)識(shí)是為了保障用戶的知情權(quán)，非違規(guī)內(nèi)容，AI貼條不會(huì)影響流量。目前，小紅書(shū)已上線針對(duì)AI筆記貼條的申訴通道，創(chuàng)作者如果對(duì)AI貼條有異議，可通過(guò)該通道反饋。

 

堅(jiān)決反對(duì)破壞社區(qū)真實(shí)底色的AI行為

在明確“鼓勵(lì)的AI內(nèi)容”的同時(shí)，小紅書(shū)也梳理出了四類平臺(tái)反對(duì)的AI行為：利用AI違規(guī)運(yùn)營(yíng)、利用AI造假、利用AI侵權(quán)，以及利用AI進(jìn)行低質(zhì)創(chuàng)作。

具體來(lái)說(shuō)，平臺(tái)反對(duì)利用AI全自動(dòng)托管賬號(hào)、AI教唆做號(hào)等擾亂社區(qū)秩序的行為；反對(duì)AI造假行為，包括利用AI仿冒名人、虛構(gòu)人設(shè)、偽造個(gè)人經(jīng)歷、編造虛假信息，或是惡搞經(jīng)典作品、借熱點(diǎn)進(jìn)行低質(zhì)營(yíng)銷；反對(duì)利用AI侵犯肖像權(quán)、著作權(quán)的行為；也反對(duì)利用AI批量生產(chǎn)同質(zhì)化內(nèi)容、生成獵奇博眼球的極端畫(huà)面，或是傳播不良價(jià)值觀等低質(zhì)創(chuàng)作行為。

 

 “小紅書(shū)社區(qū)是真實(shí)的人與人之間的連接。AI侵權(quán)、AI造假等行為破壞了社區(qū)真誠(chéng)分享的基礎(chǔ)，也擠壓了真實(shí)創(chuàng)作者的空間。” 吉吉在分享中表示，平臺(tái)會(huì)根據(jù)違規(guī)程度采取梯度處理，包括限制曝光、警告、封禁等；對(duì)于明確由AI托管運(yùn)營(yíng)、無(wú)真實(shí)人類參與的賬號(hào)，平臺(tái)將予以封禁。

據(jù)悉，今年以來(lái)，小紅書(shū)累計(jì)處置各類AI不良行為超百萬(wàn)例，其中AI托管賬號(hào)超80萬(wàn)個(gè)、AI造假筆記近15萬(wàn)篇。

與此同時(shí)，小紅書(shū)在AI治理上持續(xù)加碼：1月19日發(fā)布《社區(qū)公約2.0》，明確反對(duì)虛假，鼓勵(lì)用戶對(duì)AI內(nèi)容進(jìn)行主動(dòng)標(biāo)識(shí)；2月12日發(fā)布加強(qiáng)自主標(biāo)記AI生成合成標(biāo)識(shí)的公告；3月10日發(fā)布打擊AI托管運(yùn)營(yíng)賬號(hào)的治理公告；4月27日首次完整輸出AI治理主張，形成對(duì)創(chuàng)作者和用戶的完整指引。

對(duì)小紅書(shū)而言，此次AI治理主張的發(fā)布，既是社區(qū)“真誠(chéng)分享”價(jià)值觀在AI時(shí)代的延續(xù)，也是和社區(qū)內(nèi)創(chuàng)作者們的一次有效溝通。當(dāng)越來(lái)越多平臺(tái)開(kāi)始思考與AI的距離，內(nèi)容生態(tài)才有可能在技術(shù)進(jìn)步中守住“人”的價(jià)值。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。