劃重點(diǎn):

?? 平臺(tái)嚴(yán)格處罰不當(dāng)使用 AI 生成虛擬人物發(fā)表違規(guī)內(nèi)容

?? 違規(guī)行為包含消費(fèi)愛國心理、虛假情感誘導(dǎo)、低質(zhì)吸粉等

?? 平臺(tái)呼吁用戶監(jiān)督，舉報(bào)不當(dāng)使用人工智能生成內(nèi)容的情況

廣州文件銷毀服務(wù)信息網(wǎng) 3月27日 訊息:抖音近日發(fā)表了關(guān)于不當(dāng)利用 AI 生成虛擬人物的治理公告。去年，抖音就明確表態(tài)不鼓勵(lì)利用 AI 生成虛擬人物進(jìn)行低質(zhì)創(chuàng)作，并將莊敬處罰違規(guī)使用 AI 生成虛擬人物發(fā)布違背科學(xué)常識(shí)、弄虛作假、造謠傳謠的內(nèi)容。最近，平臺(tái)展示仍有賬號(hào)不當(dāng)使用 AI 技術(shù)生成虛擬人物發(fā)表內(nèi)容，因此采取了嚴(yán)峻的處理辦法。

其中典型行為包羅:

1、生成境外虛假人設(shè)，消費(fèi)愛國心理、博取關(guān)注。用虛假外國人的形象，以想嫁給我國、想到中國生活、評(píng)價(jià)社會(huì)事件等言論博取眼球。

2、生成俊男美女虛假形象，騙取交流，交友導(dǎo)流。干脆稱用戶為“你”“娘”“媽媽”“老公”等，發(fā)布情感誘導(dǎo)、唱情歌、為你謀福利等表達(dá)虛假情感的內(nèi)容，將用戶導(dǎo)流至私人聊天工具，甚至進(jìn)行詐騙。

3、生成精英人士虛假人設(shè)，宣布心靈雞湯、財(cái)商、偽國學(xué)、厚黑學(xué)、偽成功學(xué)等不良內(nèi)容，低質(zhì)吸粉，甚至引流到站外以賣課、入群等方式獲利。

針對(duì)違規(guī)使用AI生成虛擬人物的行為，平臺(tái)會(huì)對(duì)違規(guī)視頻下架，對(duì)違規(guī)賬號(hào)進(jìn)行取消其投稿和營利權(quán)限、抹除賬號(hào)粉絲、封禁賬號(hào)等處理，并利用模型、技術(shù)辨認(rèn)能力等手段，進(jìn)行長期系統(tǒng)的辯識(shí)表現(xiàn)和處理。同時(shí)，平臺(tái)已駕馭部分黑產(chǎn)團(tuán)伙不當(dāng)使用AI生成虛擬人物用于犯罪的線索，將報(bào)警打擊。

人工智能技術(shù)的快速發(fā)展，豐盛了互聯(lián)網(wǎng)內(nèi)容生態(tài)，但也帶來技術(shù)濫用的挑戰(zhàn)。平臺(tái)重申，創(chuàng)作者、主播、用戶、商家、廣告主等平臺(tái)生態(tài)參與者，在抖音應(yīng)用生成式人工智能技術(shù)時(shí)，須遵循以下規(guī)范:

1、宣布者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，協(xié)助其他用戶區(qū)分虛擬與現(xiàn)實(shí)，極度是易混淆場景。

2、公布者需對(duì)人工智能生成內(nèi)容產(chǎn)生的相應(yīng)后果負(fù)責(zé)，無論內(nèi)容是怎么生成的。

3、虛擬人需在平臺(tái)進(jìn)行注冊(cè)，虛擬人技術(shù)使用者需實(shí)名認(rèn)證。

4、反對(duì)利用生成式人工智能技術(shù)創(chuàng)作、公布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等。一經(jīng)顯現(xiàn)，平臺(tái)將肅穆處罰。

5、阻擋利用生成式人工智能技術(shù)創(chuàng)作、發(fā)表違背科學(xué)常識(shí)、弄虛作假、造謠傳謠的內(nèi)容。一經(jīng)展示，平臺(tái)將嚴(yán)格處罰。