近期，網(wǎng)絡(luò)上出現(xiàn)了一批“一鍵生成爆款種草筆記”的AI寫作工具，這些工具以極低的成本，批量炮制虛假消費(fèi)體驗(yàn)和商品推薦。近日，中央網(wǎng)信辦部署開(kāi)展“清朗·整治AI應(yīng)用亂象”專項(xiàng)行動(dòng)，聚焦利用AI技術(shù)生成“數(shù)字泔水”、制作發(fā)布虛假信息等問(wèn)題，堅(jiān)決清理違法不良信息，依法處置處罰違規(guī)賬號(hào)、MCN機(jī)構(gòu)和網(wǎng)站平臺(tái)。
調(diào)研發(fā)現(xiàn)：三成用戶對(duì)AIGC內(nèi)容接受度不高
“輸入幾個(gè)關(guān)鍵詞，AI幫你全自動(dòng)寫出爆款種草文案”在各大短視頻平臺(tái)和二手交易網(wǎng)站上，“利用AI自動(dòng)化起號(hào)”“批量做矩陣號(hào)”成了不少網(wǎng)絡(luò)課程的噱頭。
記者搜索發(fā)現(xiàn)，類似的課程及工具在網(wǎng)絡(luò)上有不少，在二手平臺(tái)，花幾毛錢就可以買到破解版軟件及教學(xué)視頻。
在網(wǎng)絡(luò)投訴平臺(tái)上，一款被多位消費(fèi)者投訴的AI寫作助手，終身會(huì)員199元，提供工作總結(jié)、論文撰寫、小說(shuō)創(chuàng)作、短視頻腳本、社交平臺(tái)筆記標(biāo)題生成等上百種服務(wù)，記者僅輸入筆記主題，不到一分鐘的時(shí)間，該款工具生成了20個(gè)“爆款標(biāo)題”。在商品推薦文案功能中，輸入商品名稱、品牌等幾個(gè)要素，可以瞬間生成幾百字的種草筆記。這些偽裝成真人親測(cè)的分享內(nèi)容，在生成的過(guò)程中，不需要任何真實(shí)出行經(jīng)歷、產(chǎn)品使用體驗(yàn)，完全由AI杜撰、虛構(gòu)。
無(wú)論是對(duì)于平臺(tái)、創(chuàng)作者還是龐大的用戶群體，AI批量生成的低質(zhì)內(nèi)容都會(huì)帶來(lái)前所未有的沖擊。
某社交平臺(tái)社區(qū)用戶信任中心負(fù)責(zé)人介紹，在做大范圍用戶調(diào)研時(shí)發(fā)現(xiàn)，有接近三成的用戶對(duì)于AIGC的內(nèi)容接受度并不高。
全國(guó)首例涉AI代寫“種草筆記”不正當(dāng)競(jìng)爭(zhēng)案宣判
近日，浙江省杭州市中級(jí)人民法院披露了一起涉及某社交平臺(tái)AI批量代寫種草筆記典型案例，作為全國(guó)首例涉及AI代寫“種草筆記”的不正當(dāng)競(jìng)爭(zhēng)案件，判決為生成式人工智能服務(wù)提供者劃定了合理的注意義務(wù)邊界。
據(jù)介紹，原告是知名社交平臺(tái)的經(jīng)營(yíng)者，該平臺(tái)規(guī)則和平臺(tái)公約均強(qiáng)調(diào)要真實(shí)體驗(yàn)和經(jīng)歷分享，本案被告B公司和C公司共同運(yùn)營(yíng)一款A(yù)I寫作工具，該工具可定向?yàn)橛脩籼峁┥鲜錾缃黄脚_(tái)風(fēng)格的種草文案、旅游攻略等內(nèi)容的一鍵生成服務(wù)，并誘導(dǎo)用戶發(fā)布文案到該社交平臺(tái)。原告認(rèn)為被告的行為破壞了該社交平臺(tái)真實(shí)的種草內(nèi)容生態(tài)，向法院提起訴訟，要求后者停止著作權(quán)侵權(quán)及不正當(dāng)競(jìng)爭(zhēng)行為。
法官助理 張宗濱： 本案被訴的這個(gè)AI寫作工具，有網(wǎng)頁(yè)版、App、微信小程序三種版本。它的熱門模塊直接展示了某社交平臺(tái)種草文案、旅游攻略、筆記標(biāo)題等服務(wù)模塊，并且服務(wù)模塊的名稱直接采用了該社交平臺(tái)相關(guān)的命名，并直接使用根據(jù)產(chǎn)品特點(diǎn)幫你生成“符合平臺(tái)調(diào)性的分享文案”等宣傳語(yǔ)。點(diǎn)擊一鍵創(chuàng)作就可以直接生成一篇幾百字繪聲繪色的一個(gè)文案的內(nèi)容。
張宗濱介紹，本案的核心爭(zhēng)議焦點(diǎn)主要是：針對(duì)該社交平臺(tái)定向提供生成式人工智能服務(wù)是否構(gòu)成不正當(dāng)競(jìng)爭(zhēng)。《中華人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》第二條規(guī)定，不正當(dāng)競(jìng)爭(zhēng)行為是指經(jīng)營(yíng)者在生產(chǎn)經(jīng)營(yíng)活動(dòng)中，違反本法規(guī)定，擾亂市場(chǎng)競(jìng)爭(zhēng)秩序，損害其他經(jīng)營(yíng)者或者消費(fèi)者的合法權(quán)益的行為。
隨著我國(guó)《網(wǎng)絡(luò)反不正當(dāng)競(jìng)爭(zhēng)暫行規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》等文件落地，國(guó)家層面對(duì)AI服務(wù)提供者的合規(guī)義務(wù)提出了明確要求：此類服務(wù)應(yīng)當(dāng)尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德。在審理中，法院首先明確了原告通過(guò)長(zhǎng)期經(jīng)營(yíng)積累的真實(shí)內(nèi)容生態(tài)，屬于受法律保護(hù)的競(jìng)爭(zhēng)性權(quán)益。
張宗濱： A公司通過(guò)長(zhǎng)期的經(jīng)營(yíng)，投入了大量的成本、人力、物力，產(chǎn)生和積累了大量的種草筆記內(nèi)容，形成了以真實(shí)體驗(yàn)為核心的種草內(nèi)容生態(tài)。這個(gè)生態(tài)也是其獲得商業(yè)利益和競(jìng)爭(zhēng)優(yōu)勢(shì)的核心資源，所以我們認(rèn)為《中華人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》可以保護(hù)的競(jìng)爭(zhēng)性權(quán)益。
而基于生成式人工智能服務(wù)的特點(diǎn)，被告無(wú)論是從行為方式還是行為目的來(lái)說(shuō)，沒(méi)有盡到合理注意義務(wù)。
張宗濱介紹，在本案中，法院創(chuàng)新性地提出了“四要素判定法”，判決被告B、C公司賠償原告經(jīng)濟(jì)損失及合理開(kāi)支共計(jì)10萬(wàn)元。
第一，被訴服務(wù)是否屬于生成式人工智能服務(wù)。
第二，被訴服務(wù)是否以特定場(chǎng)景作為應(yīng)用層?結(jié)合到本案當(dāng)中來(lái)，被訴服務(wù)的模塊名稱直接使用了某知名平臺(tái)種草文案等表述，并且它是以該社交平臺(tái)作為特定的商業(yè)應(yīng)用層，而并非通用的AI工具。
第三，被訴服務(wù)是否帶有明確的指向性和誘導(dǎo)性?結(jié)合本案當(dāng)中被訴的服務(wù)模塊，都是要誘導(dǎo)用戶發(fā)布未經(jīng)真實(shí)體驗(yàn)的相關(guān)的文案的內(nèi)容。
第四，關(guān)于被訴服務(wù)是否屬于營(yíng)利性的商業(yè)行為，結(jié)合到本案當(dāng)中，該AI寫作工具的相關(guān)頁(yè)面就顯示終身會(huì)員是168元，年會(huì)員是98元，月會(huì)員是40元，具有明確的商業(yè)利益驅(qū)動(dòng)。
從治理的角度來(lái)說(shuō)，該案判決的生效不僅是對(duì)原告合法訴求的回應(yīng)，也明確了生成式人工智能服務(wù)提供者合理的注意義務(wù)邊界，為治理提供了參照準(zhǔn)則。
張宗濱認(rèn)為，未來(lái)要關(guān)注模型研發(fā)、內(nèi)容生成到合規(guī)管控等多個(gè)環(huán)節(jié)，形成全鏈條共治格局。
首先，要確保訓(xùn)練的數(shù)據(jù)和模型設(shè)計(jì)合規(guī)，不得將模型定向優(yōu)化為生成特定平臺(tái)的違規(guī)內(nèi)容。
第二，要加強(qiáng)風(fēng)險(xiǎn)提示和內(nèi)容管控，要以顯著的方式提示AI生成內(nèi)容的局限性，明確禁止用于發(fā)布虛假的信息，也要遵守特定的平臺(tái)規(guī)則，限制定向用于特定平臺(tái)的違規(guī)的場(chǎng)景。
第三，要做好內(nèi)容標(biāo)識(shí)和用戶數(shù)據(jù)保護(hù)。
第四，要建立投訴舉報(bào)機(jī)制，對(duì)于違法或侵權(quán)的內(nèi)容要及時(shí)處置。
