洋洋侃侃 | 警惕！別讓AI造假成“流量鬼火”
2025-05-13 18:56:18 來(lái)源： 第1眼TV-華龍網(wǎng)
開(kāi)欄語(yǔ)：大事小事，洋洋侃侃。華龍網(wǎng)視頻短評(píng)欄目《洋洋侃侃》，盯緊熱點(diǎn)，表明觀點(diǎn)，鮮活態(tài)度，讓你看見(jiàn)！
新聞背景：近日，央視曝光多個(gè)社交平臺(tái)上出現(xiàn)大量“AI起號(hào)秘籍”相關(guān)內(nèi)容，這些AI生成內(nèi)容多以俊男靚女、育兒百科、健康養(yǎng)生為主，大都低俗獵奇，有些還用AI生成的人物形象以假亂真。#e法上網(wǎng)#
你聽(tīng)說(shuō)了嗎，最近不少社交平臺(tái)掀起了AI造假風(fēng)？簡(jiǎn)單來(lái)講，就是用AI生成的人物形象冒充育兒專家、美女網(wǎng)紅、知識(shí)博主，用極為逼真的表情和語(yǔ)言，一本正經(jīng)地進(jìn)行假科普。僅借助兩三個(gè)AI工具，按“文生圖、圖生圖、圖生視頻”的標(biāo)準(zhǔn)化流程，幾分鐘就能制作一段視頻，用博眼球和大打信息差的方式，成功積累粉絲后，便搖身一變開(kāi)始帶貨，用流量變現(xiàn)完成收割。
AI造假亂象的出現(xiàn)，真是讓人哭笑不得。一方面，我們感嘆AI發(fā)展之迅速，已經(jīng)到了以假亂真也有人買單的地步，另一方面，我們也氣憤短視頻造假亂象，竟披上了AI的外衣卷土再來(lái)。
AI造假亂象像一場(chǎng)數(shù)字霧霾，這種為了流量不擇手段的機(jī)械化生產(chǎn)模式，正在擠壓原創(chuàng)者的生存空間，毫無(wú)專業(yè)性的“專業(yè)信息”極易給人誤導(dǎo)。廣泛傳播的虛假的內(nèi)容還會(huì)傷害人與人的信任鏈，更可怕的是，一些黑產(chǎn)從業(yè)者通過(guò)對(duì)抗訓(xùn)練繞過(guò)平臺(tái)的AI檢測(cè)，還可能使虛假信息的傳播速度遠(yuǎn)超真相的求證速度。
好在《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》將于今年9月1日起正式施行，往后所有AI生成的內(nèi)容都要“亮明身份”，無(wú)疑將給這一亂象套上法律的準(zhǔn)繩。但要徹底解決此類問(wèn)題還需多方發(fā)力：法律要長(zhǎng)出鋼牙?，明確AI作品權(quán)屬與責(zé)任邊界，各地也要細(xì)化相關(guān)法規(guī)制度進(jìn)行進(jìn)一步規(guī)范；平臺(tái)要敢亮紅牌，用技術(shù)手段實(shí)現(xiàn)實(shí)時(shí)監(jiān)管和生成溯源；用戶要升級(jí)防騙能力，看清屏幕對(duì)面的是真人還是數(shù)字皮影。
總而言之，AI傀儡不應(yīng)該是大家聽(tīng)信的主角，別讓AI造假成為“流量鬼火”！
洋洋侃完了，邀你來(lái)侃侃——
AI視頻藏風(fēng)險(xiǎn)，
以假亂真難分辨。
技術(shù)完善識(shí)真?zhèn)危?/p>
規(guī)范秩序出重拳。
——網(wǎng)友：周芳元
文字：曹葉
拍攝：陳洋
制作：劉昭辰
美編：何丹
統(tǒng)籌：楊洋
監(jiān)制：白永茂
責(zé)任編輯：邵煜晟
發(fā)言請(qǐng)遵守新聞跟帖服務(wù)協(xié)議
