洋洋侃侃 | 別讓AI便利成違法的“利器”
2025-12-12 18:35:35 來源： 第1眼TV-華龍網(wǎng)
開欄語：大事小事，洋洋侃侃。華龍網(wǎng)視頻短評欄目《洋洋侃侃》，盯緊熱點，表明觀點，鮮活態(tài)度，讓你看見！
新聞背景：近日，#網(wǎng)警查處一起AI生成虛擬低俗視頻案#話題登上熱搜。據(jù)報道，李某為炫耀個人技術(shù)，利用某AI工具生成了虛假低俗視頻，并在社交平臺發(fā)布，引發(fā)大量傳播，造成不良社會影響。目前，警方已依法對李某作出行政拘留10日的處罰。
最近你用AI工具了嗎？是不是一些人的年終總結(jié)沒少用它幫忙??？從文字寫作到視頻生成，再到輔助診療，AI確實讓我們的生產(chǎn)生活更加方便，然而這把“雙刃劍”也帶來了不少安全風(fēng)險。
自AI技術(shù)普遍應(yīng)用以來，各類違法違規(guī)行為便如影隨形：冒用公眾人物形象進行直播帶貨，偽造專家身份發(fā)布虛假信息，未經(jīng)授權(quán)使用個人數(shù)據(jù)訓(xùn)練模型……近日，網(wǎng)警又查處了一起AI生成虛擬低俗視頻案，當(dāng)事人作案動機僅是為了炫技，結(jié)果是把自己給“炫”到了拘留所里，受到了行政拘留10日的處罰。更離譜的是，有媒體調(diào)查發(fā)現(xiàn)，AI換臉與聲音克隆已形成一條涵蓋教程傳播與定制服務(wù)的灰色產(chǎn)業(yè)鏈，只需要花十幾元購買一個軟件，就能創(chuàng)作一段視頻來假冒明星代言。
明明知道造假視頻侵犯肖像權(quán)，低俗內(nèi)容危害青少年，為何還有人鋌而走險？說到底，還是對法律的“亮劍”視而不見?！度斯ぶ悄苌珊铣蓛?nèi)容標(biāo)識辦法》已于今年9月1日施行，明確要求AI服務(wù)提供者須在生成內(nèi)容時自動添加顯性與隱性標(biāo)識，并且要求各平臺核驗其生成合成內(nèi)容標(biāo)識相關(guān)材料，以顯著的提示標(biāo)識明確提醒公眾。然而從現(xiàn)實看，這些規(guī)定落地效果還不夠明顯，尚未足以震懾那些心存僥幸者。
要為新興技術(shù)劃清安全底線，還得在查處和整治上再出重拳，只有把好源，查得嚴(yán)，罰得重，才能真正讓那些企圖用新技術(shù)動歪心思的人心生敬畏。同時，也要積極探索技術(shù)監(jiān)測的新手段，從源頭遏制潛在風(fēng)險。
總而言之，技術(shù)前進的腳步無法阻擋，監(jiān)管必須同步甚至超前部署。
洋洋侃完了，邀你來侃侃——
人工智能技術(shù)好，
偏有人把歪道跑。
法律法規(guī)在心頭，
造福社會是正道。
——網(wǎng)友：鐘裊
文案：曹葉
攝像：李一鳴
制作：袁舒含
美編：何丹
統(tǒng)籌：楊洋
監(jiān)制：白永茂
責(zé)任編輯：湛彌
發(fā)言請遵守新聞跟帖服務(wù)協(xié)議
