久久91亚洲人成电影网站_久久精品亚洲综合专区_狼狼综合久久久久综合网_伊人久久青草青青综合

大公產(chǎn)品

首頁(yè) > 新聞 > 正文

?3?15消費(fèi)者權(quán)益日/AI換聲詐騙暴增 圍獵銀髮消費(fèi)者

時(shí)間:2025-03-15 05:02:30來(lái)源:大公報(bào)

  圖:小米CEO雷軍是近期AI仿冒聲音的熱門(mén)對(duì)象,網(wǎng)上有不少以AI複製其聲音的視頻教程。

  「國(guó)慶假期7天,被『雷軍』罵了8天」「劉曉慶回應(yīng)『畫(huà)面是我、聲音像我、但不是我』」……隨著AI生成技術(shù)普及,複製他人聲音、面貌的成本大幅下降,一些產(chǎn)品更以低至5-10元的價(jià)格,號(hào)稱(chēng)「10秒生成明星聲線」,相關(guān)的濫用問(wèn)題層出不窮。

  近年更有不法分子以AI擬聲等技術(shù)「移花接木」,盜用名人聲音用於商業(yè)欺詐,令消費(fèi)者以為其商品獲得名人代言、推薦,使商品銷(xiāo)量在短時(shí)間內(nèi)暴漲。專(zhuān)家指出,由於對(duì)新技術(shù)存在「代際技術(shù)鴻溝」,老年群體更是這類(lèi)AI消費(fèi)陷阱的「重災(zāi)區(qū)」。

  抖音平臺(tái)監(jiān)測(cè)數(shù)據(jù)顯示,去年國(guó)慶假期期間,AI合成的小米CEO雷軍語(yǔ)音「吐槽」調(diào)休政策的短視頻持續(xù)霸榜熱搜;有網(wǎng)友調(diào)侃「國(guó)慶假期7天,被『雷軍』罵了8天」,相關(guān)話題累計(jì)播放量突破1.2億次。

  更值得警惕的是,AI擬聲技術(shù)已被不法分子用於商業(yè)欺詐。

一杯咖啡價(jià)格 仿冒「華仔推薦」

  在社交媒體平臺(tái)上出現(xiàn)的《一路繁花》劉曉慶吃魚(yú)改編片段中,AI技術(shù)不僅篡改臺(tái)詞植入產(chǎn)品,更匹配了與原嘉賓極為相似的音色。由於AI合成語(yǔ)音比AI換臉視頻更難辨別,且其成本已大幅下降,讓這項(xiàng)新技術(shù)成為詐騙分子的「新寵」。

  2024年3月,某電商平臺(tái)出現(xiàn)300餘條克隆劉德華聲音的促銷(xiāo)視頻。這些視頻通過(guò)AI技術(shù)完美復(fù)刻其嗓音,以「華仔推薦」名義推銷(xiāo)某品牌保健品。數(shù)據(jù)顯示,相關(guān)商品銷(xiāo)量在3天內(nèi)暴漲217%,但隨後大量消費(fèi)者作出投訴,當(dāng)中78%用戶表示「因信任劉德華才購(gòu)買(mǎi)」。

  只需要15秒的語(yǔ)音片段,花費(fèi)不到一杯咖啡的價(jià)格,任何人的聲音都能被完美克隆。記者在購(gòu)物平臺(tái)上搜索「AI人聲克隆」,「10秒生成明星聲線」「專(zhuān)業(yè)設(shè)備錄製+AI精修」等宣傳語(yǔ)下,價(jià)格從5.9元(人民幣,下同)到159元不等的多款A(yù)I聲音克隆軟件在售。據(jù)中國(guó)網(wǎng)絡(luò)視聽(tīng)節(jié)目服務(wù)協(xié)會(huì)2025年1月發(fā)布的《2024網(wǎng)絡(luò)視聽(tīng)內(nèi)容生態(tài)治理白皮書(shū)》顯示,全年監(jiān)測(cè)到AI聲音克隆平臺(tái)2850家,生成語(yǔ)音總量超15億條;確認(rèn)違規(guī)內(nèi)容中,商業(yè)欺詐類(lèi)佔(zhàn)比58%(偽造企業(yè)家?guī)ж浀龋?/p>

雷軍:明確AI應(yīng)用邊界紅線

  而據(jù)中國(guó)老齡協(xié)會(huì)2025年1月發(fā)布的《中國(guó)老齡事業(yè)發(fā)展報(bào)告(2024)》顯示,涉及AI技術(shù)的電信詐騙案件中,60歲以上受害者佔(zhàn)比達(dá)42.7%;老年人人均直接經(jīng)濟(jì)損失2.87萬(wàn)元。不法分子通過(guò)AI換臉生成「專(zhuān)家」形象,利用變聲技術(shù)偽造權(quán)威聲線,在直播中宣稱(chēng)普通食品「包治百病」,精準(zhǔn)「圍獵」銀髮群體。

  廣西消費(fèi)者權(quán)益保護(hù)委員會(huì)宣傳部主任李佩霞表示,由於新技術(shù)對(duì)老年群體存在「代際技術(shù)鴻溝」,使得AI詐騙分子能夠精準(zhǔn)突破心理防線,政府、平臺(tái)以及社會(huì)各界需要共同努力,構(gòu)建全鏈條防護(hù)體系。

  身為AI合成受害者,雷軍亦在今年全國(guó)兩會(huì)期間提議,加快單行法立法進(jìn)程,在安全與發(fā)展並重的基礎(chǔ)上提升立法位階。建議針對(duì)「AI換臉擬聲」等某一代表性問(wèn)題,探索推出人工智能單行法,明確「AI換臉擬聲」應(yīng)用邊界紅線,加大對(duì)利用人工智能技術(shù)實(shí)施犯罪行為的刑事處罰力度。

最新要聞

最受歡迎