摘要:近日,全红婵一家居然被盯上了 —— 最近好多账号用 AI 合成她和家人的视频,连声音都模仿得像模像样,在网上卖土蜂蜜、骆驼奶粉、眼贴等这些东西。
这种事情,要不入刑,要不罚个倾家荡产,别弄个不疼不痒的处罚
现在的 AI 造假简直越来越离谱了!
近日,全红婵一家居然被盯上了 —— 最近好多账号用 AI 合成她和家人的视频,连声音都模仿得像模像样,在网上卖土蜂蜜、骆驼奶粉、眼贴等这些东西。
最气人的是,蜂蜜居然只卖十几块钱一斤,全红婵爸爸也无奈,吐槽道:“什么蜂蜜才十几块钱一斤,拿糖来搞都搞不到。”
这帮人还挺会蹭热度,之前刚传出全红婵家要盖新房,他们立马伪造全家人的声音,在视频里说 “建房要用好材料”,引导网友点链接下单。
点开这些造假视频,乍一看是全红婵接受采访的画面,仔细一听,声音却被 AI 篡改了:“家人们,这款土蜂蜜是我们自家养的蜂产的,特别甜……”
实际上,全红婵的父母在湛江农村靠种水果为生,哥哥全进华正经做三农主播,平时带货的是当地滞销的菠萝、橙子,妈妈偶尔出镜帮忙,一家人只想踏实实帮乡亲卖农产品。
可骗子们倒好,蹭着 “冠军家庭建房” 的热点,用 AI 把全红婵爸爸、哥哥的声音克隆得一模一样,在视频里推销低价蜂蜜,评论区不少网友被骗下单:“支持红婵,必须买!”
更气人的是,这些账号手段特别隐蔽:用全红婵妈妈说 “想盖房子” 的采访画面当引子,再配上伪造的 “家人推荐” 台词,最后挂出商品链接。
全红婵爸爸接受采访时无奈地说:“帮我辟谣一下,我们根本没卖过这些东西”。
全红婵不是唯一一个受害者。老戏骨刘晓庆前段时间发现,视频号里一堆 AI 生成的 “自己” 在卖化妆品,她转发吐槽:“画面是我,声音像我,但真不是我!以后大家怎么分清真假啊?”
张文宏医生更惨,AI合成他的形象卖蛋白棒,销量超过 1200 单;
张馨予的声音被偷去卖减肥药,雷军的脸被 AI “嫁接” 到各种带货视频里…… 甚至有账号伪造刘德华 “助力哪吒票房” 的视频,粉丝量超 50 万,妥妥的流量诈骗!
律师说得明白:这些行为就是在侵权!未经允许用别人的肖像、声音带货,涉嫌侵犯姓名权、肖像权,要是卖的还是假货,那就是诈骗。
可为啥骗子们敢这么嚣张?因为成本太低了!一个 AI 合成视频几分钟就能搞定,账号被封了换个名字继续骗,反正不少网友看到 “明星推荐” 就跟风下单,根本来不及核实。
对于此事件网友震惊道:“Ai做广告真的很可怕,刚看了一个谢霆锋卖奶粉”
网友在底下留言回复道:“我刚才刷到刘德华卖减肥茶,就感觉离谱到家了”
还有朋友建议:那些人用AI合成骗人的该抓就抓!
“像我妈我婆婆真的会信ai做成的视频,那种很离谱的动物带小孩都信”
“幸亏没让我家老人看到,最喜欢全红婵了,包被骗”
而这些受众人群更多是中老年人,作为家人应该及时去普及打假
好在国家已经出手了!今年9月1日,《人工智能生成合成内容标识办法》正式施行,以后所有AI生成的视频、声音都必须标注 “合成内容”,平台要是不审核、不标注,也要跟着担责。
AI该立法了,挺好的东西,不要因为人性的恶而扭曲。
提醒大家刷到 “全红婵家人推荐” 的商品,千万别急着下单,先看看账号正不正规。真要支持助农,就去关注正经直播间,别让骗子靠消费冠军家庭赚黑心钱!千万别被 “低价福利” 冲昏头脑。
网络合成全红蝉和她妈妈卖眼贴
不过新规落地前,咱们普通老百姓还得自己多留个心眼:第一,明星、冠军家人正经带货,一般会在固定账号长期直播,不会突然换账号卖陌生商品;
第二,价格太离谱的东西要警惕,全红婵爸爸都说了,真蜂蜜成本都不止十几块,低价背后大概率是骗局;
第三,发现不对劲赶紧举报,现在平台都有 “侵权投诉” 通道,别让骗子赚黑心钱!
希望新规能早点拧紧 “阀门”,更希望每个人都能守住底线 —— 靠造假赚的钱,良心真的不会痛吗?咱们支持助农、支持喜欢的明星,一定要认准正规渠道,别让 AI 骗子钻了空子。
毕竟,真实的善意,永远比任何合成技术都珍贵千百倍。
素材来源:封面新闻、极目新闻
来源:桃桃体娱世界