“这么多明星都在推荐这款面膜,我也买来试试。”近日,市民邓女士在刷短视频时(右图),发现了一款人人都在种草的“宝藏”面膜,便点进短视频下方该品牌面膜的商品链接下了单。到货后,邓女士发现,这款面膜不仅没有视频中介绍的功能,还让她脸颊泛红,甚至有些刺痛。
是明星在带货?
购买后发现被骗
邓女士再次仔细翻看了几段短视频,才发现不同明星的“带货话术”十分雷同。她点开视频下方的评论区看到了以下评论:“这都是AI技术合成的假视频”“AI技术已经进化到能对口型的地步了吗”……邓女士这才知道自己上了当。
邓女士通过查询相关信息得知,原来,AI合成技术的加持,让冒充明星的短视频已经到了以假乱真的地步,不论是形象、口型还是声音,都让人难以分辨。一些不法分子嗅到“商机”乘虚而入,利用冒充明星带货的方式欺骗消费者,达到牟利的目的。
“基本上分辨不出来,就像是明星本人真的在推荐这款面膜一样。这样的新型骗局简直让人防不胜防。”邓女士无奈地说,本来看中的是明星推荐的好口碑,谁料背后是AI。
“眼见不一定为实”
消费者要多方甄别
像邓女士这样的情况并不罕见。
在短视频平台上,不少博主会发布一些由AI技术合成的虚假带货视频,带货商品涵盖了美妆、食品以及日化等。在有些视频中,明星带货话术一模一样,而被带货的商品则变成了另一个品牌。如果不是浏览过大量的同类视频,消费者很难发现其中的猫腻。
记者通过查询了解到,早在去年9月,国家网信办就发布了《人工智能生成合成内容标识办法(征求意见稿)》,要求从视频制作和发布的源头做好信息管理。然而,这类“被AI带货”的现象仍然屡禁不止。“杜绝此类问题的发生,其实需要网络平台、AI技术的提供方以及相关法律的多方约束。”一名在短视频平台深耕十几年的专业人士表示,随着AI合成技术的飞速发展,“眼见”已经不一定“为实”了。
针对消费者被AI合成视频欺骗的情况,记者联系到了沧州市12315投诉举报平台的工作人员。对方表示,发现问题后,消费者应当及时留存证据,向短视频平台投诉举报。另外,在日常购物时,消费者应当仔细查看商品和品牌本身的可信度,多方甄别,不轻信明星带货,把“明星推荐”当作购买的充分理由,这也能在一定程度上规避掉被AI合成技术欺骗的风险。