本文转自【央视网】；
全红婵的“爸爸”“哥哥”纷纷“出镜”
还有多少受害者？
带货文案雷同
在AI合成视频中携带有骆驼奶粉、土鸡蛋、洗衣液等多种商品链接，流量较好的仿冒作品评论区中，不乏有人被骗下单购买。
利用AI伪造视频的现象并不罕见，此前，曾有多位明星成为AI伪造视频的素材。
3月5日，相关演员经纪公司先后发布声明，指出该宣传片为合成影片，否认其与有关游戏平台合作或代言、推广它们的业务，提醒各方人士不要轻信，以免上当受骗。
谢浩男在某短视频平台上注册了唯一认证账号，他曾表示，接下来自己会继续读书，承诺不会带货，并称网上所谓的“带货视频”都是假的。
换脸、换声诈骗
AI如何生成以假乱真的声音？受访专家介绍，AI能够“克隆”声音，主要是依靠深度学习算法，即短时间内从采集的声音样本中提取关键特征，包括频率、音色、声调、语速、情感等，将这些特征记录为数学模型，再通过算法合成。
大四学生耿孝存最近经常在网络音乐播放器中收听几首翻唱歌曲，他一直以为这些歌曲由某知名女歌手翻唱，后来才得知其实全部是AI合成的。“声音逼真到我从来没怀疑过。”耿孝存说。
大量App能够进行AI合成声音，最快只需十几秒。记者在应用商店搜索发现，相关App有数十款，下载量最高超千万次。
AI生成的照片。图源：新京报
此外，“偷”人声音也有不法利益驱动。国家金融监管总局2024年7月发布的《关于防范新型电信网络诈骗的风险提示》中提到，不法分子可能对明星、专家、执法人员等音视频进行人工合成，假借其身份传播虚假消息，从而实现诈骗目的。
2024年4月，北京互联网法院宣判全国首例“AI声音侵权案”，明确认定在具备可识别性的前提下，自然人声音权益的保护范围可及于AI生成声音。该法院法官认为，未经权利人许可，擅自使用或许可他人使用录音制品中的声音构成侵权。
沈阳等专家认为，关于人工智能应用产生的造谣侵权、刑事犯罪、道德伦理等问题，建议有关部门细化完善相关规则，通过典型案例、司法解释等方式给予更为明确的规范指引，厘清法律法规边界。
来 源丨 央视网综合九派新闻、羊城派、上游新闻、新华网、南方日报、新京报 2月全国查处违反中央八项规定精神问题5864起联防联控不放松看好门也送进门菲律宾南三宝颜省发生炸弹爆炸事件 致2人死亡41.91亿元主力资金本周撤离农林牧渔板块石破茂被爆欲向美采购C-17运输机，日本防卫大臣：没人真想要那东西轻松兼职？小心犯罪陷阱！福州长乐机场郑重声明：是骗局！能否接受坐牢？特朗普称能接受坐牢就怕美民众受不了2024年多项民生措施将推出！这些实实在在的“福利”收了→总体工程量已完成90% 高东高速现场观摩会在聊城举行北约启动两项新的多国防空倡议乌方：将“通过相关国家”向俄提交和平计划！德总理：拒绝乌使用德国远程武器攻击俄腹地谁在冒充全红婵的家人？的相关内容
标签： 维修
