小编：在一段视频中，两个穿着白色短袖的“孩子”在阳光下快乐地玩滑板。镜头一转，当两个人的动作交织在一起时，身体却出乎意料
在一段视频中，两个穿着白色短袖的“孩子”在阳光下快乐地玩滑板。当镜头转动，两个人的动作同步的时候，他们的身体竟然融合在一起，露出了数码合成的痕迹。
今年“双11”期间，北京市民王欢在社交平台上看到童装促销视频，感到非常惊讶。直到他看到角落里的一排标语，上面写着“人工智能生成的内容”，他才意识到，孩子们玩耍的场景是由科技合成的。 “这张图片是完全错误的。人们如何相信产品的真实效果呢？”我怀疑是他说的。
近来，商家利用人工智能技术销售商品的现象日益增多，有的已经违反法律法规：有的利用名人效应假冒专家学者、奥运冠军、影视明星作为产品平台；有的利用人工智能技术推销商品。有的有知名品牌，误导消费者。多人消费对于不信任自己的“偶像”或“品牌”的订单，用户和粉丝很难辨认其真实性和地点，而没有意识到其背后隐藏的危险。
游走在灰色地带的“AI幽灵”涉嫌侵犯当事人肖像权和消费者知情权、选择权，对当前数字治理提出新挑战。
“批量”制作AI配送视频
“两个人互相穿透了对方的身体，这明显违反了现实世界的物理规律，业内称之为‘模具穿透’。”人工智能高级技术员蓝天说。
他表示，目前主流的AI视频生成模型的主要逻辑是基于海量训练数据具备强大的语言理解和图像生成能力，能够根据文本描述“绘制”出逼真的图像。然而，人工智能仍然缺乏对现实世界中复杂物理定律的深刻理解和预测能力，例如重力、物体之间的碰撞和惯性。
蓝天表示：“‘模型交叉’是人工智能生成视频的一个普遍弱点，这反映了当前技术在处理复杂动态场景方面的局限性，也说明数字内容构建与真实物理定律之间仍然存在差距。”
记者调查发现，利用AI工具批量生成营销视频在电商运营中相当常见，网上也有系统教程。
在一段针对电商从业者的教学视频中，一位自称经验丰富的直播电商博主详细讲解了如何利用AI快速制作吸睛视频。他作为“好模板”向学生展示的案例，就是王欢看到的存在“穿模”问题的童装视频。
该博主描述了“重磅逻辑”的创作，并表示：“学生们跟我学了之后，用AI量产了这种类型的video准确捕捉妈妈们的心理。视频直接解决了妈妈群体‘好看’和‘实用’的双重需求，这是成功的关键。”另一位博主在自己的账号上推荐了更多“进阶”的动作。博主以一段在线播放量超千万的真人炸鸡腿视频为例，展示了如何利用AI工具对原视频中的人物进行“深度改造”——不仅改变五官、上衣、配饰，还调整体型和性别。
此类教学内容的传播打破了事实与虚构之间的界限，给消费环境带来了新的挑战。环境蕴藏着风险和危险。
明星一一扮演
“我绝对不是带货的！” 10月初，在江西南昌召开的国际学术会议上，中国工程院院士张伯礼林先生是一位中医大师，他以有关“打假”的演讲开场，并向与会者展示了一段利用他的图像和声音制作的伪造的人工智能视频。
“这是一个人造的假视频，声音听起来像我的，但内容不是我的意思。”张伯礼恳切提醒公众提高警惕，谨防此类数字诈骗。
今年10月20日，天津中医药大学发表严正声明，指出近期存在不少社会机构、“张伯礼中医医院”、“张伯礼药房”等平台。声明强调，这些机构与张伯礼学者没有任何关系。其行为误导公众、损害公众健康权益、携带医疗安全风险，涉嫌违反相关法律法规，将受到严肃处理。
不仅专家学者受到极大困扰，知名媒体人物也成为国家的围攻对象。伪造。今年6月，北京市海淀区市场和管理局查处首例滥用人工智能技术发布虚假广告案件。
根据消费者举报，执法人员对北京一家公司进行调查，发现该公司通过拥有数十万粉丝的视频账号宣传销售的“鱼油”具有治疗头晕、头痛、记忆力减退等功效。直播视频中出现了中央广播电视总台主持人李子萌的形象。
经恶警缜密调查后发现，该公司销售的所谓“鱼油”实际上符合普通食品糖果的标准，不具有治疗功能。权威机构证明，视频中出现的“主持人”的图像是利用AI技术捕捉到的。最终，公司因违反市场监管部门相关规定受到市场监管部门行政处罚。中华人民共和国广告法.
AI中的换脸与虚假广告
北京市市场监管局副局长周晓峰表示，北京支持人工智能技术在广告领域的广泛应用，同时针对人工智能变革、虚假广告等问题敢于“亮剑”。他表示，主持人、网络人士等公众人物的社会意识较高。一些不法经营者利用人工智能技术等手段制作图像、音频、视频进行虚假宣传，利用公众人物的知名度推销商品和服务牟利，侵犯了消费者的合法权益。
“由于人工智能技术的复杂性和广泛应用，人工智能管理需要跨领域共同建立。这需要持续加强监管、强化平台责任、广泛参与。”中国政法大学副教授、中国广告协会法律与道德委员会专家朱伟表示。
在平台管理方面，一些广告公司已经开始制定全流程管理的机制。营销服务平台聚道引擎商业安全管理标准负责人向云表示，面对人工智能广告违反公序良俗、侵权抄袭、虚假宣传等已知风险，平台致力于“精准识别、严格处置”。现在，今年第三季度，已有超过84万条与AI相关的违法材料被提前拦截。
目前，人工智能虚假广告管理正在从依赖人工分析向人机协作、智能识别发展。 Juju引擎商业安全产品负责人潘迪表示，通过美联社平台采用大规模多模态模型，提高了识别效率。快速了解系统视频素材，定位违法内容出现的具体时长或场景，为审核决策提供参考。
潘迪表示，与传统审计模型不同，融入人工智能能力的大型模型可以从大量案例中学习，理解规则背后的逻辑。 “面对前所未见的面孔或全新的造假技术，系统可以根据对规则的理解来识别违规行为的性质，从而显着提高发现新的和隐藏的违规行为的能力。”
面对不断发展的AI打假技术，管理体系需要不断优化。朱伟建议，应加强合成内容的识别和追踪，平台、监管部门和监管机构之间的数据共享和标准共建。建立技术提供商，构建覆盖内容生成、传播、识别全链条的生态管理，有效保障市场秩序和消费者权益。
针对人工智能广告销售乱象，北京市市场监管局提醒：消费者如发现涉嫌利用人工智能技术进行虚假宣传等违法行为，应注意保存证据，并通过12315、12345等热线渠道向市场监管部门举报，共同维护良好的市场秩序和消费环境。同时，经营者必须严格遵守《中华人民共和国广告法》、《中华人民共和国反不正当竞争法》等法律法规，不得利用人工智能等新技术冒用他人姓名、形象进行营销活动。管道营销和促销活动。
中青报·中青报记者 刘银恒 陈晓 来源：中青报
为铭记光影辉煌，首届新疆国际摄影大赛正式启动。为庆祝新疆维吾尔自治区成立70周年，首届“艺源汽车杯”新疆国际摄影大赛于9月28日正式启动。 2025-09-29 14:31 海杜鹃茶香绽放。 2025年4月10日，在安徽省芜湖市武威市昆山镇三公山茶叶种植基地，千亩高山野生杜鹃在绿油油的茶园中竞相绽放，蔚为壮观。它们很美丽很美丽2025-04-10 15:13 慕田峪长城上山花盛开。 2025年4月1日，北京怀柔慕田峪长城内外山花竞放。美丽的春天的花朵使古长城色彩斑斓，宛如一幅美妙的春日山水画2025-04-02 15:44 偏离长江至惠河的彩潮线继续航行。 2025年4月1日，船舶沿长江航行至安徽省合肥市庐江县淮河航道，标志着菜子湖湿地冬季候鸟禁航结束，蔡（紫湖）潮（湖）恢复航行2025-04-01 15:40 2025-04-01 15:40 Voticqueque 春天 春天来了。 2025年3月31日太湖之滨，桃花、樱花、油菜花等，生态良好，春色诱人。 2025-04-01 15:31
当前网址：https://www.ajitaro.com//experience/theory/2025/1125/1383.html
