图：小米CEO雷军是近期AI仿冒声响的热点工具，网上有不少以AI覆製其声响的视频教程。 “国庆假期7天，被‘雷军’骂了8天”“刘晓庆回应‘画面是我、声响像我、但不是我’”……跟着AI天生技巧遍及，覆製别人声响、面孔的本钱年夜幅降落，一些产物更以低至5-10元的价钱，号称“10秒天生明星声线”，相干的滥用成绩层出不穷。 比年更有非法分子以AI拟声等技巧“偷梁换柱”，盗用名流声响用于贸易讹诈，令花费者认为其商品取得名流代言、推举，使商品销量在短时光内暴跌。专家指出，因为对新技巧存在“代际技巧鸿沟”，老年群体更是这类AI花费圈套的“重灾区”。 抖音平台监测数据表现，客岁国庆假期时期，AI分解的小米CEO雷军语音“吐槽”调休政策的短视频连续霸榜热搜；有网友调侃“国庆假期7天，被‘雷军’骂了8天”，相干话题累计播放量冲破1.2亿次。 更值得警戒的是，AI拟声技巧已被非法分子用于贸易讹诈。一杯咖啡价钱 仿冒“华仔推举” 在交际媒体平台上呈现的《一起繁花》刘晓庆吃鱼改编片断中，AI技巧不只改动台词植入产物，更婚配了与原高朋极为类似的音色。因为AI分解语音比AI换脸视频更难分辨，且其本钱已年夜幅降落，让这项新技巧成为欺骗分子的“新宠”。 2024年3月，某电商平台呈现300余条克隆刘德华声响的促销视频。这些视频经由过程AI技巧完善复刻其嗓音，以“华仔推举”名义倾销某品牌保健品。数据表现，相干商品销量在3天内暴跌217%，但随后大批花费者作出赞扬，傍边78%用户表现“因信赖刘德华才购置”。 只要要15秒的语音片断，破费不到一杯咖啡的价钱，任何人的声响都能被完善克隆。记者在购物平台上搜寻“AI人声克隆”，“10秒天生明星声线”“专业装备录制+AI精修”等宣扬语下，价钱从5.9元（国民币，下同）到159元不等的多款AI声响克隆软件在售。据中国收集视听节目效劳协会2025年1月宣布的《2024收集视听内容生态管理白皮书》表现，整年监测到AI声响克隆平台2850家，天生语音总量超15亿条；确认违规内容中，贸易讹诈类bat365在线平台官网占比58%（捏造企业家带货等）。雷军：明白AI利用界限红线 而据中国老龄协会2025年1月宣布的《中国老龄奇迹开展讲演（2024）》表现，波及AI技巧的电信欺骗案件中，60岁以上受害者占比达42.皇冠体育足球官网7%；老年大家均直接经济丧失2.87万元。非法分子经由过程AI换脸天生“专家”抽象，应用变声技巧捏造威望声线，在直播中声称一般食物“包治百病”，精准“围猎”银发群体。 广西花费者权利维护委员会宣扬部主任李佩霞表现，因为新技巧对老年群体存在“代际技巧鸿沟”，使得AI欺骗分子可能精准冲破心思防地，当局、平台以及社会各界须要独特尽力，构建全开元电子app官方网站链条防护系统。 身为AI分解受害者，雷军亦在往年天下两会时期发起，放慢单行法破法过程，在保险与开展偏重的基本上晋升破法位阶。倡议针对“AI换脸拟声”等某一代表性成绩，摸索推出人工智能单行法，明白“AI换脸拟声”利用界限红线，加年夜对应用人工智能技巧实行犯法行动的刑事处分力度。