官方微信视频号
星空电竞-真真假假假假真真 AI时代眼见未必为实
时间：2025-11-28
【星空电竞科技】自古以来人们都喜欢说“眼见为实，耳听为虚”，但是在AI时代真真假假假假真真，或许眼见、耳听皆为虚妄。
前段时间，在抖音等短视频平台上，各种猫狗会说话、人在空中飞、动物突然变身为人开始跳舞等视频非常火爆，吸引了很多网友的关注。甚至一些不明所以的网友，还以为这就是真的开始思考到底是怎么做到的。但是深层次去探究，其实这类视频都是AI所创造出来的，凭借着新鲜感和猎奇心理等吸引着一大批受众。
在去年国庆假期期间，短视频平台上出现了大量以小米公司董事长雷军名义发表的犀利言论视频，流量颇高，其领域更是覆盖了堵车、假期、调休、游戏等热门话题，让不少网友一时分不清到底是不是雷军本人说的。在今年两会期间，雷军针对当前人工智能深度合成技术中“AI换脸拟声”的滥用现象，表示AI换脸拟声不当滥用成为了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，不利于构建“以人为本、智能向善”的人工智能发展生态。
尤其是在近两年时间里，大语言模型、文生图大模型等蓬勃发展，AI所生成的内容已经充斥了我们生活的方方面面，其利弊也很难被精细化衡量。哪怕是现在的学生和老师，也都在借助AI来完成教学，便利性不言而喻。而隐忧就是大学生的论文AI味道可能会越来越浓，以前在拼命降低查重率，而未来可能就要拼命去降低AI率了。而在视频方面，AI制作视频一定程度上降低了视频制作的门槛，但引来的问题就是滥用，随着AI的进步已经有了可以以假乱真的能力。
面对此现状，国家层面也开始出手了。3月19日，央视新闻报道，人工智能生成合成内容标识办法来了，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局四部门联合发布《人工智能生成合成内容标识办法》，将于今年9月1日起正式施行。据介绍，《标识办法》主要从立法层面提出管理要求，明确生成合成内容制作传播各主体的责任义务，为促进人工智能技术创新发展，对具体实施操作不做要求。
AI生成内容要亮明身份。“标识办法”提出强制添加显式和隐式标识等规范要求，所有AI生成的文字、图片、视频等内容，都要“亮明身份”。专家介绍，借助AI生成的文字内容涉及模仿某人的话语表达、模仿媒体进行新闻发布，或者模仿政府部门发布相关公告等，都必须进行显式标识。我们也期待后续政策出台后AI行业的乱象得到整治。
而在此之前，其实手机厂商们也都在积极努力发展AI的同时去帮助用户去辨别真伪。以荣耀为例，在MagicOS 9.0上推出了AI换脸检测功能，通过端侧AI能力，该技术可自主识别用户视频通话中的画面要素，如果检测到视频内容存在AI换脸，将向用户发出风险提醒。其一是能够实现视频通话时的AI风险，保障视频通话安全，其二是在直播和短视频场景，YOYO也能够直接进行检测是否存在AI换脸情况，可以很好地帮助用户识别风险。在去年的互联网大会上，荣耀终端AI换脸检测系统，入选网安协会精评的“人工智能创新应用典型案例（2024）”，受到了行业的广泛认可。
在OPPO ColorOS 15的最新升级当中，加入了合成语音识别功能，该功能能够在用户日常手机通话、办公会议的App当中自动检测对方是否使用了AI合成的语音。如果检测到对方声音疑似合成，手机通话界面就会提示“疑似合成语音”，向用户实时提示风险预警。目前合成语音识别功能支持中文普通话、粤语、四川话主要方言的识别。所以在日后通话过程中，如果不确定对方是不是AI合成的声音，那么ColorOS就可以帮助到的大家进行识别，能够更好地保护财产和隐私安全。
华为手机这边为了防诈骗则是推出智能诈骗拦截，自动识别拦截诈骗电话和短信，帮助用户率先过滤掉诈骗信息；针对仿冒App的诈骗，华为打造纯净应用市场，严格审查每款应用软件，从源头上杜绝假冒伪劣；针对应用过度索取权限问题，华为推出安全访问机制，无需授权所有，应用仅可访问用户选定的数据，无法访问其他内容，帮助用户筑牢信心安全关。
在小米HyperOS 2中，同样加入了AI反诈功能，能够智能识别欺诈电话或换脸视频。通话过程中会弹出“风险提醒，本次通话可能存在欺诈风险，为避免资金损失，请谨慎判断是否挂断”，同样可以提高用户的心理防备。
写在最后
在这个一切皆有可能的AI时代，AI赋予了千行百业新的增长活力，但是也不断衍生出新的问题，尤其是AI诈骗让很多人猝不及防。而此次国家层面的出手从法规层面将约束AI的肆意妄为，而手机厂商们的行动则是从端侧帮助用户更好地鉴别AI诈骗等，来了一次AI与AI之间的对抗战。我们作为普通人，应该在各种内容或者社交当中擦亮双眼、双耳，提升自我鉴别能力，莫成为AI诈骗的受害者，也不去做施害者。正向利用各类AI工具，提升工作和生活幸福感，才是正确的事儿。
版权所有，未经许可不得转载
-星空电竞推荐新闻
-
上研院与睿尔曼牵手共同打造具身智能高质量标准化数据集训练场
2025-08-19 -
第一届上海市机器人等数字技术专业职称申报政策宣讲会顺利召开
2025-08-14 -
云上鏖战，智造未来——第十届 “创客中国”智能机器人中小企业创新创业大赛半决赛圆满收官，48强团队晋级总决赛！
2025-08-13 -
国家标准《工业机器人静电安全规范》等三项标准工作启动
2025-05-07 -
关于征集第十届“创客中国”智能机器人中小企业创新创业大赛评委的通知
2025-04-29 -
共探高质量、发布新成果——2025人形机器人产业高质量发展论坛顺利召开
2025-04-27 -
镇江市党政代表团一行赴机器人星空电竞考察
2025-04-25 -
定立场，测关节，论数据-全国人形机器人检测认证工作组2025年第二次会议于深圳顺利召开
2025-04-25 -
我院承办的第十届“创客中国”智能机器人中小企业创新创业大赛新闻发布会顺利召开
2025-04-18 -
福州人形机器人训练场启动并接入国家级测评平台
2025-04-15 -
安全性能国际接轨启新章——工业机器人CR认证新规研讨于沪召开
2025-04-15 -
政企携手谋新篇---上电科领导西南行暨卡诺普机器人全系列产品CR认证签约仪式在蓉举行
2025-03-12 -
市科委主任骆大进调研机器人星空电竞：肯定成绩，寄予厚望
2025-03-10 -
行业观察丨马斯克：Optimus人形机器人或将超越特斯拉汽车业务
2025-08-06 -
ABB全系列机器人CR认证战略合作签约
2025-02-25 -
KUKA机器人再添新认证
2025-01-27 -
国评中心与京沪两地人形机器人共建创新中心共同举办人形机器人产业发展论坛
2024-11-20 -
人形机器人检测认证工作组正式成立
2024-11-22 -
守安全底线、 保本体可靠、促智能发展，全国人形机器人检测认证工作组会议顺利召开
2025-02-27 -
我院专家获得"机器人"领域国际电工标准化1906奖
2024-10-14 -
国评中心(总部)为安川颁发机器人洁净级认证证书！
2024-09-25 -
JAKA拿下协作机器人全系列CR认证“001”证书
2024-09-19 -
KUKA全系列机器人获得CR认证
2024-09-14 -
2024世界机器人大会机器人行业规范检测与技术分论坛在京圆满举行
2024-08-25 -
国评中心（总部）北京测评中心正式揭牌！
2024-08-24 -
首届智能机器人分级分类评价创新论坛在上海召开
2024-07-05 -
上海成立机器人概念验证中心
2024-06-25 -
【研发成果】轻量化、模块化、智能化的移动机器人面市！
2024-06-20 -
机器人赛道逐渐拓宽，人形机器人正当时？
2024-07-01 -
【祝贺】艾利特CS系列协作机器人通过100000小时MTBF测评！
2024-01-03 -
协作无界，“加”速未来—2023首届中国（盐城）机器人+新能源产业发展大会在盐城顺利召开
2023-12-25
