14may18_XXXXXL56endian49AI造假成风下14may18_XXXXXL56endian49，一群人决定做“打假英雄”_ZAKER新闻
AI造假成风下14may18_XXXXXL56endian49，一群人决定做“打假英雄”_ZAKER新闻
刘石泉，男，汉族，1963年1月出生，湖北大冶人。1985年9月加入中国共产党。华中理工大学固体力学专业毕业，研究生学历，硕士学位，研究员。
明明是循规蹈矩的女学生，因照片被盗用，被 " 换脸 " 之后，成为小电影的主角。却因为拿不出来证明 " 我不是我 " 的证据，背上莫须有的骂名。这不是电视剧情节，而是韩国真实的、正在发生的 Deepfake 事件。犯罪分子获取女性照片后，通过 AI 技术 Deepfake 将其 " 换脸 "，捏造并不存在的 " 事实 " 诬陷女性，陷入自证陷阱的女性们无法自证清白，只能呼吁大家关注滥用 Ai 带来的危害。很快，这件被称为 "N 号房卷土重来 " 的事件，引发了全球关注。毕竟随着 AI 技术的发展，我们任何人都可能成为被 Deepfake（深度伪造）的对象，成为那些我们没拍过、没录过的音视频的 " 主角 "。因此，如何确保我们的安全、防止 AI 技术的滥用，或者及时识别出 Deepfake 的诡计，变得迫在眉睫。这也是外滩大会 AI 创新赛 · 全球 Deepfake 攻防挑战赛上，来自全球 26 个国家及地区的 2200 名 " 最强大脑 " 想要的解决的难题。本次 Deepfake 攻防赛由中国工程院院士王耀南担任专家委员会名誉主席，蚂蚁数科 ZOLOZ 和天玑实验室作为大赛出题方，赛题包含图像和视频两大主流的 Deepfake 研究方向，是 CV ( 即计算机视觉 ) 领域权威赛事之一，吸引了全球超 1500 支队伍参与。赛事数据集由公开数据和伪造数据组成，其中，伪造图片数据涵盖了现实场景中超 50 种生成方式，伪造音视频中则纳入了超 100 种组合攻击方式，组委会开放的训练数据集总量超过 100 万。经过 3 个多月的激烈比拼，大赛圆满结束，但关于 AI 与对抗的故事并没有结束：在 9 月 6 日 Deepfake 攻防赛表演赛上，由蚂蚁数科和中国科技大学网络空间安全学院联合设计的高逼真 Deepfake 图像亮相现场，对选手 AI 模型进行终极考察。来自中科院的 VisionRush 团队获得图像赛道三等奖。这也意味着，该 AI 模型能高效、有效地识别利用生成式 AI 技术制作的造假视频，为深受 Deepfake 困扰的受害者解决难题。而早在 9 月 2 日，VisionRush 团队响应赛事组委会号召，公开了这个模型源代码，旨在帮助那些深受 Deepfake 技术困扰的受害者。某种程度上来说，本届大赛已圆满结束，但推动 "AI 向善 " 的初心故事，还在继续。以下是关于他们的真实故事：文 | 常宁宁编辑 | 卓然我要怎么证明 " 我 " 不是我？一个看似毫无逻辑的问题，却极有可能因为 Deepfake 技术的滥用成为现实。……我们希望通过技术手段，为每一个可能受到伤害的人提供保护。9 月 2 日，" 全球 Deepfake 攻防挑战赛 " 参赛团队 "VisionRush" 决定在网上开源其参赛作品，援助 Deepfake 受害者后，团队成员之一的中科院 95 后助理工程师张欣怡在微博上写下了如上这段文字。张欣怡所在的 VisionRush 参赛队，由 7 名来自中科院自动化研究所的师生组成，平均年龄仅 25 岁。在本次比赛中，他们利用赛方提供的超 150 万数据，训练出了根据视频轨道来识别是否为生成式 AI 伪造视频的 AI 模型。图 | 中国科学院自动化研究所 VisionRush 参赛队这一模型，能有效地帮助 Deepfake 的受害者们证明 " 我不是我 " 这个难题。"Deepfake" 是由 "deeplearning"（深度学习）和 "fake"（伪造）两个单词组合而成，是通过人工智能技术，将图片或视频中某人面部特征与其他人的与其他人的图像或视频进行融合的技术，从而创造出以假乱真的虚假视频或照片。随着生成式 AI 的技术发展，Deepfake 的门槛越来降低，如今仅凭一张照片，便可以低成本炮制大量肉眼难辨真伪的图片和视频，任何人都可以 " 造假 "，也可能成为 " 被造假 " 潜在目标。因造假成本太低，受害者往往难以证明视频中的 " 我不是我 "。例如，最近韩国卷土重来的 "N 号房 " 事件，有超过 200 所学校的女生被 Deepfake 换脸成为色情图片女主角，在海量 " 有图有真相 " 中，女生们陷入自证陷阱中。但在技术人眼里，既然这些视频是 Deepfake 的，只要是 fake 就有破绽，肉眼看不出来的，就要用"AI 的办法打败 AI"。37 岁的王博毕业于北大计算机专业，现在是中科院自动化研究所副研究员。王博重点多媒体内容安全，比如说文本、音视频等内容是否涉及违规有害内容。期间，他见证了中国 AI 技术的发展，也见证了 2020 年前后，生成式 AI 加持下，Deepfake 普遍普及后，在网络世界掀起的大浪。如不法分子通过换脸名人政要、伪造音视频，恶意曲解政策，引发舆论不安、威胁国土安全；或者诈骗分子仅凭一张网络上的自拍，就能通过视频换脸，随后实施电诈。据不完全统计，仅在 2022 年，我国 AI 诈骗案件就达到了 50 万件，涉及金额超过 100 亿元。VisionRush 的赵鹏鹏就曾见过一个报案，犯罪分子通过 Deepfake 换脸成校长，诈骗了一个班级群的家长，群内成员无一人幸免。与此同时，由于大部分的 Deepfake 犯罪集中在网络空间，受限于取证困难等客观因素，大部分受害者维权困难，且即使能维权成功，时间周期也漫长，期间造成的名誉损失、心理伤害更是无法估量。" 我们整个大团队，专注在安全领域 20 多年了。始终没有换方向，其实情怀也就在里面了。我们还是想为净化网络空间，做一些努力。 " 王博说。但对抗 Deepfake 极其背后的黑产，仅靠一个 7 人团队的力量并不够，所以 VisionRush 也希望开源后，越来越多专业人士能参与进来，利用这个模型去做一些更有意义的事情。就如参赛队员张欣怡在微博中所说，" 我们希望通过技术手段，为每一个可能受到伤害的人提供保护。"对抗 Deepfake 又称 " 伪造对抗 "，虽也是 AI 领域，但相较于 " 生成式 AI" 实在是太冷门了——商业潜力不如生成式 AI、研发还需要投入资金。 包括这次比赛，也是 VisionRush 团队为数不多的专业 " 对口 " 比赛。在得知蚂蚁集团举办了全球范围的安全大赛、可以和来自全球的同行交手后，团队立即成立了报名参赛，除了 " 切磋练兵 " 的心态外，也想去验证一下自己实力。毕竟目前 " 伪造对抗 " 关注少，边缘化，但并不意味着其面临的压力更小，甚至因为各方面因素，" 伪造对抗 " 面临的压力更大。首先在生成式 AI 的技术加持下，黑产的攻击也越发猖狂。姚伟斌就切身感受到了这种 " 猖獗 "。姚伟斌系蚂蚁数科的安全科技品牌 ZOLOZ 的技术负责人，ZOLOZ 基于蚂蚁集团超过 20 年的安全基础，为金融、政务、互联网等海外客户提供安全保障，而这些客户也恰好是黑产想要利用 Deepfake 攻击的对象。" 以攻击浓度而言，去年我们的海外客户面临的攻击浓度约 1%，今年达到了 10%"，这意味着以前 100 次服务中约有 1 次黑产攻击，现在 100 次访问中有 10 次攻击，未来这个数据可能上涨到 50%，甚至更高。但在识别虚假的对抗技术却同生成式 AI 技术之间存在巨大代际差。最直观的对比在数据模型投资上。AI 模型的能力和投资成正相关，即投入的资源、数据、算力越多，AI 模型越强大。市面上一个生成式 AI 的模型投资可能达到千万级，但伪造对抗一个模型可能就几十万预算，巨大投资差异意味着二者之间力量 " 悬殊 "，若黑产分子以生成式 AI 为武器发动攻击时，维护网络安全的 " 伪造对抗 " 或许面临 " 军火不足 " 的困境。王博说，" 现在互联网中的伪造数据爆发式增长，很难对全网数据进行审查，伪造和鉴伪的资源投入不平衡也是一大挑战。"某种程度上来说，做 " 伪造对抗 " 像是一场 " 逆行 "，但这场 " 逆行 " 没有回头路。毕竟 AI 作为未来趋势，也是综合国力的一环，如果没有相应的安全能力去制衡，AI 的发展可能会误入歧途。" 所以和 Deepfake 的这场战争必须打，而且必须赢 "，姚伟斌说。AI 没有感情，或许会沦为作恶的工具，但 AI 终究是 " 术 " 层面的东西，还需要 " 道 " 的层面来维护。" 做科研这份工作，需要有足够耐心和持之以恒的努力，还要能抵挡抵挡足够多的诱惑。" 王博坦言，挣钱可以体现一个人的价值，但是解决一个科学问题，解决国家一项重大需求，是更有价值更有意义的事情，这不是金钱能衡量的。"" 有人做生成，就要有人去做对抗。" 他们相信，这个世界总是会有人愿意共同 " 逆行 " 打赢这场战争的。毕竟相比于技术层面的东西，那些不变的普世价值观，才更能推送社会长足进步。AI 行业面临的安全挑战刻不容缓。过去，由于 AI 门槛高，使用场景相对有限，对其潜在危害的讨论大多局限于学术界。然而，随着生成式 AI 技术的发展，Deepfake 等应用变得日益普遍，相关的安全问题也随之 " 破圈 "，才引起了公众的广泛关注。在这样的背景下，" 伪造对抗 " 领域不仅小众、鲜为人知，整个行业也因起步较晚，极度缺乏实战型人才。目前大部分关注 " 识别虚假的对抗技术 " 的人，如这次外滩大会的这次全球 Deepfake 攻防挑战赛选手中，大多是出于一种信念在坚持。例如，本次参赛的曾兆阳，他是一位拥有 12 个大赛冠军头衔的天才程序员，曾在大型科技公司工作，并参与过综艺节目《燃烧吧！天才程序员》的录制，在算法领域颇具名气。目前，他是粤港澳数字经济研究院的研究员，专注于机器视觉研究，即赋予机器 " 眼睛 "，使其能够通过图像进行判断和理解，这是 AI 领域的一个重要分支。近年来，随着人工智能相关的诈骗案件增多，曾兆阳开始关注到在 AI 技术的正反两面博弈的问题，于是在发现这次比赛之后，他抽空参与了本次比赛，并交上了自己的答卷。香港城市大学的博士后吴海威，则早在 2019 年读研二时，就参与过 Facebook 举办的 Deepfake 检测大赛，之后的 3 年时间里，无论科研压力多大，他多次参与相关比赛，希望通过竞赛去提升自己，为网络安全贡献一份力气。在 VisionRush 开源之后，吴海威、陈逸鸣所在的澳门大学 JTGroup 战队也相继开源自己的参赛模型，他们也是这次大赛图像赛道一等奖队伍。但是，要想在 " 伪造对抗 " 中取得胜利，仅凭一群人的信念是不够的。在 AI 技术发展的浪潮中，每个人的命运都与 AI 紧密相连。我们无法预知科技的利刃何时会伤人，也无法估量其后果。因此，我们需要在利刃尚在手中时，就采取预防措施。正是基于 " 推动 AI 向善 " 的初心，蚂蚁集团主办、蚂蚁数科承办了本次外滩大会 AI 创新赛 · 全球 Deepfake 攻防挑战赛。比赛的目的是唤起社会对 AI 安全的关注，吸引更多的投入，并培养实战型人才，使识别虚假内容的对抗技术能够跟上生成式 AI 的步伐，将 AI 技术纳入道德的框架内。推动 AI 健康发展，不是少数人的任务。在 AI 广泛应用于各个领域的情况下，社会需要更丰富、更多元化的实战型人才梯队。比赛中，我们可以看到选手背景的多元化。除了来自 26 个国家的超过 1500 支队伍同台竞技外，还有许多来自字节跳动、小红书等一流互联网公司的 AI 研究者参与。唐永威虽然不是计算机科班出身，但他在 2022 年参加 ATEC 大赛时自学了 AI 技术。作为一名数据分析师，他对数据有着天然的敏感度。在建模时，他一改行业内人看到数据建模后测试修改的工作方式，而是基于对数据的分析和业务理解，建立若干不同模型，进行算法攻防测试。通过这种 " 更下沉 " 的操作，唐永威的 AI 检测模型在本次比赛中表现出色，获得了视频赛道的一等奖。这也再次证明，推动 AI 向善，不能仅依赖于少数人的努力，而是需要凝结大众的力量。毕竟，善良作为一种美德，既是社会的底色，也是社会的共识，没有人能置身事外。 （应采访者要求，文中均采用化名）2023 年百度百家号优质成长力作者2023 年度凤凰新闻大风号影响力 TOP50 作者2023 年度网易新闻网易号年度影响力作者2021 年度钛媒体年度十大作者2023 年度腾讯新闻企鹅号优秀内容合作伙伴2023 年度 ZAKER 影响力排行榜最有价值作者在大时代下，每一个小人物都值得被看见，每一个小人物都不普通。我们关注每一个垂直行业的参与者、亲历者，如您有合适的作品，可将稿件直接发给 fangyuanjing2019@163.com稿件一经采用发布，即刻支付稿费。koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:吴立功
TOP1热点：你觉得 2025 年春节档电影的票房冠军会是谁？
中国地震台网正式测定：12月28日05时15分在新疆哈密市伊州区（北纬43.09度，东经94.21度）发生3.0级地震，震源深度10千米。。
安全隐患方面更容易解决。划定可燃放的时段和区域，做好安全措施，已是各地的成熟经验。地方政府再以此作为禁放的借口，就是懒政、一刀切。
TOP2热点：一群智力正常的人怎么测量出世界上智商最高的人？
毕明欣分析称，尽管国际原油期价后期或回吐部分涨幅，但本轮原油变化率正向宽幅运行，零售价呈现上调预期，消息面指引偏好。需求方面看，随着元旦假期临近，民众短途出行需求有望提升，业者入市提前备货，汽油需求向好发展；而柴油方面，受北方地区大范围低温天气影响，户外基建、工矿等用油单位开工受抑，柴油需求表现淡稳。但随着多数主营单位年度销售任务完成，挺价保利心态趋强，因此柴油价格跌势有限。综合来看，国内汽油价格涨势相对强劲，柴油价格盘整运行为主。
对于升入一线队的消息，张奥林曾这样说道：“我很高兴能够在大阪钢巴开始我的职业足球生涯。我将继续与团队一起工作，尽最大的努力做出贡献。感谢你们的支持。”
TOP3热点：如何理解「英语 + 一门技能 = 王炸」这句话？在床上打扑克全程不盖被子吗
刘石泉，男，汉族，1963年1月出生，湖北大冶人。1985年9月加入中国共产党。华中理工大学固体力学专业毕业，研究生学历，硕士学位，研究员。
12月7日，中国锦屏地下实验室二期极深地下极低辐射本底前沿物理实验设施（简称锦屏大设施）土建公用工程完工，具备实验条件。这标志着世界最深、最大的极深地下实验室正式投入科学运行。
TOP4热点：演员星星在泰缅边境失联，姚晨、舒淇、龚俊等发声寻人，我驻清迈总领事馆回应，具体情况如何？刻晴大战史莱姆外网免费
王长青，男，汉族，中共党员，1972年9月出生，研究生学历，工学博士学位。他曾任中国航天科工三院副院长，2020年8月任三院院长、党委副书记。2023年6月，王长青任中国航天科工集团有限公司副总经理、党组成员。
据新华网报道，担任玉灵村第一书记期间，严克美随身带着一个小本子，专门记录贫困户的生产生活情况，谁家最穷，她就经常上谁家；谁家遇到困难，她就及时伸出援手。
TOP5热点：很多主机游戏如果没有重制版，会不会消失？西方44大但人文艺术
毕明欣分析称，尽管国际原油期价后期或回吐部分涨幅，但本轮原油变化率正向宽幅运行，零售价呈现上调预期，消息面指引偏好。需求方面看，随着元旦假期临近，民众短途出行需求有望提升，业者入市提前备货，汽油需求向好发展；而柴油方面，受北方地区大范围低温天气影响，户外基建、工矿等用油单位开工受抑，柴油需求表现淡稳。但随着多数主营单位年度销售任务完成，挺价保利心态趋强，因此柴油价格跌势有限。综合来看，国内汽油价格涨势相对强劲，柴油价格盘整运行为主。
2019年，她被中央组织部、中央宣传部授予全国“人民满意的公务员”称号，2021年被党中央、国务院授予“全国脱贫攻坚先进个人”称号。
TOP6热点：给周涛讲解的「鸡窝头」女士火了，如何看待她的走红?S货叫大点声C烂你的SB视频
过去一年，我国科技创新实现新的突破，一个个“大国重器”惊艳亮相，《国家创新指数报告2022-2023》显示，中国创新能力综合排名上升至第10位，是唯一进入前15位的发展中国家，向创新型国家前列进一步迈进。下面跟随记者的镜头，一同重温2023年“大国重器”的惊艳时刻。
科学家先后利用“拉索”完整记录了迄今最亮伽马暴GRB 221009A的万亿电子伏特伽马射线爆发全过程，精确测量了迄今最亮伽马暴GRB 221009A的高能辐射能谱，并据此获得了对伽马暴的全新认知。
TOP7热点：有没有哪种饮品，只要它一出现就让你感觉「要过年了」？家用摄像头被盗拍400部
安全隐患方面更容易解决。划定可燃放的时段和区域，做好安全措施，已是各地的成熟经验。地方政府再以此作为禁放的借口，就是懒政、一刀切。
全国人民代表大会是我国最高国家权力机关，法工委是全国人大常委会的立法工作机构。本次全国人大法工委传递出的声音，无疑具有巨大分量。
TOP8热点：韩国游客扎堆上海，格外偏爱火锅和羊肉串，韩国游客在上海的消费行为对当地经济有何影响？亚洲日本一线产区和二线
她先后被评为“全国劳动模范”、“全国三八红旗手”、“2017年感动重庆十大人物”，2018年 “全国脱贫攻坚奖贡献奖”获得者等。
TOP9热点：2025 CES 发布的海信 RGB 三维控色液晶显示技术会让 OLED 和量子点成为过去时吗?片多多免费观看高清
她说，“我是一个土生土长的山里娃，太知道山村需要什么了。2016年，一听说组织要派人到玉灵村担任驻村第一书记，我立即报了名。山村，那是我的根，让那里的人过上好日子，是我最大的心愿。”
全国人民代表大会是我国最高国家权力机关，法工委是全国人大常委会的立法工作机构。本次全国人大法工委传递出的声音，无疑具有巨大分量。
TOP10热点：为什么相机里 CMOS 不做成圆形的，这样不就不用区分横拍竖拍了吗？17may18_XXXXXL56endian
<span>《华尔街日报》这次爆了不少料。首先美国中情局公开宣扬对中国进行间谍行为，这或许是想夸大自己的价值，以便向国会索要更多的预算支持，但这更是自证其罪。美国在炒作、攻击所谓“中国间谍”话题时，从来拿不出确凿证据，总是先给中国泼脏水，然后要求中国自证清白。这说明它很清楚“间谍”行为的不正当性，但它自己说起来却大言不惭，一副“你们拿我也没办法”的样子。美国干什么都是“理直气壮”，但它的“理”和世界通行的“理”根本不是一回事。</span>