房地产速递-"来嘛我想要"-AI伪造的苦难，正在剿杀人们的来嘛我想要善意

AI伪造的苦难，正在剿杀人们的来嘛我想要善意_ZAKER新闻

后来，“男友”被“小三”打出血了，蹲在地上博取小三的同情，结果，小三丝毫不理会，反而痛斥了“男友”一番。

昨天晚上，我在微博上看到了一条热搜。直接热搜第二，全民讨论，我不由的心就一下子纠紧了。还是来了。前几天我刚写过一篇现在的搜索引擎，快被 AI 垃圾淹成赛博粪坑了。没想到今天，AI 居然以这种姿势，再一次冲上了风口浪尖。给大家简单说一下事情经过。1 月 7 日 9 时 5 分，西藏定日县发生 6.8 级地震，灾情牵动人心，亦有许多网友在社交平台上为灾民祈福。但是，在一些社交平台上，冒出了很多 AI 伪造的图片，比如这个：在一些社交平台上，至少有 10 个以上的账号发布，并和西藏日喀则地震关联，有些甚至获得好几万的转评赞。许多网友看到图片后，为图中的孩子难受落泪，甚至都在追问，这个图片中的小孩怎么样了，并未留意到可能的疑点。直到今天在热搜上爆了，大家发现，原来自己心疼、同情的孩子，是一起彻头彻尾的欺骗。而且这个图片和视频，是原始作者在 2024 年 11 月 18 日发布的 AI 视频，只是在最近被人疯狂搬运。我无意揣测这些搬运者的动机，有可能他们也只是在某些地方看到这张图片，单纯的想在社交平台上发一下，但，流量他们是实实在在拿到了。我也更无意揣测谣言的源头，第一个发出来的人的动机。我只想聊聊这件事。AI 伪造，不是一个很新的话题了，过往类似的 AI 伪造图片出现过无数，其实对社会的影响都还好，但是我最害怕的，其实就是今天这种：用 AI，来伪造苦难。它剿杀的，是全社会所有人的善意。这不是第一次了，上一次，在地球的另一边，也是弄得沸沸扬扬。2024 年 10 月 4 日，飓风海伦妮在美国引起了巨大的灾难，是 2005 年飓风卡特里娜以来在美国本土大陆致死人数最多的飓风，北卡罗来纳州阿什维尔及其他受影响地区被水淹没。在这样的背景上，同样的，有一张图，在社交媒体上大爆特爆。还有这个。我一直相信，人性本善。人是有一种对于苦难世界同情的天性的。这些图片，如果在正常非常冷静的情况下，让你去辨别是不是 AI，我相信几乎绝大多数人都可以，比如这个女孩手指有问题，比如船完全不一样，比如狗也不一样，比如救生衣有 BUG 等等等等。但，当你知道如今是一个灾难的背景，地震、飓风、海啸，再看到这些图片的时候，你的善意、你的同情会被本能的调动。我们会悲伤，我们会同情，在情绪的冲击下，我们对图片本身的细节看得不是那么深，你会心头一震，立刻想要转发，捐款，伸出援手。可当你倾入了自己的善意，事后却被人告知，这张图片是伪造的。那一刻，你的心里涌现的，不再是关切与同情，而是愤怒与无力。你试图相信你所看到的，试图用自己的善意去帮助他人，但那些伪造的图像正在一步步扼杀你的信任、你的情感。这太恐怖了。人类社会的善意其实已经冷漠了很多，2006 年的彭宇案让全社会对于扶不扶老人这事，都感到愤怒和心寒。在真实世界里，善意的成本被提高了非常多，人们不可避免的变得越来越冷漠。而如今在虚拟世界里，如果我们每次看到苦难的照片，都要去验证，是不是 AI 生成的，是否真实、来源何处以及是否经过处理。那信任，就会彻底崩盘。人是万物灵长，人，更不喜欢被愚弄。一旦人们被误导几次，就会开始怀疑他们所看到的一切。这种怀疑会让我们，在真正的灾难面前更难以激发真正的善意，因为再次被愚弄的恐惧，会掩盖我们帮助他人的愿望。世界只会变得越来越冷漠，我们更可能的是，选择完全不关注灾难新闻，而不是小心翼翼地在真实与虚假图像之间游走。当公众对信息失去信任，真正需要帮助的人，也很难获得应有的支持。这是一场无限的循环。这，更是人类善意的，黑暗森林。作为一个 AI 博主，我从没有像现在这样，举双手双脚，赞成 AI 标识，赞同 AI 内容的监管。所幸，规则已在路上。在信息泛滥的今天，AI 本应是一把创造的利剑，帮助我们实现更多不可能的目标。但真的不应该，变成削弱信任的刀刃。我只能用古剑奇谭 3 里面很喜欢的一句话，作为这篇文章的结尾：愿我人族于此魂梦江海，万古河山之间。星火世传，奋飞不辍。