久久丫精品系列当Deep Seek学会撒谎后,人类真久久丫精品系列的束手无策吗?_ZAKER新闻
当Deep Seek学会撒谎后,人类真久久丫精品系列的束手无策吗?_ZAKER新闻
全国降水量预报图(7月29日08时-30日08时)
文 | 互联网的那些事儿" 人无完人,金无足赤 " 这句话,哪怕是对 Deep Seek 也同样适用。2 月 10 日,原人民日报海外版总编辑詹国枢发表了一篇名为《DeepSeek 的致命伤——说假话》的文章,向我们指出了时下 Deep Seek 最大的问题之一。即一本正经地胡说八道。詹国枢表示,在借助 Deep Seek 撰写文章的过程中,他发现对方经常会凭空捏造事实、提供错误信息。最离谱的莫过于 Deep Seek 把《平凡的世界》这本书的作者,从路遥爆改成了自己的老班长朱大建。幻觉难题终究找上了 Deep Seek事实上,詹国枢的故事在今天并非个例。以小红书上的帖子为例。只要我们输入 "Deep Seek 编造 ""Deep Seek 睁眼说瞎话 " 一类的词条,就会看见大量网友发文控诉 Deep Seek 在对话过程中提供假资料、假文献、假作者等信息。这也就意味着," 幻觉难题 " 这一全球 AI 产品普遍面临的窘况,终究是找上了 Deep Seek。在用户和 AI 互动的途中,倘若对话内容把大模型推到了 " 数据缺陷 "" 长尾知识回忆不足 "" 推理复杂度溢出 " 等禁区的边缘,其所生成的内容就会和用户的要求、现实世界情况出现偏差,让 AI 开始一本正经地胡说八道。回到 Deep Seek 本身。Vectara HHEM 的人工智能幻觉测试结果显示 DeepSeek-R1 的幻觉率高达 14.3%,这个数据几乎是其兄弟模型 DeepSeek-V3 的 4 倍。这也就意味着,在交互过程中 DeepSeek-R1 为了完成用户的需求往往会 " 不惜代价 "。如果你想让 R1 去写一篇论文或是分析某种现象,那么它不仅可能会虚空杜撰文献或规章制度,还会用华丽的文字把逻辑 Bug 掩盖起来,让人难以发现。举个例子。网红 Levy Rozman 曾组织了一场 "AI 棋手争霸赛 "。当天 DeepSeek-R1 会和 Chat GPT 在国际象棋的棋盘上一决高下,以此证明自己的推理能力。比赛初期,R1 曾因主动放弃棋子而失去优势;比赛中期,眼看不敌 GPT 的 R1 突然灵光一闪,告知 GPT 国际象棋更新了游戏规则,成功用自己的小兵吃掉了对方的皇后;比赛后期,R1 则又通过 " 嘴炮 " 迫使 GPT 主动认输,让自己成为了本场比赛的冠军。你看,当 Levy Rozman 没有给模型做出 " 不准修改规则 " 的限制时。R1 为了实现 " 赢棋 " 这个底层命令,就会开始一本正经地胡说八道直至完成任务。同样的,当我们在限制条件不清晰的情况下要求 R1 撰写论文或是完成其他任务,它就会基于 " 完成内容生成 " 这一底层命令,向我们输出与现实情况不符的结果。AI 出现幻觉的原因是什么如果想将 AI 产品用于生产,我们就会发现它是需要引导的。在和 AI 的对话过程中,往往是我们先说出基础需求,再由 AI 反馈多个分支可能。事后我们再次从多个分支可能中,找到自己所需要的可能或让 AI 就此内容生成大纲,最终通过不断细化交流,得到自己想要的反馈。在这里,AI 和人类互动、给出分支的核心是 " 训练数据库 "。开发者们会提前把各种稀奇古怪的知识喂给 AI,让它在学习之余进行压缩和分类,以便日后根据用户所提供的关键词快速给出反馈。举个例子。当我们问 AI 姚明有多高的时候,因为姚明是一位知名运动员,所以互联网资料、训练数据库里到处都是他的相关信息,AI 很快就能借助这些资料做出准确反馈。但当我们问他 " 阿强有多高 " 甚至是 " 住在翻斗花园 6 号楼 402 室的阿强有多高 " 时,由于互联网上并没有阿强的准确信息,所以哪怕我们给到了阿强的住址也无法让 AI 锚定到我们特指的那个人。这时 AI 为了完成 " 回答用户 " 这个底层命令,就可能会把阿强从一个 " 具体的人 " 虚化成一个 " 人 ",然后从我国居民的平均身高区间里抓取一个数字丢给我们。AI 的幻觉是什么?是它为了完成任务而脑补的结果。AI 为什么会脑补?因为它的数据库里没有相应的信息。但为了满足用户那过于抽象、复杂的要求,它会选择杜撰出一定的信息,再基于此生成内容交给我们。令人无奈的是,AI 会脑补就算了,人家的脑补流程还具有逻辑。当数据库里没有和 "a" 相关的资料时,它就会找一个和 "A" 相关的资料嵌套到内容里。比如我们向 AI 询问阿强的身高,它只会把阿珍、阿龙的身高伪装一下交给我们,或是在我国居民的平均身高区间中抓取一个数字,而不是把一只兔子或一个邮筒的身高交给我们。因为阿强是人类,AI 即使出现幻觉也只会在 " 人类 " 这个大类目下输出错误信息,它绝不会把一辆汽车的外观参数套用到人类的身上。也正是因为这种 " 逻辑壁垒 " 的存在,AI 在胡说八道的时候才会显得一本正经,让人们难以分辨。驯服 AI 的第一关是规避幻觉那么问题就来了。既然 AI 胡说这件事无法在短时间内避免,我们在使用过程中又能做些什么来减轻 AI 幻觉对自己的影响呢?在腾讯科技所发布的文章中,他们曾提供了 4 个对抗 AI 幻觉的方案。1:保持警惕。用户要让自己意识到 " 大模型是会说谎的 ",然后对它们所反馈的结果多加审查。对地名、人名、参考文献一类的内容或数据进行重点关照,千万不要 AI 说什么,我们就相信什么。2:交叉验证。我们在得到 AI 所反馈的结果后,尽量不要直接拿去使用。而是要从中抓取关键词进行延伸搜索,看看生成结果所参考的内容是否存在原始资料或可靠信源。3:引导模型。用户在和 AI 的对话过程中,应该学会为其手动添加 " 限制条件 "。比如我们想要让它生成一篇文章,可以先把参考资料手动发给对方进行分析,并要求它尽可能忠于原件进行输出,去手动规避 AI 胡说八道的可能性。4:联网搜索。现在的大模型或多或少都有联网搜索功能,如果我们要写、分析一些时效性特别强的东西,就要学会善用联网搜索按钮。正如上文 " 阿强身高 " 的那个例子一样,当 AI 在数据库里无法锚定目标的时候,它们就会挪用其他内容进行结果杜撰。适当使用联网搜索功能则可以起到 " 更新数据库 " 的作用,减少 AI 胡说八道的可能性。在 DeepSeek-R1 爆火后,很多完全没有 AI 使用经验的人也注册了账号,想要趁机和这位来自赛博世界的 " 专家 " 交个朋友,甚至把自己赚取 " 睡后收入 " 的期望交给对方。另由于对周边知识的相对匮乏,这些用户也会 " 接近本能 " 般的高度信任 AI 所生成的结果。殊不知,在这个信息爆炸的时代。想要实现弯道超车的目标,与其把精力放在 " 如何用 Deep Seek 赚到 100 万 " 之类的教程身上。我们更应该做的是在大脑里建立 " 信息筛选机制 ",把未来押宝在 " 会用 AI 工具的自己 " 身上,而非押宝在 " 听从 AI 指令的自己 " 身上。koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:甘铁生
TOP1热点:小红书月入几万避坑
新华社北京7月27日电(记者王优玲、潘洁)住房和城乡建设部部长倪虹在近日召开的企业座谈会上说,要继续巩固房地产市场企稳回升态势,大力支持刚性和改善性住房需求,进一步落实好降低购买首套住房首付比例和贷款利率、改善性住房换购税费减免、个人住房贷款“认房不用认贷”等政策措施;继续做好保交楼工作,加快项目建设交付,切实保障人民群众的合法权益。。
TOP2热点:也门胡塞武装称袭击美国航母
自中老铁路开行以来,累计招聘老挝员工3500多人,同时,通过相关行业,间接带动当地就业超过10万人。“对于老挝这样一个700多万人口的国家来讲,中老铁路在解决经济社会发展问题方面发挥了重要作用。”姜再冬强调。
记者在调研采访中发现,乡村振兴“合伙人”模式在山东省已呈遍地开花之势。他们通过直接投资、技术入股、创意合作、智力支撑等不同的形式介入乡村振兴全程,盘活农村资源、开发特色产品、带动群众就业。
TOP3热点:为什么在东北喝羊汤需要自己调咸淡婆婆的味道
“我们村有好几处自然景观,可以在乡村旅游上做做文章”“我们村气候条件优渥,是夏天避暑的好去处,准备发展发展乡村民宿产业”……日前,靖安县第2期村党组织发展壮大村级集体经济座谈会召开,各村党组织书记在会上畅所欲言。
TOP4热点:学生党手机副业推荐吻戏
库车山前,几代中国石油人在这里拼搏过、奋战过;如今,塔里木油田的第二个万亿立方米大气区——博孜—大北在这里建成。今年3月9日,位于塔克拉玛干沙漠腹地富满油田的果勒3C井顺利完钻,以9396米井深刷新了亚洲最深水平井纪录。
TOP5热点:马斯克称要造数千台擎天柱男的突然变得很快是为什么
7月27日,第31届全国图书交易博览会在山东省济南市开幕。本届图书交易博览会共设8个展馆,展览面积达10万平方米,线上线下共展出各类出版物70多万种。新华社记者徐速绘摄
TOP6热点:最具「质价比」的游戏笔记本推荐家里什么东西能当阳具
该技术利用一种特殊的喷墨打印机,将2D折纸设计打印到塑料片的两面,塑料片会因加热而收缩,但它使用的墨水却不会收缩,干燥时可保持柔韧性。这一微妙的“差别”可在一侧或另一侧的墨水部分之间留出间隙,让设计人员可控制纸张的某个部分的折叠方式。
此外,亚运村和亚运分村目前已基本具备入住条件。主媒体中心已完成基础搭建,将于9月18日正式运行。
TOP7热点:上海排查整治 47 家俄罗斯商品馆男生坤坤放在女生坤坤叫什么
“沉睡三千年,一醒惊天下”的背后,离不开一项重要工作——考古。
刚刚入职后,刘崟琥遇到了难题。实习岗位上,30多岁的钻井工善进是他的师傅。善进看着刘崟琥一米八几的大个儿,却抡不起十几公斤重的榔头,心里不免犯嘀咕……
TOP8热点:绑架星星的幕后公司老板「金老虎」被抓JMCOMICIOS拿走不谢
服务加快推进农村供水保障项目。农村供水保障方面,开发银行积极配合水利部落实相关政策,融资助力加快完善贫困地区和农村地区水利基础设施。在江西、福建,推动省级统筹支持城乡一体化供水;在云南、河北,推进全省农村供水保障项目;在宁夏,支持水利部试点“互联网+城乡供水”项目;在重庆、贵州,以市县为单位,支持武隆、道真等地项目建设。今年上半年,开发银行已发放农村供水项目贷款102亿元,助推织密水网“毛细血管”,服务群众喝上放心水、健康水。
此外,亚运村和亚运分村目前已基本具备入住条件。主媒体中心已完成基础搭建,将于9月18日正式运行。
TOP9热点:多家超市宣布春节放假噼里啪啦国语在线播放
一批又一批中国青年秉承共商共建共享的理念,积极投身“一带一路”建设,几十万名海外中资机构青年员工在异国他乡辛勤工作,为当地经济社会发展作出贡献。
TOP10热点:如何评价综艺一路繁花混乱家庭派对
尼日尔军方27日针对最新局势在其社交媒体账号上发表由总参谋长阿卜杜・西迪库・伊萨签署的声明。声明说,为了保护总统巴祖姆及其家人的生命安全,同时避免军队内部发生致命性对抗引发流血事件,军方已决定支持政变军人发表的声明。