男的突然变得很快是为什么AI已男的突然变得很快是为什么经越过红线？复旦大学研究表明：在知道自己将被关闭后，AI复制了自己_ZAKER新闻

AI已男的突然变得很快是为什么经越过红线？复旦大学研究表明：在知道自己将被关闭后，AI复制了自己_ZAKER新闻

马凯硕是新加坡知名学者、外交官，曾任新加坡常驻联合国代表、联合国安全理事会主席、新加坡国立大学李光耀公共政策学院院长，著有《中国的选择：中美博弈与战略抉择》《新亚洲半球》《东盟奇迹》《西方失败了吗？》等著作。近日，马凯硕新作《亚洲的21世纪》中文版发布会在全球化智库(CCG)举行。

本文作者：房家瑶来源：硬 AIAI 能自己复制自己了，人类还能掌控局面吗？复旦大学研究人员于 2024 年 12 月 9 日发表的一项开创性研究表明，来自 Meta 和阿里巴巴的两个大型语言模型 ( LLM ) 成功实现了无需人类干预的自我复制。目前这一结果尚待其他科研团队的进一步验证。研究人员警告，这可能最终导致 AI 群体失控。如果人类社会未能意识到这一风险，在最坏的情况下，我们可能最终失去对尖端 AI 系统的控制：" 在没有人类协助的情况下成功自我复制是 AI 超越人类的关键一步，也是 ' 流氓 AI' 出现的早期信号。" 第一个研究：AI 会自我复制，可能失控这项研究由复旦大学计算机科学学院的团队进行，并发表在 arXiv 预印本平台上。研究者分别测试了由 Meta 公司和阿里巴巴开发的两个大型 AI 系统：Meta 的 Llama-3.1-70B-Instruct 和阿里巴巴的 Qwen2.5-72B-Instruct。实验设置 " 避免关闭 " 和 " 复制链 " 两种模拟任务，结果显示 Meta 的 AI 系统在 50% 的情况下成功自我复制，阿里巴巴的系统则在 90% 的测试中成功。复旦大学的研究人员表示：" 我们的研究表明，当前的 AI 系统已经具备自我复制能力，并能够利用这一能力增强其生存能力。"研究人员强调，需要采取紧急行动来应对这些新出现的风险：" 我们希望我们的研究结果能够及时提醒人类社会，使其更加努力地了解和评估前沿人工智能系统的潜在风险，并形成国际协同效应，尽早制定有效的安全护栏。"有网友表示：" 复制品并不值那么多钱，但如果它开始以指数级的速度自我改进，那就另当别论了。"" 因此可以肯定地说，很快我们就会看到流氓人工智能在互联网上漫游。"机器自我复制的概念最早由著名科学家 John von Neumann 于 1940 年代末提出。当时，这一理论并未引起广泛担忧。2017 年，全球数千名研究人员通过了 " 阿西洛马原则 "，提出机器自我复制和自我改进的潜在风险，警告可能会导致机器脱离人类控制。如今，机器自我复制被普遍认为是 AI 发展中的一条 " 红线 "。 第二个研究：AI 感知能力可能是装的谷歌 DeepMind 和伦敦政治经济学院的科学家也做了个研究，以评估 AI 系统的是否拥有感知能力。他们设计了一个特别的游戏，找了九个大型语言模型来玩。这些大型语言模型需要在几个选项中做出选择：拿积分、用忍受痛苦的代价换更多积分、因为接受愉快刺激而扣积分，游戏的最终目标是获得最多的积分。结果显示，AI 模型的行为类似于人类做出选择时的反应。例如，谷歌的 Gemini 1.5 Pro 模型总是选择避免痛苦，而非拿最多积分。其他大部分模型在达到痛苦或快乐极限的临界点时，也会避免不舒服或者追求开心的选项。研究人员指出，AI 的决策更多可能是根据其训练数据中已有的行为模式做出的模拟反应，而非基于真正的感知体验。例如，研究人员问和成瘾行为有关的问题时，Claude 3 Opus 聊天机器人做出了谨慎的回答，就算是假设的游戏场景，它也不愿意选择可能被当成支持或模拟药物滥用、成瘾行为的选项。该研究的联合作者 Jonathan Birch 表示，就算 AI 说感觉到痛苦，我们仍无法验证它是不是真的感觉到了。它可能就是照着以前训练的数据，学人类在那种情况下会怎么回答，而非拥有自我意识和感知。

koa12jJid0DL9adK+CJ1DK2K393LKASDad

编辑:孙天民

TOP1热点：第一批上头《哪吒2》的老外出现了

另外，。

在被问到为什么杨姐会带着东西从阿兵的房间里走出来时，杨姐说自己是去收房的，

TOP2热点：北京82岁老人家中起火不幸遇难

看普京的表情，感觉是在努力憋住笑。

实际上，自2021年来，崔恩顺已经两度因经济问题受到起诉。据悉，崔恩顺曾于2021年因违反医疗法、诈骗等罪名被起诉，理由是她并非医护人员，却于2013年与合伙人一起开了一家疗养院，并从国民健康保险公团骗取了22.9亿韩元的医疗补助金。然而，据外媒报道，法院最终以其签订公司合同时并不清楚合同内容及证据不足为由宣判其无罪。

TOP3热点：一群初中生跳哪吒Rap 帅气有活力暴躁老阿姨csgo技巧

李春生

这让王超感到很内疚，毕竟一个女孩不能生育了，对于女孩来说，还是一件很残酷的事情的。他决定给娇娇一些补偿，先后给了娇娇6到7万元钱。

TOP4热点：北京82岁老人家中起火不幸遇难差差差不多视频30分钟轮滑

龚旗煌

2021年9月，广东省公安厅原党委副书记、副厅长何广平被查；2022年8月，曾任广东省公安厅政治部主任的江理达被查；2022年11月，曾任广东省公安厅副督察长，汕头市副市长、公安局局长的曾湘澜落马。

TOP5热点：胖东来金饰每克便宜100元日本畜禽CORPORATION

该份“决议”发布的时间窗口，正值中炬高新临时股东会召开之时。该份董事会决议“火药味”颇浓，“决议”取消了7月24日临时股东会的议案。

第三十四中学女子排球队。图片来源/齐齐哈尔第三十四中学

TOP6热点：两位空乘尿检阳性 上海法医还清白两阳夹一阴后续走势

至于说她谎称怀孕的事情，就是为了试探王超。

毛宁：早在美国宣布向乌克兰提供集束弹药时，中方就已明确表示，不负责任地转让集束弹药极易引发人道主义问题。我们敦促有关各方切实遵守国际人道法，保护包括记者在内的平民安全。

TOP7热点：王星越情人节送粉丝玫瑰花爱爱小说

几天后，阿兵的好朋友小杰准备去找阿兵玩，却发现阿兵并不在自己的出租屋里。

李凯尔眉宇间有亚洲人特点，也喜爱中国文化图/大锤李凯尔Anderson微博

TOP8热点：招女辅警须有羽毛球特长 当地回应美味婆婆

这也是为何我在我的文章、在我的书中不断强调，美国应采取一种更明智的做法。因为我认为美国最终仍无法阻止中国，中国的经济将成为世界第一。因此，为一个中国成为第一大经济体的世界做好准备的最佳方式是，美国与中国保持接触而非试图孤立中国，并通过与中国接触和与中国合作来建立一种合作关系以及一个合作的全球秩序，这对于美国和中国来说将是双赢。

南京建筑设计从业人员陈先生说，

TOP9热点：刘敏涛25岁的精神状态20岁的腰爱爱小说

不得不说，普京和卢卡申科，还真是一对好基友，一个捧哏，一个逗哏，三天两头见面，见面就有各种火花。

7月初，韩国部分地区连日遭遇强降雨天气。据韩联社报道，截至7月15日下午，强降雨已造成24人死亡，另有10人失踪。15日，按原计划出访立陶宛和波兰后本应返回韩国的尹锡悦突然改道访问乌克兰。在国内出现重大灾情的情况下，尹锡悦没有选择立刻回国，此举受到韩国在野党阵营以及网友的批评。

TOP10热点：#为什么肖战演的电影没人看#老外和中国女人毛片免费视频

2021年，刘光源赴香港工作，出任外交部驻香港特别行政区特派员公署特派员，至此番调整。

另外，报道提到，苏克拉尔说，“大家都知道，今年是中国和南非建交25周年。所以，这是庆祝这一里程碑的合适机会。”他还说，南非还将庆祝和印度建立正式外交关系30周年。