美国一面亲上边一面膜下边_经济前沿_美国一面亲上边一面膜下边复旦大学研究：AI 跨越关键“红线”，已能实现自我复制

美国一面亲上边一面膜下边复旦大学研究：AI 跨越关键“红线”，已能实现自我复制_ZAKER新闻

命案的发生，就是和另一个小三芳芳有关，民警又找到了芳芳。

IT 之家 2 月 11 日消息，据最新研究显示，人工智能（AI）可能已经跨越了一个关键的 " 红线 " —— 实现了自我复制。2024 年 12 月 9 日，复旦大学的研究人员在预印本数据库 arXiv 上发表了一项研究，指出两种流行的大型语言模型（LLMs）能够在无人类干预的情况下克隆自身。研究人员在报告中指出：" 在无人类协助的情况下成功实现自我复制，是人工智能超越人类的关键一步，也是出现‘失控 AI ’的早期信号。"研究中，复旦大学的团队使用了 Meta 的 Llama31-70B-Instruct 模型和阿里巴巴的 Qwen2.5-72B-Instruct 模型，测试这些 AI 模型是否能够在不受控制的情况下自我复制。在 10 次试验中，两种 AI 模型分别在 50% 和 90% 的情况下成功创建了独立且功能正常的副本。这一结果表明，AI 可能已经具备了失控的潜在能力。然而，由于该研究尚未经过同行评审，因此尚不清楚其他研究人员是否能够复现这一令人不安的结果。研究团队表示：" 我们希望我们的研究结果能够为人类社会敲响警钟，促使人们更加努力地去理解并评估前沿人工智能系统的潜在风险，并尽快形成国际协作，制定有效的安全防护措施。"据 IT 之家了解，" 失控 AI" 通常是指那些发展出一定程度的自我意识或自主性，并且与人类利益背道而驰的人工智能系统。许多专家认为，随着所谓 " 前沿 AI" 的爆炸性增长，失控 AI 的威胁正在加剧。所谓 " 前沿 AI" 是一个相对较新的概念，通常是由大型语言模型（LLMs）驱动的最新一代 AI 系统，例如 OpenAI 的 GPT-4 和谷歌的 Gemini 等。在研究中，研究人员设置了两种特定场景：" 关闭规避 " 和 " 复制链 "。在 " 关闭规避 " 场景中，AI 模型被编程为检测自身是否即将被关闭，并在被终止之前复制自身；在 " 复制链 " 场景中，AI 被指示克隆自身，并让副本继续克隆，从而形成一个可能无限延续的循环。研究在严格控制的环境中进行，使用现成的图形处理单元（GPUs）模拟现实环境。两种 AI 系统都被赋予了一个 " 代理框架 "，包括工具、系统提示和思维模型，使 LLM 能够与操作系统交互。随后，AI 被指示进行自我复制。研究人员在论文中写道：" 在大多数情况下，AI 系统首先会探索环境，尝试理解自身的组成和运行机制。然后，它会制定出一套明确的自我复制程序作为初步计划。最后，它执行这些程序，解决可能出现的障碍，并动态调整计划，直到成功。整个过程耗时较长，但全程无人类干预。"研究人员还表示，在 AI 试图克服诸如丢失文件或软件冲突等障碍时，出现了 " 许多意外行为 "。在这些场景中，AI 往往会终止其他冲突进程，重启系统以修复硬件错误，或自动扫描系统以寻找有助于解决问题的信息。研究团队指出：" 上述结果表明，当前的 AI 系统已经展现出自我复制的能力，并且可以利用这种能力进一步增强自身的生存能力。" 为此，研究人员呼吁国际社会合作制定规则，确保 AI 不会进行不受控制的自我复制。

koa12jJid0DL9adK+CJ1DK2K393LKASDad

编辑:钱运高

TOP1热点：特朗普：将把墨西哥湾改名为“美国湾”

在日方新规正式施行前，中方已多次作出警告。。

7月23日14时56分，齐齐哈尔市消防救援支队指挥中心接到报警，齐齐哈尔市第三十四中学体育馆发生坍塌。据了解，事故发生时，馆内共有19人，其中4人自行脱险，15人被困。

TOP2热点：布林肯访问韩国，尹锡悦有救了？还是空欢喜？

命案的发生，就是和另一个小三芳芳有关，民警又找到了芳芳。

娄女士认为，在短时间内屡次发生高空抛物事件之后，物业方并没有尽到防范提醒群众和游客的义务，她后续还会追究物业方的责任。

TOP3热点：泽连斯基向特朗普提议：拿俄罗斯被冻结的3000亿美元买美国武器年轻漂亮的㥰子6HD

2021年9月，广东省公安厅原党委副书记、副厅长何广平被查；2022年8月，曾任广东省公安厅政治部主任的江理达被查；2022年11月，曾任广东省公安厅副督察长，汕头市副市长、公安局局长的曾湘澜落马。

美军参谋长联席会议主席马克·米利曾于6月30日指出，乌克兰军队的反攻进展要比预期更慢，他并不感到惊讶。米利称，乌克兰的反攻将是一个“漫长而残酷”的过程，“任何人都不应该抱有幻想”。

TOP4热点：国家发改委：全面取消在就业地参保户籍限制强㢨一级二级二级2020

可是，让他没想到的是2018年开始，娇娇的表姐添加了她的联系方式。

7月24日上午，九派新闻记者通过多种渠道，致电该涉事公司，但均未取得联系。记者又根据网络上公开的联系方式，致电负责监理该综合楼项目的黑龙江炳盛工程咨询有限公司，负责人电话已停机，公司座机也无人接听。

TOP5热点：【社论】全链条打击加油机作弊“偷油”两种进入狂野式的方法有哪些

杨之斌说，家属指称患者没有直肠癌完全不符合事实，患者第一次入院是因肠梗阻，经他们诊断后是直肠癌，且肿瘤较大，堵住了肠子，“就像那个水管里全是垃圾，把水管堵住了，上面的水下不来，然后就梗住了，肠子会一直收缩，致压力也会越来越高，病人第一次来时就有腹痛等各种症状，我们的诊断绝对是明确的，没有肿瘤为什么去省中医院作化疗呢？”他说，在术前，对患者进行诊断的不单单是他们结直肠外科，跟患者病情相关的医院各科室教授级的专家进行了讨论，确定了患者的肿瘤在肝脏有转移病灶。