搞机time下载不用不收钱中央2GB 内存就能跑 ChatG搞机time下载不用不收钱中央PT！这个国产「小钢炮」，要让华为 OV 们的 AI 体验突破瓶颈_ZAKER新闻
2GB 内存就能跑 ChatG搞机time下载不用不收钱中央PT！这个国产「小钢炮」，要让华为 OV 们的 AI 体验突破瓶颈_ZAKER新闻
正因如此，一方面，科研人员的经费宽裕与否并不影响其招聘学生或博后，招聘只看学术水平，比如IPMU为招到全世界最优秀的博后，提供了一份非常有国际竞争力的薪酬；另一方面，青年科研人员也可以自由选择博导和合作导师，并选择自己感兴趣的研究方向，而不必担心导师是否有充足的经费支持。“日本科研人员都不存在非得申请经费才能维持团队存活下去的压力，这给他们提供了一个可以安静做学术的长期稳定的环境。为什么日本的诺奖得主这么多？因为他们的科研生态不急功近利。”庄辞强调。
在这波 AI 浪潮中，面壁智能是国内少有选择 All In 端侧模型的头部大模型厂商。自从面壁智能 2 月份发布性能小钢炮 1.0 后，接连几月陆续迭代升级，其中后续推出的开源模型 MiniCPM-Llama3-V 2.5 更是因为强悍的实力遭到了斯坦福 AI 团队的抄袭。四月份，面壁智能 CTO 曾国洋还曾预言，GPT-3.5 级别的模型将在一两年内就能在移动设备上运行。好消息是，不用再等一到两年了，因为今天发布的 MiniCPM 3.0 实现了初代小钢炮发布时立下的 Flag：今年内让 GPT-3.5 水平的模型在端侧跑起来。仅 4B 参数，以小博大，性能超越 GPT-3.5，MiniCPM 3.0 也标志着「端侧 ChatGPT」时刻的到来。简单来说就是，MiniCPM 3.0 的面世意味着用户未来能体验到快速、安全、且功能丰富的本地 AI 服务，无需依赖云端处理，以及获得更流畅、更私密的智能交互体验。从官方分享的基准测试来看，MiniCPM 3.0 在 CMMLU、CEVAL 等考究中文能力的基准测试中一骑绝尘，轻松碾压 Phi-3.5、以及 GPT-3.5 等模型。而即便是对上了 8B、9B 等国内优秀的大模型，MiniCPM 3.0 的表现同样相当出众。简单总结一下 MiniCPM 3.0 的特点：无限长文本，榜单性能超越 Kimi端侧最强 Function call，性能比肩 GPT-4o超强的 RAG 外挂三件套，中文检索、中英跨语言第一 无限长文本，性能超越 Kimi小而强、小而全，或许是 MiniCPM 3.0 最贴切的形容词。上下文长度是衡量大模型基础能力的一项重要特性，更长的上下文长度意味着模型能够存储和回忆更多的信息，从而有助于模型更准确地理解和生成语言。举例来说，更长的上下文长度能够让一个 AI 写作工具根据用户之前写的内容提供更相关的建议，或者根据更多的背景信息创作出更复杂、更引人入胜的故事。为此，面壁提出了 LLMxMapReduce 长本文分帧处理技术。这是一种通过将长上下文切分为多个片段，让模型并行处理，并从不同片段中提取关键信息，汇总最终答案，实现无限长文本。据悉，这一技术普遍增强了模型处理长文本的能力，且在文本不断加长的情况，仍保持稳定性能、减少长文本随加长掉分情况。▲ LLMxMapReduce 技术框架图从 32K 到 512K，MiniCPM 3.0 能够打破大模型记忆的限制，将上下文长度无限稳定拓展，用面壁官方的话来说就是「想多长就多长」。从大模型长文本的基准测试 InfiniteBench 结果来看，随着文本长度的增加，4B 参数的 MiniCPM 3.0 的性能优势反而愈发明显。InfiniteBench Zh.QA 评测结果显示，4B 参数的 MiniCPM 3.0 整体性能优于 Kimi，在更长的文本上显示出相对更强的稳定性。 端侧最强 Function call，性能比肩 GPT-4o在接受 APPSO 等媒体的采访时，曾国洋也表示，MiniCPM 3.0 针对用户关注的一些能力进行了提升，比如加入了完整的 system prompt Function Calling 和 code interpreter 等能力。其中 Function Calling（函数调用）能够将用户模糊化的输入语义转换为机器可以精确理解执行的结构化指令，并让大模型连接外部工具和系统。具体来说，通过语音在手机上调用日历、天气、邮件、浏览器等 APP 或相册、文件等本地数据库，从而打开终端设备 Agent 应用的无限可能，也让人机交互更加自然和方便。据介绍，MiniCPM 3.0 宣称拥有端侧最强 Function Calling 性能 ，在 Berkeley Function-Calling Leaderboard 榜单上，其性能接近 GPT-4o，并超越 Llama 3.1-8B、Qwen-2-7B、GLM-4-9B 等众多模型。曾国洋表示，现有的开源模型在这些能力上的覆盖并不全面，通常只有一些云端的大型模型能够完全覆盖这些能力。现在，MiniCPM 3.0 也实现了一些相应的功能。以 RAG（检索增强生成）为例，这是一种结合了信息检索（IR）和自然语言生成（NLG）的技术。它通过从大规模文档库中检索相关信息来指导文本的生成过程，能够提升模型在回答问题、生成文本等任务中的准确性和可靠性，减少大模型的幻觉问题。对于法律、医疗等依赖专业知识库、对大模型幻觉容忍度极低的垂直行业来说，大模型 +RAG 在行业中尤其实用。MiniCPM 3.0 一口气上线了 RAG 三件套：检索模型，重排序模型和面向 RAG 场景的 LoRA 插件。MiniCPM-Embedding（检索模型）中英跨语言检索取得 SOTA 性能，在评估模型文本嵌入能力的 MTEB 的检索榜单上中文第一、英文第十三。MiniCPM-Reranker（重排序模型）在中文、英文、中英跨语言测试上取得 SOTA 性能。经过针对 RAG 场景的 LoRA 训练后，MiniCPM 3.0-RAG-LoRA 在开放域问答（NQ、TQA、MARCO）、多跳问答（HotpotQA）、对话（WoW）、事实核查（FEVER）和信息填充（T-REx）等多项任务上的性能表现，超越 Llama3-8B 和 Baichuan2-13B 等业内优秀模型。 模型应用落地，先跑起来再说在接受 APPSO 等媒体的采访时，面壁智能 CEO 李大海提到，能跑起来和真正流畅地去做应用是两个不同的概念。而经过优化后的 MiniCPM 3.0 对端侧设备的资源需求很低，量化后仅需 2.2 G 内存，iPad 端侧推理也能达到 18-20 tokens/s。对于 iPad 这样的移动设备来说，每秒能够处理 18-20 个 token 的速度已经意味着模型能够实时处理自然语言输入。比如在语音识别或实时翻译应用中，用户基本不会感受到明显的延迟，享受到相对流畅的交互体验。另外，相较于云端模型，作为端侧模型的面壁小钢炮 MiniCPM 系列模型还天然具有弱网、断网可用、超低时延、数据隐私安全等本地优势。在贡嘎雪山附近游玩时，想知道欣赏「日照金山」的最佳姿势，网络不佳的你可以向 MiniCPM 3.0 发出提问。又或者，如果你是「赶海」的新人，站在波涛汹涌的海岸边，却想要满载而归，那不妨可以遵循 MiniCPM 3.0 给出的建议。当你抬头仰望夜空时，萌生了捕捉星轨的念头，MiniCPM 3.0 也能给你将拍摄的细节娓娓道来。MiniCPM 小钢炮系列飞速进步的背后是一以贯之的高效大模型第一性原理。面壁智能首席科学家刘知远曾提出一个大模型时代的「摩尔定律」，即大模型的知识密度平均每 8 个月将提升一倍。知识密度 = 模型能力 / 参与计算的模型参数具体来说，随着模型知识密度的持续增强，2020 年 GPT-3 175B 能力到 2024 年 MiniCPM 2.4B 模型即可达到，2022 年底 ChatGPT 首次亮相内置的 GPT-3.5 到 2024 年 MiniCPM 3.0 模型即可达到。基于此，如果说 MiniCPM 追求的是极致端侧性能表现，那么 MiniCPM-V 追求的是极致多模态创新表现，面壁小钢炮的进步不是单方面的进步，而是端侧双旗舰的齐头并进。经过一两年的技术摸索，AI 大模型正逐步进入落地应用的深水区。李大海认为，大模型具有两个大方向的价值，一个方向的价值叫做升级旧世界，第二个方向的价值则是发现新大陆。比如苹果整合 ChatGPT 服务到 Apple Intelligence 中便是一个典型的例证。端侧模型也是如此，通过在手机、汽车还有 PC 这样的场景里面，更适合做的事情是去服务好终端的厂商，然后让终端厂商因为有了端侧模型，整个系统层级的体验也变得更好。只不过，在技术到产品的惊险一跃中，厂商也需要投入大量时间来融合用户需求与技术。正如李大海所言，尽管移动互联网自 iPhone 问世以来就已经存在，但真正大规模增长和被验证的应用确实是数年后才开始涌现。实际上，面壁智能也一直在探索落地应用的场景。此前，面壁小钢炮 MiniCPM 端侧模型已经在 PC、平板、手机等领域上实际运行。前不久，面壁智能也在 WAIC 上联手加速进化机器人，打造出完整「具身智能」的先驱方案，这也是业界首个高效端侧模型运行在人形机器人的演示，理解、推理、并与物理世界互动的智能系统。李大海也向 APPSO 等媒体剧透，预计在年底前将会有配备面壁智能端侧模型的产品上市。简言之，面壁智能不断将高效高性能大模型放到离用户最近的地方，让大模型的能力像电力一样被随意调用、无处不在、普适且安全。在这个过程，更多的人也能尽快地享受到大模型的价值和作用。MiniCPM 3.0 开源地址：GitHub: https://github.com/OpenBMB/MiniCPMHuggingFace: https://huggingface.co/openbmb/MiniCPM3-4Bkoa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:李际泰
TOP1热点：3分钱一片的阿司匹林是赔本中标吗
“大约全国去了32人，别人摊位是一个公司，我们则是一个国，摊位小而拥挤，但毕竟突破了‘零’。”黄令仪曾在自述中写道，“归国的大巴走了约一半车程，被通知我送的专利被评为银奖，高兴之余，写了几句歪句：神州之尊重泰山，赤子荣辱轻鸿毛；灵台无计四十载，不觉青丝已成雪。纽伦堡夜星光灿，启明银座落中华；十年耻痛今宵去，芳草天涯迷人还。”。
记者：针对两岸恢复旅游，大陆方面日前表示，民进党仍禁止台湾旅游团到大陆，台陆委会则称“等待大陆开放对台旅游”。目前两岸旅游似乎陷入胶着状态。请问发言人对此有何评论？最近是否有相关的计划？
TOP2热点：勇气翻唱
据黑龙江省纪委监委4月25日消息：黑龙江省哈尔滨市政协党组成员、秘书长，机关党组书记张希清涉嫌严重违纪违法，目前正接受佳木斯市纪委监委纪律审查和监察调查。
申军良从来不会和儿子聊起寻亲的事情，但在申聪的视频里，他拍下了爸爸车上的寻亲启事，还呼吁网友们多多关注转发。在申军良看来，这些或许是申聪表达自己爱的另一种方式。
TOP3热点：2025 冲锋衣推荐HOt po m HD720
“闫学会在被留置前期，对抗组织调查，采取了许多极端的方式，如装疯卖傻、撒泼耍赖等。这种表现反映出她在被留置前，做了大量的准备工作，所以被留置后存在侥幸心理，认为只要抵抗到底，就不会被查实。”办案人员表示。
TOP4热点：lips翻唱挑战轨道影院
在4月27日的外交部例行记者会上，发言人毛宁介绍通话的有关情况并强调，乌克兰危机全面升级以来，中方一直在为和平发声，为和谈尽力，国际社会对此有目共睹。中方立场归结为一句话，就是劝和促谈。中方将继续为政治解决乌克兰危机发挥建设性作用。
TOP5热点：奥特曼年终总结轨道影院
奥尔森强调，代表团此行重中之重是将听取中方关于高质量发展和绿色经济的意见，以了解澳大利亚企业未来的机遇。“我们预计会有商业成果，这些成果将在适当的时候公布，”奥尔森告诉记者。《澳大利亚人报》报道称，澳大利亚汇丰银行首席执行官安东尼·肖表示，在澳大利亚贸易委员会和外交部的协助下，代表团将热衷于探索原有贸易关系“基石”（铁矿石、煤炭）之外的新市场，尤其是绿色能源产业。
近日，中纪委网站刊发题为《欲壑难填 终陷囹圄》的文章，对北京市西城区市场监督管理局原党组书记、局长闫学会严重违纪违法案进行剖析。
TOP6热点：勇气翻唱十七岁电视剧日本
记者调查发现，这种“一拿到项目就有钱、没有项目收入很低”的现象在大部分主要依靠国家财政支持的科研机构很普遍，因为财政每年一次性提供的基本事业运营经费“只能保底”。比如在高能所，这笔钱主要用于“给员工发基本工资、基础的基建和修缮、水电支付等”。王贻芳说，高能所基本是靠竞争性经费活下来的，从研究所（课题组）的科研经费来看，竞争性经费占比几乎是100%。
在今年3月16日举行的中国商务部例行新闻发布会上，新闻发言人束珏婷在回应澳大利亚煤炭进口问题时曾称，中国对煤炭进口实行自动许可管理，煤炭自动进口许可证可正常申请。
TOP7热点：相声演员张金铭去世美式保罗第二部
不过，也有业内人士分析认为，虽然目前官方对参考价已有表态，但核心还要看贷款端动作。如果银行在放贷过程中如传言所述具体执行，那也将对二手房参考价机制产生影响。
不过，也有业内人士分析认为，虽然目前官方对参考价已有表态，但核心还要看贷款端动作。如果银行在放贷过程中如传言所述具体执行，那也将对二手房参考价机制产生影响。
TOP8热点：全国流感病毒阳性率快速上升京东影业在线观看的成功之路
长安街知事注意到，2022年4月8日至6月2日，中央第八巡视组对国家粮食和物资储备局党组开展了常规巡视。之后不到两周，张务锋于6月15日官宣被查。同年12月30日，中央纪委国家监委发布消息，开除其党籍和公职。
TOP9热点：新年第一拍我的狗老公拉婆婆一起
今天国务委员兼外长秦刚在出席中国-中亚外长会期间再次强调，再复杂的危机，最终都要通过谈判化解；再复杂的冲突，最终也只有政治解决一条路。也只有这样的深刻洞察与清醒认知，真正成为国际共识，只有当越来越多的国家像中国一样真正实践“三个不会”，乌克兰危机停火止战、实现政治解决，才最终可期可即。
公开报道中，无论是中央纪委国家监委还是各地方纪委监委通报的违反中央八项规定精神问题，大部分都发生在党的十八大、十九大之后，党的二十大之前。
TOP10热点：零跑向车主扎出新年第一刺md0070沈娜娜苏清歌团圆火锅
当前，二手房市场正处于复苏后动能趋缓阶段，市场相关主体迫切希望有新的利好消息刺激。根据贝壳研究数据，2023年一季度，贝壳50城二手房成交量指数同比增长，已接近2021年一季度水平；一季度房价扭转17个月连续下跌趋势转涨，环比涨幅累计2.4%。但从交易前瞻指标来看，近期二手房景气指数回落，客户看房量同步下降，买卖双方价格分歧变大，客户决策周期拉长。贝壳经理信心指数KMI已跌落至50附近，经纪人对未来交易继续修复不乐观，预计短期内市场交易量仍将调整。
第十五轮军长级会谈后，西部战区表态评价会谈是积极和建设性的，“双方一致同意继续保持军事和外交渠道的对华，尽快达成双发都能接受的解决方案”。