吃瓜黑样不打料官网26年前的古董Win98电脑成功运行大语言模型:搭载奔腾 I吃瓜黑样不打料官网I处理器_ZAKER新闻
26年前的古董Win98电脑成功运行大语言模型:搭载奔腾 I吃瓜黑样不打料官网I处理器_ZAKER新闻
同一天,美国半导体工业协会(SIA)也发表声明,反对美国政府限制美国企业对中国出口芯片。
IT 之家 12 月 30 日消息,一个名为 EXO Labs 的组织今日在社交媒体上发布了一段视频,展示了一台运行 Windows 98 系统的 26 年高龄的奔腾 II 电脑(128MB 内存)成功运行大型语言模型(LLM)的情形。随后,EXO Labs 在其博客上发表了一篇详细文章,进一步阐述了这个项目的细节,以及其 " 普及人工智能 " 的愿景。IT 之家注意到,视频中一台 350MHz 的 Elonex 奔腾 II 电脑启动 Windows 98 后,EXO Labs 运行了基于 Andrej Karpathy 的 Llama2.c 开发的定制纯 C 推理引擎,并让 LLM 生成了一个关于 "Sleepy Joe" 的故事。令人惊讶的是,整个过程运行流畅,故事生成速度也相当可观。EXO Labs 由牛津大学的研究人员和工程师组成,于今年 9 月正式对外亮相,其使命是 " 普及人工智能 "。该组织认为,少数大型企业控制人工智能会对文化、真相以及社会其他基本方面造成负面影响。因此,EXO Labs 希望 " 构建开放的基础设施,以训练前沿模型,并使任何人都能在任何地方运行它们 ",从而让普通人也能在几乎任何设备上训练和运行 AI 模型。此次在 Windows 98 上运行 LLM 的壮举,正是对这一理念的有力证明。根据 EXO Labs 的博客文章,他们从 eBay 上购得了一台老式 Windows 98 电脑。然而,将数据传输到这台老机器上却是一个挑战,他们最终通过其以太网端口使用 " 古老的 FTP" 完成了文件传输。更大的挑战在于为 Windows 98 编译现代代码,幸运的是他们找到了 Andrej Karpathy 的 llama2.c,这是一个 " 用 700 行纯 C 代码即可在 Llama 2 架构的模型上运行推理 " 的工具。借助这一资源以及老式的 Borland C++ 5.02 IDE 和编译器(以及一些小的调整),EXO Labs 成功将代码编译成可在 Windows 98 上运行的可执行文件。他们还在 GitHub 上公开了最终代码。EXO Labs 的 Alex Cheema 特别感谢了 Andrej Karpathy 的代码,并对其性能赞叹不已,称其在使用基于 Llama 架构的 26 万参数 LLM 时,在 Windows 98 上实现了 " 每秒 35.9 个 token" 的生成速度。值得一提的是,Karpathy 曾任特斯拉人工智能主管,也是 OpenAI 的创始团队成员之一。虽然 26 万参数的 LLM 规模较小,但在这台古老的 350MHz 单核电脑上运行速度相当不错。根据 EXO Labs 的博客,使用 1500 万参数的 LLM 时,生成速度略高于每秒 1 个 token。而使用 Llama 3.2 10 亿参数模型时,速度则非常缓慢,仅为每秒 0.0093 个 token。EXO Labs 的目标远不止于在 Windows 98 机器上运行 LLM。他们在博客文章中进一步阐述了其对未来的展望,并希望通过 BitNet 实现人工智能的普及。据介绍,"BitNet 是一种使用三元权重的 transformer 架构 ",使用这种架构,一个 70 亿参数的模型只需要 1.38GB 的存储空间。这对于一台 26 年前的奔腾 II 来说可能仍然有些吃力,但对于现代硬件甚至十年前的设备来说,都非常轻量级的。EXO Labs 还强调,BitNet 是 "CPU 优先 " 的,避免了对昂贵 GPU 的依赖。此外,据称这种类型的模型比全精度模型效率高 50%,并且可以在单个 CPU 上以人类阅读速度(约每秒 5 到 7 个 token)运行一个 1000 亿参数的模型。koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:贾怡
TOP1热点:中方是否邀请特朗普访华?外交部回应
民警查了一下收款账号,发现娇娇的表姐和娇娇收钱的卡号是同一个人的。都是娇娇本人的。。
1997年,毕力夫回国,在内蒙古医学院任教授,历任科研处处长,教务处处长,内蒙古医学院副院长,党委副书记、院长。
TOP2热点:张春林当选山西省政协主席
经入院后完善相关检查,2021年10月8日,王卫东的头、胸、腹部CT报告显示:直肠中下段管壁增厚,符合直肠癌CT征象,前列腺受累可疑;盆腔、直肠系膜内多发淋巴结显示,部分肿大,考虑转移;肝左外叶上段占位,转移待排等。10月13日的病理检查报告显示,王卫东直肠腺癌;14日的盆腔MRI报告显示,王卫东直肠中下段癌,肛管未受累,直肠上动脉周围、直肠系膜筋膜内淋巴结转移等。
TOP3热点:春节前,成都一小区业委会向业主分发共26万余元公共收益樱花动漫—专注动漫
盖洛普分析称,“总统职务评价数据实际上与上周没有变化,肯定评价的理由也一样”,“否定评价者选择的理由中,灾难、民生应对相关内容出现,福岛放流比重减少”。
据潇湘晨报此前报道,齐齐哈尔市120急救指挥中心工作人员表示,事发后急救工作异常繁忙,有多伤者被送往该市多个医院进行治疗,有的没有家长陪同。
TOP4热点:“我来到你的城市”!透视“反向春运”热潮:逐渐变成“微度假”欧洲色网
【环球时报-环球网报道记者陈青青】在7月24日举行的外交部例行记者会上,有记者提问,20号,美国中央情报局局长伯恩斯在出席阿斯彭安全论坛时,称美国在华情报网络重建已经取得进展,正努力构建强劲的人力情报收集能力,以补充其他情报的获取渠道,请问中方对此有何评论?
一段时间以来,日本在防务、经贸等多个领域积极配合美国围堵中国,导致中日关系陷入复杂困难局面。
TOP5热点:存款80万元到期取不出来?工行:客户转账80万至第三方公司账户用于投资超级艺术在线观看
此外,该工作人员表示,
“家里已经背了几十万的债,我也花了太多精力,不知道该怎么办了。”奉江说。
TOP6热点:中国海军054B护卫舰首舰漯河舰交接入列伊人爱草
吵架的人是一男一女,两个人讨论了一会就打了起来。
去年,美国商界97岁的格林伯格,邀请中国前政府官员和学者访美。中美关系遭遇佩洛西窜台的巨大挫折后,也因此得以从民间先行破冰。
TOP7热点:昆明市市长刘佳晨被查,曾数次参加马拉松比赛受关注美女奶头无遮挡
对此,中国外交部发言人毛宁说,日方不顾中方的严重关切,执意出台和实施对华指向性明显的出口管制措施,中方深感遗憾和不满,已经在不同层级向日方提出了严正交涉。近年来个别国家将经贸问题政治化泛安全化,包括滥用出口管制措施在内,频繁动用行政手段强推高科技领域“脱钩断链”。这些错误做法违背市场经济规律,违反自由贸易原则和国际经贸规则,不仅让相关企业蒙受损失,也影响地区乃至全球半导体产业链供应链的安全和稳定。
TOP8热点:避免“帽子化”,杰青、优青更名为青年科学基金项目A类B类小太妹vip破解版
中方始终认为,对话谈判是解决乌克兰危机的唯一可行出路。希望各方致力于政治解决危机,共同推动局势缓和。
“听到妹妹出事了,我们家人像疯了一样,我父母快70岁了,一直哭一直哭,我妹妹从小就很懂事,很优秀,和家里人感情都很好,真的让人难以接受。”
TOP9热点:大学生寒假参加“护农队”打野猪触碰捕兽电网身亡,警方立案Gay1069男男内射
与临沧边境线一网之隔的缅甸,是两人不愿听到的字眼,也是国内不少家庭噩梦的开始。
8月22日,受委托当天,云南维权司法鉴定中心对王卫东的尸体进行了解剖。
TOP10热点:特朗普提出继续运营TikTok方案,外交部:若涉及收购中国企业应符合中国法律法规福彩3d千禧试机号
与临沧边境线一网之隔的缅甸,是两人不愿听到的字眼,也是国内不少家庭噩梦的开始。