宏翔小蓝视频GY2022赵何宏翔小蓝视频GY2022娟:我们准备好面对GPT大模型的瓶颈期了吗?_ZAKER新闻
赵何宏翔小蓝视频GY2022娟:我们准备好面对GPT大模型的瓶颈期了吗?_ZAKER新闻
福建坤彩材料科技股份有限公司
我最近几个月都在忙着全球市场调研和钛媒体海外办公室的筹建,所以发布视频有一搭没一搭,但没想到我这样任性的博主,也能收到很多用户的催更和问询了,比如很多人在问我 GPT-5 为何还没发布啊,硅谷最近有爆发什么新的创业应用方向吗等等。我能感受到大家很着急很焦虑,但我们现在需要更多的是耐心不是着急。几个月前我就在一个公开演讲里预言,大家期望的今年作为大模型应用爆发元年可能不会来到,说爆发还为时尚早,只能算开始。大模型这几个月的发展验证了我的说法。包括硅谷最近在技术圈也一直流传一个说法那就是 GPT-5 的内部测试失败了,今年已不大可能推出。因为基于 Transformer 的 GPT 类模型已经进入了扩展瓶颈,且除了聊天和一些比如编程、文本、设计、办公等工作流辅助类应用,很难全面应用于市场,而这些 GPT-4o 已经足够支撑。原有架构再升级短期内很难有质的突破。这些瓶颈包括模型自身架构扩展能力,也包括数据瓶颈,甚至也包括安全和伦理需求的应对瓶颈,还有因为应用局限带来的市场需求本身的瓶颈。而一贯更善于追随的中国大模型和应用创业者们又是否为此做好了变道的准备?这个瓶颈期会有多长,还很难判断,但无论是三个月、半年还是一年或更长,可能对于我们来说都会是比较难熬的一段时间。好消息是,基于美国一些科技媒体的报道猜测,还有我从多方面了解的信息,OpenAI 可能正在考虑推出一个新的模型方向产品,不再局限于 Transformer 的架构,或被命名为 "Orion"(也有人说或被命名 GPT-NEXT),Orion 是猎户座(Orion)的拉丁名称,象征着力量、探险和发现,具有强烈的探索未知的神话意义,NASA 的猎户座飞船(Orion spacecraft)也以此命名,用于未来载人深空探索任务。如果最终真的以此代号命名,或许暗示了 OpenAI 将此作为 AI 真正新纪元的开始,而非此前的 GPT。但目前对于这一代号,OpenAI 官方是既没有承认也没有否认的状态。Orion 模型也是 OpenAI 内部代号为 " 草莓 "(Strawberry)系统项目的一部分,有报道称在内部演示草莓系统,Orion 模型的推理能力已经远高于 GPT,幻觉极错误率却远低于 GPT。根据多方面的信息,我总结了几点 Orion 可能和 GPT 模型的不同,Orion 虽然仍可以被归类为大语言模型(LLMs),但它可能在技术架构上与现有的 GPT 系列有显著的不同。以下是一些可能的技术差异和演进方向:1. 基础架构的演进新型架构:Orion 可能采用更新的模型架构,不再局限于 GPT 系列使用的 Transformer 架构。它可能引入更高效的模型组件或完全新的神经网络设计,以提升模型的计算效率、推理能力和生成质量。模块化设计:Orion 可能采用更加模块化的设计,使其更容易集成不同类型的数据源(例如文本、图像、音频等),从而实现多模态处理能力。这与现有的 GPT 模型相比可能是一个重要的区别。2. 多模态能力跨模态学习:Orion 可能不仅仅是一个语言模型,而是一个能够处理和生成多种数据形式的模型,例如图像、声音和视频。这种多模态能力可能通过融合不同类型的数据来增强模型的理解和生成能力,使其适用于更广泛的应用场景。联合训练:Orion 可能采用联合训练方法,让模型在多个模态上同时学习,从而在理解上下文和生成内容时更加全面和准确。这可能是与传统 GPT 模型的关键区别,后者主要专注于文本数据。3. 安全性与可控性增强的控制机制:在安全性和可控性方面,Orion 可能引入更多的内置控制机制,以避免生成有害或不适当的内容。这可能包括新的过滤算法、增强的上下文理解能力,以及更高层次的可解释性功能。动态调整能力:Orion 可能具备更强的动态调整能力,根据用户的需求和反馈实时调整模型的输出风格和内容,这是 GPT 系列目前在某些方面仍做不到的。4. 优化计算与能源效率计算效率:Orion 可能会采用新的技术来提升计算效率,例如稀疏激活、压缩技术或其他形式的优化,以在保持模型性能的同时减少计算资源的消耗。这可能使得 Orion 比 GPT 模型在实际应用中更具成本效益。能源效率:在能源消耗上,Orion 可能更加注重优化,考虑到环境影响和资源限制,这一点在未来的 AI 发展中会变得越来越重要。5. 应用场景的扩展行业定制化:Orion 可能更专注于行业定制化应用,提供针对不同行业需求的优化模型,而不仅仅是一个通用的大语言模型。这种定制化可能涉及更深入的行业知识整合和特定领域的数据训练。交互性增强:Orion 可能在交互性上有显著提升,能够更好地理解用户意图和需求,提供更自然和智能的交互体验。总之,Orion 作为大语言模型的发展方向,可能会在架构、功能和应用场景上进行显著的拓展和改进。至于未来 Orion 和 GPT 会是什么关系,是短期的应对瓶颈期的权宜之计,还是长期对 GPT 的替代,亦或是两种模型路线各自升级的并存,可能都要有待于在 OpenAI 的发展中确定了,我们只能拭目以待。(本文首发于钛媒体 App,作者赵何娟为钛媒体创始人 &CEO)关注 " 赵何娟 ",更快了解全球经济、科技新趋势。koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:章汉夫
TOP1热点:娃哈哈去年给一线员工发薪24亿元,生产端一线人均工资增长23%
律师:李易、张凡。
TOP2热点:一次解雇17名监察长,特朗普“深夜清洗”为政府滥权铺路?
玛丽安娜·科波:我在学习生涯中遇到过一些麻烦,历经多次失败的尝试之后(我曾展开心理学的学习,但并没有坚持多久),到了23岁时,我从罗马搬到米兰,参加了为期一年的编辑插画课,在那里我发现了绘本,并难以自拔地迷恋上了这种叙事媒介。从那时起,插画对我来说就成了一种讲故事的形式。是绘画过程本身强烈吸引了我。
TOP3热点:美国福克斯新闻电视节目主持人皮特·海格塞斯出任国防部长14MAY18_XXXXXL56ENDIAN中国
佰维存储正是一家主要从事半导体存储器的研发设计、封装测试、生产和销售的公司,于2022年12月30日登陆科创板。佰维存储核心业务存储产品的销售收入占比超9成。
TOP4热点:春节前机票价格再跳水,业内:与去年同期基本持平,环比小幅下滑德国大8BW德国大8Bw
(一)业绩预告期间
TOP5热点:国家卫健委最新研判:全国范围内呼吸道传染病流行情况已下降一线产区二线生产区的区别
信函登记地址:公司证券部,信函上请注明“股东大会”字样;
2、激励对象不存在《管理办法》规定的不得成为激励对象的情形:
TOP6热点:女子生完孩子后却得知准丈夫已婚,法院:男方恶意隐瞒,应承担侵权责任一本大道色卡1卡2卡3
经营范围:蒸汽、热水的生产和供应,热力发电。(依法须经批准的项目,经相关部门批准后方可开展经营活动)
TOP7热点:北京市东城区委副书记章建伟已任中国贸促会北京市分会党组书记儿媳妇夸我比他老公大
在上述约定期间内因未达到解除限售条件的限制性股票,不得解除限售或递延至下期解除限售,公司将按本激励计划规定的原则回购并注销激励对象相应尚未解除限售的限制性股票。
TOP8热点:暴雪+寒潮来袭、气温骤降超20℃,春运返乡需留意中国MACBOOKPRO高清
(四)股东对所有议案均表决完毕才能提交。
TOP9热点:直播丨上海四大火车站通宵运营中,澎湃新闻8小时不间断直击暴躁妹妹CSGO
被告:北京金隅空港开发有限公司
TOP10热点:只讲三点|中美间又有重要通话,王毅送给鲁比奥四个字37大但人文艺术馆A级
2、《私募投资基金备案证明》。
3、本次权益变动后,股东北京华建盈富实业合伙企业(有限合伙)持有公司股份165,585,097股,占公司总股本的比例为4.99997%,不再为公司持股5%以上的股东。