父欲阅读_时尚新潮_遭GPT-4o碾压，豆包父欲阅读们直面语音AI生死战

遭GPT-4o碾压，豆包父欲阅读们直面语音AI生死战_ZAKER新闻

金砖国家坚持追求开拓创新。当前，科技发展一日千里，社会信息化成为时代潮流，以人工智能为代表的新一轮技术革命正给人类社会带来全新的发展机遇和挑战。金砖国家打造新工业革命伙伴关系，加强在未来网络、工业互联网和数字制造、制造业数字化转型、标准化等领域的合作。同时，金砖国家紧跟数字经济发展趋势，先后两次制定《金砖国家经济伙伴战略》。金砖国家重视加强数字时代的人才培养，持续推动在教育、科技等领域的合作，为可持续发展和创新合作打造人才库。

文 | 科技新知，作者丨廖政编辑丨蕨影最近，语音 AI 这个赛道，又被 OpenAI 搞火了。就在 9 月 25 日，GPT-4o 高级语音终于开始全量推出，Plus 用户一周内都能用了。在 OpenAI 的移动端 APP 上即可体验！讲真，这是 AI 渐冷的日子里，为数不多的 " 高光时刻 "。此外，还带上了一些更新，增加自定义指令、记忆、5 种新的声音和改进的口音。与标准语音模式进行区分（黑色旋转球），高级语音将以蓝色旋转球表示。并且，其中还包括对诸如重庆话、北京儿化音等地域性方言的精准模仿，可以说是学嘛像嘛。在消除语音机械感的同时，用户不仅可以随时打断通话，即使不和它说话时，它也能保持安静，一旦有任何问题可随时向它提出。从总体上来说，这次语音 AI 的更新，让 GPT-4o 的交互越来越有 " 人味 " 了。不过，早在 GPT-4o 的实时语音功能推出前，国内的一批大厂，就已经率先开始了对语音 AI 这块高地的争夺，其焦点也是冲着 " 实时交流 "" 真人化 " 等方向去的。至于结果…… 只能说，在 " 徒有其表 " 的模仿下，国内的语音 AI，离真正通用且泛化的人机交互方式，还有相当一段距离。Part.1 短板暴露在 AI 时代，语音 AI 最大的意义是什么？对于这个问题，科大讯飞给出了一个具有全局性的答案：语音平台可能成为未来物联网的 " 操作系统 "，换句话说，就是当物联网将所有的设备都能联网后，什么智能硬件、自动驾驶汽车、消费级机器人等等，都是潜在的应用场景。到那时候，要想让这些设备能听懂人话，那就得靠语音平台了。但是，虽然总的思路挺有格局的，但在具体实施的手段上，讯飞这样的大厂却走了一条" 自下而上 " 的路线。大体意思是，在语音 AI 生态的构建上，讯飞这几年基本上是从行业场景一个个往下打，像教育、医疗、政务这些场景，都是它们重点发力的地方。从总体上看，讯飞的策略是先抓住这些垂直领域，通过提供专用解决方案来逐步累积数据和优化算法。这个做法有个好处，就是每个场景里，讯飞可以做得很深、很专。举例来说，讯飞在 2022 年推出了 " 讯飞医疗 AI 医生助手 "，这款产品能在病历记录、辅助诊疗等方面提供语音输入和智能建议，帮助医生减轻文书工作压力。类似的例子，还有讯飞在 2023 年推出了 " 智慧课堂解决方案 "，旨在通过语音识别和评测技术，帮助教师进行实时的课堂互动与教学反馈。在这些垂直领域，星火的定制化方案，确实解决了很多行业痛点，也使得讯飞能够在激烈的市场竞争中保持行业的龙头地位。在 GPT-4o 推出语音演示功能后，讯飞的星火大模型，也紧随其后，推出了同样能够极速响应、自由打断，且能在各种情感、风格、方言随意切换的语音 AI。然而，对于构建能够 " 统一调度 " 的大平台级别的语音 AI 来说，除了做到布局广，且 " 说话流畅 " 之外，还有至关重要的一步。那就是：实时状态下的语音 AI，究竟能否帮助用户解决一些较为复杂的需求？关于这点，我们对讯飞的星火大模型进行了一次测试。左右滑动查看更多左：纯文本状态下的回答，右：实时语音状态下的回答例如，在询问开封有哪些著名景点时，讯飞的实时语音 AI，虽然回答得很流畅，但答案却较为简单，比纯文本状态下省略了很多内容。那造成这种差距的关键原因是什么？其实，对于 GPT-4o 这样的语音 AI 来说，除了确保通话流畅的 RTC 技术外，其背后还有一种关键的技术。这就是端到端的语音大模型。在以往的 AI 语音交互中，语音的处理大致分成了三个步骤。传统的 STT（语音识别，Speech-to-Text）-LLM（大模型语义分析）- TTS（文本到语音，Text To Speech）三步走的语音技术。这样的技术，特点是成熟，但反应慢，缺乏对语气等关键信息的理解，无法做到真正的实时语音对话。与过去的三步式语音交互产品相比，GPT-4o 是一款跨文本、视觉和音频端到端训练的新模型，这意味着所有输入和输出都由同一个神经网络处理。这也是 GPT-4o 说话时反应贼快，智商还在线的重要原因。而当今一众力图模仿 GPT-4o 的国产厂商，例如字节跳动，虽然依靠 RTC 技术，让语音 AI 做到了流畅、即时，但在最核心的 " 内功 "，即端到端语音模型方面，却露出了短板。Part.2 " 智力 " 缩水在今年的 8 月 21 日，字节挑动的豆包大模型，搭载了火山引擎的 RTC 技术，也实现了类似 GPT-4o 的实时音频互动表现，能够做到随时打断，交流自然，感觉就像真人说话一样。所谓 RTC（Real-Time Communication）技术，是一种支持实时语音、实时视频等互动的技术。旨在降低语音通话中的延迟，使得用户在进行语音对话时感觉更加自然和顺畅。但 RTC 主要解决的，仅仅是语音 AI 流畅性和实时性问题，但它并不能直接整合语音识别、理解和生成的步骤。换句话说，在实时通话时，模型虽然话说得利索了，但智商却不一定在线。一个明显的例子，就是字节的豆包大模型，在通过实时语音 AI 与用户交流时，遇到了和讯飞星火一样的问题，那就是语音 AI 的智力，明显比纯文本大模型被 " 砍 " 了很多。左右滑动查看更多左：实时语音状态下豆包的回答，右：纯文本状态下豆包的回答例如，在对《黑神话：悟空》这一话题进行交流时，纯文本状态下的豆包，回答明显要比实时语音的豆包要更详细，更有针对性。一个可能的原因，是豆包在进行语音交互时，使用的并不是真正的端到端语音大模型。在非端到端模型中，语音识别、理解和生成可能仍然是分开的步骤，模型需要在极短的时间内完成语音识别、理解和生成，而这一过程的计算和响应速度，会限制其对复杂问题的深入处理。当模型被迫快速反应时，由于无法充分利用上下文信息，从而导致了 " 智力下降 " 的表现。其实，真正的端到端语音大模型，实现起来远非想象中那么简单。其中的难点，一在训练数据，二在计算资源；根据腾讯算法工程师 Marcus Chen 的推测，GPT-4o 这样的端到端语音大模型，背后使用的一种工程学方法，很可能是一种名叫离散化技术的路子。这个技术，简单点说，就是把这些连续的声音波形切成一段一段的，每一段都提取出它特有的特征，比如语音的语义信息和声学特征。这些特征就像是一个个小的 " 口令 "，机器可以把它们当成输入，丢到语言模型里去学习和理解。但这可不是什么人人都能轻松掌握的技术。要想做出高质量的语音 token，需要大量的数据积累和复杂的建模过程。这样的高质量数据，往往来自高质量的视频、播客等等。成本是过去文字训练模型的几十倍甚至更高。而在计算资源方面，在实时互动场景中，计算必须在极短的时间内完成，这意味着端到端的大模型，通常需要消耗大量的计算资源，尤其是在处理高维度的语音数据任务时。这也是为什么，OpenAI 在推出 GPT-4o 的语音 AI 功能后，对用户的使用量进行了额度限制。其额度消耗和 GPT-4o 回复的额度一样。反观现在以豆包为首的一些国产语音 AI，虽然以免费、不限次数为噱头，但其生成质量，却相较于纯文本状态大打折扣。这或许正是在算力资源紧张的情况下，模型采取的一种 " 权宜之计 "。因为当计算资源不足时，模型可能会优先选择简单的、低耗能的响应方式，以确保能够及时回应用户的请求。毕竟，又想要免费无限地使用，又想要高质量的实时回复，天底下哪有那么好的事？Part.3 算力困境在 AI 时代，各类 To C 语音产品的主要逻辑是，将昂贵或难以获得的人类服务，且是基于对话且可以在线完成的，替换为 AI，主要场景包括心理疗愈、辅导、陪伴等。对于 To C 类 APP，要想大范围地落地，其中一个前置条件，必然是成本的大幅度降低。唯有如此，企业才能够以更低的价格提供服务，进而不断扩大用户基数。但问题是，在降低成本的同时，质量和成效能否保障一定的水准？这正是最考验讯飞、字节等大厂的一点。从商业上来说，在降低成本的同时，要想质量不拉胯，就需要有源源不断的资金，进行研发和技术迭代。这就要求企业找到一种明确的商业模式，来自我造血。OpenAI 之所以能在如此短的时间推出 GPT-4o 的语音功能，是因为背靠微软，能获得源源不断的融资，从而不断强化其模型的能力。相较之下，坐拥几乎是行业内最为丰富业务场景的科大讯飞，虽然赶上了 2023 年 AI 浪潮，并在同年 6 月市值一度逼近 2000 亿大关，可随着其大模型持续高额的投入、销售费用持续攀升。当下，讯飞对大模型收益能否覆盖成本尚无定论，成本压力始终存在。一个重要的问题是：既然在一些特定的行业，例如医疗、教育、客服等，传统语音 AI 已经能够胜任了，那么以端到端大模型为核心的语音 AI，又该怎样从中获取自己的市场份额？一个可能的方向，就是在各种长尾需求中，对一系列复杂查询和非标准化指令做出回应。例如在智能汽车或移动应用中，端到端模型可以通过自然语言，理解用户说的犄角旮旯的地点在哪，并提供精确的导航指令。然而，在这种模式下，用户更多地是为语音 AI 背后强大的语言模型付费，为其出众的智力付费。因此，端到端语音 AI 的盈利之路，一开始就因为这种 " 附属地位 " 而充满了坎坷，因为前者的能力一旦遇到瓶颈，其也会跟着 " 一损俱损 "。而在附属于语言大模型的尴尬之下，在算力资源的分配方面，语音 AI 也面临着一种不利的态势。例如，对于字节来说，迄今为止，字节跳动已经推出了 11 款 AI 应用；其中，豆包是国内用户最多的 AI 独立应用，其 MAU 可能已达到 2000 万量级。然而，从业务布局上来说，语音 AI 现阶段不太可能是字节的重点。在 9 月 24 日的深圳 AI 创新巡展上，火山引擎发布两款视频生成大模型 PixelDance（像素舞动）和 Seaweed（海草），很多业内人士分析，这条视频 AI 的类 "Sora" 赛道，才是以短视频闻名的字节真正不能输掉的一仗。而 AI 视频生成，恰恰又是最消耗算力的一条赛道。来源：豆包 AI 视频生成模型与语音 AI 相比，同样消耗高算力的视频生成 AI，因为对应着短视频这个更明确，且更易于盈利的赛道，因此在资源分配上，更有可能得到大厂或投资者的倾斜。结合之前豆包在实时通话状态下的智力表现，我们或许能够推断，留给豆包打造端到端语音大模型的算力，未必会那么充足。而这种资源不足，却又要在面上与 GPT-4o 一较高下的情况，这正是当下实时语音 AI 这支 " 偏军 " 在中国 AI 版图中的窘境所在。语音交互技术火热了十来年，到了大模型时代，OpenAI、科大讯飞、字节这些大厂，又开始重新在往这领域挤，为何？因为这种技术，实际上暗藏着语音平台可能成为未来物联网 " 大脑 " 的想象。通过一个语音平台，操控所有智能终端，这是所有传统语音 AI 都办不到的事。但是，这技术要想做得好，得先解决一个大问题，就是机器得能真正理解人说的话。这就需要 AI 在自然语言理解、知识获取这些领域有新的突破。然而，在语言大模型遇到瓶颈，且算力资源被视频 AI 等 " 光环 " 更耀眼的产品抢走的情况下，语音 AI 在中国人工智能的版图中，暂且只能是个尴尬的存在。