专栏基础模型OpenAI

语音AI目前还有很大的瓶颈要发展

TechCrunch 10月11日报道,PolyAI 首席技术官 Shawn Wen 认为,语音 AI 虽已能边听边说,仍未迎来“ChatGPT 时刻”,下一步需加快推理。Otter 高管则强调转录准确性;随着企业通话模型与实时会议助手落地,识别错误开始影响后续工作。

高管强调推理速度

TechCrunch 10月11日报道,PolyAI 首席技术官 Shawn Wen 在上个月的 HumanX 大会上表示,全双工模型已经成为技术里程碑,但语音 AI 尚未迎来自己的“ChatGPT 时刻”。全双工指系统可以一边接收用户语音,一边输出语音;Wen 认为,下一道难题是加快推理,让模型及时取得答案,使通话节奏自然。他的判断针对实际服务体验:客服智能体需要让来电者相信问题能够解决。按他的描述,用户愿意完成最初两三轮交流后,才可能逐渐建立信心,并接受由智能体继续处理。这里的“时刻”是这位高管对技术普及的判断,并非已有统一指标的行业结论。

模型进入企业云账户

PolyAI 7月30日发布 Dialog-RSN-1,称模型已在生产环境处理真实来电。10月6日,PolyAI 宣布 Dialog-RSN-1 上线 AWS SageMaker,企业可通过 AWS Marketplace 订阅,并在自己的 AWS 环境内部署推理端点。SageMaker 是 AWS 的机器学习部署服务,端点则是企业系统调用模型的接口。公告称,该模型直接感知来电音频,在一次处理内完成理解、推理和响应,响应时间低于 300 毫秒。这是厂商对模型的性能描述,不能据此认定每通电话从用户说完到听见回答都达到这一速度。

从生产通话到云端部署
  1. PolyAI 发布 Dialog-RSN-1,称已处理真实来电
  2. Dialog-RSN-1 上线 AWS SageMaker
inews.today
两次公告分别披露模型投入生产及新增企业账户部署路径,不构成客户采用规模统计。

此次上线给企业增加了一条购买和部署路径。PolyAI 表示,模型费用可计入客户已经承诺的 AWS 支出,并沿用现有虚拟私有云、身份权限和监控配置;客户仍负责流程编排、电话系统接入与业务逻辑。也就是说,购买模型没有替企业完成预约、查单或修改账户的系统集成。对采购团队而言,已承诺的云支出提供了支付入口,但公告没有列出单次调用价格,也没有给出客户能够节省多少总费用。由此可以推断,这次进展主要降低了部署接入的门槛,企业仍要承担业务连接和运行验证的工作。

语音架构影响算力

PolyAI 在模型发布说明中,把语音系统的取舍落在音频信息、输出控制和推理运行方式上。传统级联方案依次进行自动语音识别、语言模型推理和语音合成;自动语音识别即 ASR,把音频转成文字,语音合成即 TTS,把回复转成声音。PolyAI 指出,这种方案通常只把识别结果交给推理模型,语调和识别不确定性可能在交接时丢失。语音到语音方案直接接收并生成音频,而 Dialog-RSN-1 直接理解音频、单独调用 TTS,保留独立选择输出声音的能力。其模型按请求运行,由语音活动检测和计时器触发检查,再由模型判断是否开口。PolyAI 称,持续运行的全双工流需要在整通电话中占用 GPU,而按需调用有利于控制成本。这是厂商对架构的解释,公开说明没有提供统一流量和硬件条件下的成本账单,因此不能据此计算数据中心资源节省幅度。

语音系统怎样组织输入与输出
方案推理接收的信息语音输出方式
传统级联自动语音识别产生的文字独立语音合成
语音到语音直接接收音频模型直接生成音频
Dialog-RSN-1直接理解音频单独调用 TTS,可独立选择声音
inews.today
按 PolyAI 发布说明整理输入与输出的组织方式;这些架构描述不构成实际部署成本或性能排名。

全双工仍有流畅度差距

字节跳动 Seed 团队的 Seeduplex 发布说明展示了全双工在交互控制上的进展。该模型联合分析语音与语义,判断用户是在犹豫、结束表达,还是要求停止回复。Seed 称,相比豆包此前的半双工模型,Seeduplex 在复杂场景下的抢话比例相对下降 40%,误回复率和误打断率降低一半;判停延迟降低约 250ms,打断响应延迟缩短约 300ms。这些是发布方报告的不同指标,不能相加成为一个总体性能提升比例。Seed 同时披露,在真人对话测试中,Seeduplex 的整体对话流畅度与真实人人对话仍有不小差距。发布说明因而支持一个有限判断:边听边说改善了等待、插话和抗干扰机制,但自然交流还涉及对上下文的持续理解,不能只凭其中一项延迟判定已经成熟。

Seeduplex 披露的改善与差距
指标比较对象Seed 披露结果
抢话比例豆包此前的半双工模型复杂场景下相对下降 40%
误回复率与误打断率豆包此前的半双工模型复杂场景下降低一半
判停延迟豆包此前的半双工模型降低约 250ms
打断响应延迟豆包此前的半双工模型缩短约 300ms
整体对话流畅度真实人人对话真人对话测试显示仍有不小差距
inews.today
各行对应不同评测指标,保留比较基准和场景条件;百分比变化与延迟变化不能合并为总体提升。

转录准确性影响行动

识别错误会直接影响企业正在推进的自动化。Wen 向 TechCrunch 表示,ASR 经常漏掉重要关键词,使系统难以捕捉完整上下文。Otter 首席营销官 Alex Gay 也表示,公司持续改进转录,语言能力仍是需要提升的领域。Gay 强调,转录是后续生产力功能的基础;一旦原始文本不够准确,依赖它的操作就可能出错,错误行动会损害用户对平台的信任。对会议助手而言,问题由此延伸到记录之后:摘要如何理解决定、行动项归给谁,以及组织知识能否正确进入后续流程,都依赖前端没有把重要信息识别错。

Otter 7月21日宣布推出 Live Assist,面向 Otter Enterprise 客户提供通话中的实时指导,支持 Zoom、Google Meet、Microsoft 平台及 Otter 桌面应用。按公司说明,用户可通过 Agent Builder 定制助手,并接入操作手册、标准流程、既往会议和其他资料;助手自动加入通话,向使用者显示提示卡并实时核对目标。提示只对使用者可见。这个产品把会议内容用于当场工作决策,转录和意图理解的错误因而可能在通话尚未结束时影响员工选择。从已披露的功能看,企业部署需要把知识准备、识别质量和提示是否适用一并纳入验收,单看录音后的摘要不足以判断这类产品的实际效果。

会议分身仍在研发

Gay 在 HumanX 讨论中还表示,Otter 正在开发可能代表用户参加会议的数字孪生,即能够代替本人参与交流的数字化代理。这个方向需要识别说话人、捕捉意图,再结合组织知识形成可执行内容;Gay 认为,输出语音还必须承载与人交流时的情感表达,使代理能够参与辩论和战略讨论。TechCrunch 报道的是研发方向,没有给出该能力的上线日期。它所要求的能力已经超出生成顺畅语音:代理必须理解会议中的关系与讨论目的,才能在代表用户发言时提供恰当回应。按 Gay 的描述,情绪表达和组织上下文都属于产品要解决的问题,不能由声音逼真这一项功能替代。

通话录音需要告知

两位高管还把透明度列为建立信任的具体要求。Wen 表示,企业通话应明确告知来电者正在与 AI 交流;Otter 则表示,希望让参会者知道会议正在被记录,即使没有录音机器人出现在会议中,也尝试通过聊天通知所有人。此类告知影响用户是否愿意继续说话,也影响他们怎样理解代理的回答和记录用途。结合已上线的云端模型与会议指导产品,可以作出的判断是,语音 AI 已进入实际工作流程,采用方的验收范围也随之扩大:模型响应、关键内容识别、业务执行和身份告知,都关系到一次通话能否完成任务。Wen 所说的下一阶段,仍以用户愿意继续交流且问题得到解决为条件。

备注与来源 · 9 条

全文 · 9 条

  1. [1] 这些高管认为语音AI尚未迎来ChatGPT时刻 techcrunch.com ·
  2. [2] Dialog-RSN-1现已上线AWS SageMaker poly.ai ·
  3. [3] 全双工语音模型会应邀发言,却未必在需要时介入 arxiv.org
  4. [4] Otter推出Live Assist实时通话辅导智能体 otter.ai ·
  5. [5] Seed发布全双工语音模型Seeduplex bytedance.com
  6. [6] 2026年客户对话现状:AI智能体已经接线 poly.ai ·
  7. [7] Dialog-RSN-1:直接理解通话音频的语音模型 poly.ai ·
  8. [8] 语音推理能力评测:诊断语音与文本之间的性能差距 arxiv.org
  9. [9] Careless Whisper:语音转录幻觉及其伤害 arxiv.org

本题由编辑从原文库发起,章节目录由系统拟定。本文由模型依据下列材料写成,编辑审阅后发布;引用来源与链接统一列在文末。