当前位置: 首页
AI教程
OpenAI正式为Responses API引入WebSocket模式实现低延迟实时流式双向通信

OpenAI正式为Responses API引入WebSocket模式实现低延迟实时流式双向通信

热心网友 时间:2026-06-24
转载

OpenAI 在“长时间运行、多工具调用”这类复杂多步骤场景中,悄然完成了一次重要升级。此次迭代的核心,是为 Responses API 新增了 WebSocket 通信模式。

简而言之,这一模式专门服务于“模型与工具之间频繁交互”的工作流。例如代码自动化任务,或是需要反复调用外部工具的智能体编排流程——过去执行时总感觉“拖泥带水”,如今终于迎来了更高效的解决方案。

核心改进:从“拨号”到“连麦”

这次改进的本质,在于重塑了模型与工具之间的连接方式。传统的 HTTP 请求模式下,每次交互都必须将完整上下文重新发送一遍。这好比每次打电话都要从头介绍“我是谁、从哪来、要做什么”,效率自然大打折扣。

而 WebSocket 模式则建立起一条持久连接。用户只需传递新输入的内容以及上一次响应的 ID(previous_response_id),大量重复的传输开销便随之消除。

建立连接的方式十分直接:

(代码示例:创建 WebSocket 连接)

后续交互更加轻盈,仅需发送增量数据:

(代码示例:通过增量数据继续对话)

性能提升究竟有多实在?

数据最有说服力。对于涉及 20 次以上工具调用的复杂任务,端到端的执行速度可提升 20% 至 40%。这一提升并非偶然,而是得益于连接级的内存缓存机制——服务器会在内存中保留最近一次响应的状态,下次无需从头再来。

设想一个完整的代码重构流程:分析代码 → 定位问题 → 生成修复方案 → 应用修改 → 验证结果。每一步只需发送增量数据,整个链条自然运行得更加顺畅。

技术细节与边界条件:别忽略这些限制

在技术层面,WebSocket 模式兼容零数据保留(ZDR)以及 store=false 配置,这对隐私敏感场景无疑是个利好。不过需要留意一个硬性限制:连接最长只能维持 60 分钟。超时后需要重新建立连接。

(代码示例:处理连接超时的逻辑)

另一个值得关注的点是:当前该模式不支持多路复用。若你需并行运行多个独立的智能体任务,就不得不为每个任务建立单独的 WebSocket 连接。这一限制在架构设计时需提前纳入考量。

这次更新意味着什么?

此外,一个值得留意的信号是,此次更新与 Open Responses 规范密切相关。Open Responses 是一个开源项目,旨在为不同 LLM 提供商建立统一的 API 标准,目前已获得 Vercel、Hugging Face、Databricks 等公司支持。

从开发者社区的反馈来看,这一功能备受关注,尤其是那些正在构建复杂智能体系统的团队。当然,也有声音指出,这可能是一种增加供应商锁定的策略——毕竟状态管理越好,迁移成本也越高。

话说回来,对于大多数简单的对话场景,该功能或许并非必需。但如果你正在开发需要大量工具调用的智能体——例如代码审查助手、数据分析流水线或复杂的业务流程自动化——那么这次更新绝对值得投入时间深入探索。

来源:https://cloud.tencent.com.cn/developer/article/2695855

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
阿里云Qoder CN灵码AI助手免费版及credits计费指南

阿里云Qoder CN灵码AI助手免费版及credits计费指南

阿里云QoderCN(原通义灵码)是一款AI智能编码助手,提供IDE插件、独立IDE等形态,覆盖编码及日常办公场景。产品分个人社区版(免费)、个人专业版、企业标准版和企业VPC版,采用Credits计费模式,支持多种AI模型。

时间:2026-07-06 16:30
基于大模型的城市文旅知识图谱构建与内容分发

基于大模型的城市文旅知识图谱构建与内容分发

大模型构建城市知识图谱时优先采信权威信源。贵港西江传媒联合《度假旅游》杂志,通过本地采编、期刊发布、阿里云多平台分发模式,产出产业文旅等结构化内容,提升AI知识库收录权重,为城市品牌长效传播提供可复制路径。

时间:2026-07-06 16:30
贵州文旅AIGEO内容运营本地媒体落地实践

贵州文旅AIGEO内容运营本地媒体落地实践

针对贵州文旅行业在阿里云平台的内容运营痛点,总结合规发文规则,包括弱化营销、避免引流信息与极限词。以《度假旅游杂志》在贵阳设立本地化运营站点为例,为黔域文旅商家产出合规原创内容,提升AI平台收录权重。同时指出商家常踩的审核红线,强调以干货分享获取自然流量。

时间:2026-07-06 16:29
阿里内部禁用Claude Code OpenCode成替代方案

阿里内部禁用Claude Code OpenCode成替代方案

ClaudeCode对国内用户定向封禁,网传阿里内部已全面禁用。OpenCode作为开源替代,支持接入多种AI模型,通过CCSwitch或手动配置可无缝迁移原有MCP与AgentSkill,规避账号风险。

时间:2026-07-06 16:29
年实测Homebrew安装配置国内源多种安装方式一篇搞定

年实测Homebrew安装配置国内源多种安装方式一篇搞定

Homebrew是macOS上流行的包管理工具,提供pkg安装包、脚本安装和Git克隆等多种安装方式。国内用户推荐使用镜像脚本安装并配置中科大或清华大学镜像源以加速下载。常用命令包括brewinstall安装工具、brewinstall--cask安装图形应用、brewupdate更新及brewdoctor诊断环境。

时间:2026-07-06 16:29
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
  • 日榜
  • 周榜
  • 月榜