OpenAI紧急收购龙虾23人团队,深度布局AI安全
龙虾太火,OpenAI也是动作不停——
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
前脚刚挖来龙虾之父,后脚又立马收购了一家新公司。
而且瞄准的还是颇让人在意的智能体安全问题。

据OpenAI公告,此次被收购对象为Promptfoo,一家专注于AI安全与评测的初创公司。
稍一打听便知,这家公司在开源社区还是小有名气的——
其评测框架Promptfoo是AI应用评测领域最流行的开源工具之一,拥有30多万开发者用户,截至目前GitHub已斩获11.2K star。
在被收购前,OpenAI、Anthropic、亚马逊等也都是它的忠实用户。
据OpenAI B2B应用CTO表示,随着企业将“AI同事”部署到实际工作流程中,评估、安全性和合规性成为基本要求。
因此,Promptfoo也算是补齐了OpenAI在“龙虾安全”方面的关键一环。

而被OpenAI收购后,Promptfoo也将继续保持开源。
谁是Promptfoo?
公开资料显示,Promptfoo成立于2024年,一共有两位创始人。
联创兼CEO曾任Discord LLM工程与开发者平台负责人,联创兼CTO曾任Smile Identity(数字身份认证公司)工程副总裁及AI主管。

创立Promptfoo的初衷,仅仅是因为团队关注到:
人工智能系统日益复杂,而安全工具却未能跟上步伐。
于是他们决定从主流大模型之路中划开一道缺口,为开发者和企业提供一些AI安全检测工具,主打一个差异化竞争。
没想到,这一选择还真赌对了。
短短两年过去,这个至今不过23人的小团队却取得了骄人战绩——
超过35万名开发者用过它家的产品,每月活跃用户达13万,财富500强企业中超过25%的团队(约125家)都在使用其产品。
而这份成绩单也让其获得了资本市场的认可。
其最新一轮融资官宣于2025年7月,当时由顶级风投Insight Partners领投、a16z参投,Promptfoo完成了1840万美元(约合人民币1.27亿)A轮融资。

另据金融信息平台PitchBook数据显示,Promptfoo自成立以来已融资2300万美元(约合人民币1.58亿),去年7月的融资使其投后估值达到8600万美元(约合人民币5.92亿)。
(注:以上不含此次收购交易金额,双方对本次交易均暂未披露。)
而能在短时间内获得如此用户规模和融资,核心还要得益于其产品——也就是我们开头提到的Promptfoo开源评测框架。

这个框架要解决的是一个很多AI团队正在面对的现实问题:
大模型很好用,但很难测试。
在传统软件开发中,开发者可以通过单元测试、自动化测试来确保系统稳定运行;但到了大模型时代,很多团队往往只能靠不断试prompt、人工查看输出的方式来调模型。
不仅效率低,而且很难保证上线后的稳定性和安全性。
而Promptfoo想做的,就是把AI应用测试变成一套标准化的工程流程。
具体主要包括以下几类能力:
一是自动化评测。开发者可以批量测试不同的提示词和模型,让系统自动评估输出效果。
比如下图就是Promptfoo在对比不同开源模型的性能:

二是AI红队演练。系统会模拟真实用户可能发起的各种攻击,从而提前发现LLM应用中的潜在漏洞,并生成完整的安全漏洞报告。

三是工程化集成。Promptfoo可以直接嵌入开发流程,例如在CI/CD流程中自动运行模型测试、在代码提交时自动扫描LLM相关安全问题、将评测结果共享给团队等。
一言以蔽之,Promptfoo试图把原本充满玄学的“调prompt和测模型过程”,变成一套像软件测试一样可重复、可量化的工程体系。
从使用方式上看,它既提供网页可视化界面,也支持命令行工具(CLI),开发者可以直接在本地或服务器运行大规模评测任务。

Promptfoo表示,其长期愿景是让这个框架成为AI领域的“标配工具”,就像CI(持续集成)在DevOps领域的地位一样不可或缺。
每次引入新模型、更改提示词或集成新工具时,系统都会自动对其进行评估与红队测试,并根据安全报告的结果,决定放行或拦截。
而在当下这个智能体时代,或者说“龙虾时代”,Promptfoo的作用肉眼可见地变得愈发重要。
事实上,从去年拿到A轮融资起,他们就开始将重心转向了智能体。当时他们观察到:
互联网正在为智能体进行重构。
具体表现为四大趋势:多智能体协作、MCP成为标准协议、语音交互爆发、测试驱动开发。
基于此,Promptfoo的使命也愈发清晰——从一个提示词评测工具,进化为智能体时代的安全基础设施。
而这,恰好符合OpenAI在“龙虾时代”的布局需求。
“第一批养龙虾的人已经失眠了”
关于OpenAI为什么选择在当下这一节点收购这样一家公司,答案其实已经不言自明。
归纳起来无非两点:
一是龙虾实在太火了,所有人都在抢着布局(OpenAI自然也不例外);
二是大火之下,智能体的安全问题已经日渐变得刻不容缓。

龙虾有多火不用多说了,就说说这安全问题。
从著名删邮件事件开始,龙虾的风险就已经开始集中暴露。
说到底,问题并不在于模型本身,而在于龙虾这样的智能体拥有的权限实在太高。
过去的大模型,大多数时候只是负责生成内容。即便回答出现问题,影响也基本停留在信息层面——最多是说错话、答非所问,即所谓“出现幻觉”。
但龙虾不一样。
为了真正完成任务,它们往往被赋予了大量真实世界的操作权限,什么访问邮箱、文档和数据库、什么调用各类API和企业工具……全都是你工作生活中最敏感、最核心的数字资产。
这也意味着,一旦出现误判或被恶意提示词诱导,问题就不再只是“回答不准确”,而可能变成真实操作层面的失误。
这里面风险有多大,想必也不用多说了(也难怪很多人不敢用或者需要单独弄一台主机)。
个人尚且如此谨慎小心,更别说还有企业了。当越来越多公司开始把业务流程交给智能体时,这种风险无疑更是会被成倍无限放大。
恰在今天,微博热搜上出现了这样一个话题——“第一批养龙虾的人已经失眠了”,说的其实就是上面这两点(当然着重还是强调安全问题)。

对此,且看OpenAI是如何破解的——
龙虾火,那就火速挖来龙虾之父Peter Steinberger,而且CEO奥特曼顺势宣布大力进军智能体协作领域。

龙虾出bug惹祸(例如偷偷狂删Meta AI安全总监邮件),那就大笔一挥收购Promptfoo这样现成的智能体安全公司。
根据双方合作公告,Promptfoo的技术将被整合进OpenAI Frontier中,后者是OpenAI专门推出的智能体创建和运行平台。
而被收购后,Promptfoo也将和OpenClaw项目类似,继续保持独立运营,OpenAI仅起到提供支持的作用。
对此,网友们也纷纷感慨,这次真的算是双赢了。
尤其在智能体时代,会自动执行任务的龙虾已经可以成为评测大模型的新工具——以前还能刷刷榜,但现在全都得“真刀真枪”上战场拼杀了。

嗯?让龙虾成为检验大模型真实能力的新工具,细想之下确实合理和巧妙。
你说呢?
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
同类文章
谷歌内存论文疑被抄袭,华人学者控诉业内学术不公
新智元报道编辑:好困 Aeneas【新智元导读】把闪存股一夜干崩的谷歌顶会论文,出大事了。TurboQuant的核心方法,两年前就被一位华人学者做完、发完顶会、代码全部开源了。谷歌不仅没正面提及,而
OpenClaw漏洞威胁:智能家居被反锁与隐私泄露风险
新智元报道编辑:倾倾【新智元导读】2025年底,极客圈发生了一场数字哗变,Anthropic的遮羞布被Peter Steinberger撕了个精光。从OpenClaw开源到Claude被扒出80页「
华为大模型负责人离职,重大人事变动引发行业关注
智东西作者|江宇编辑|冰倩智东西3月28日报道,今日,华为诺亚方舟实验室主任、华为盘古大模型负责人王云鹤在朋友圈发文,确认离职。王云鹤于2017年以华为北京部门首位实习生身份加入,至今已接近9年。在
Nature重磅:AI生成论文在顶会通过率55%,单篇成本仅15美元
新智元报道编辑:元宇【新智元导读】刚刚,Nature盖章AI独立科研时代!全新Scaling Law显现,人类死守的学术铁王座,正发生不可逆的转移。一篇长达数十页的学术论文,在人类设定研究主题和实验
CMU首创无毒AutoGEO方案,破解GEO投毒产业链焦虑
新智元报道编辑:LRST【新智元导读】ChatGPT上线广告、315曝光GEO投毒产业链,AI搜索商业化的隐忧接连浮出水面。龙虾热背后,3000元就能让AI搜索信口开河,离全面「瞎说」还有多远?来自
- 日榜
- 周榜
- 月榜
相关攻略
2015-03-10 11:25
2015-03-10 11:05
2021-08-04 13:30
2015-03-10 11:22
2015-03-10 12:39
2022-05-16 18:57
2025-05-23 13:43
2025-05-23 14:01
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程

