开源大模型新王击败GPT-4o，可自我纠正幻觉，数学99.2分

模型一上线，网友的试玩请求就把服务器挤爆了，Meta甚至主动支援了更多算力来应对这股热潮。

有网友测试发现，Reflection 70B居然能答对GSM8K数据集中那些本身答案就标错的问题：

数字母r这种小把戏更是不在话下，连"drirrrngrrrrrnnn"这种生造词里有多少个r，它都能数得清清楚楚。

不少网友都惊叹：一个小团队做出来的开源模型，居然能超越顶流闭源？现在最强开源模型已经可以在本地运行了。

关键是70B版本还只是个开始，官方表示下周会发布更大的Reflection 405B。

Reflection 70B的权重已经公开，API访问今天晚些时候将由Hyperbolic Labs提供。

模型能自我反思纠正错误

关于Reflection 70B，更多细节是这样的。

它能力提升的关键，在于一种叫Reflection-Tuning的训练方法——让模型在最终确定回答前，先反思自己生成的文本，检测并纠正推理中的错误。

训练数据来自GlaiveAI平台生成的合成数据。

Reflection 70B基于Llama 3.1 70B Instruct，可以用与Llama模型相同的代码和pipeline进行采样，甚至直接用了标准的Llama 3.1聊天格式。

不过，它引入了一些特殊tokens来结构化输出过程。

看下面这个例子，规划过程被拆成独立步骤，这样既提升了CoT效果，又保持了输出精炼：

模型会先在和标签内输出推理过程，一旦对推理结果满意，再在

和

标签内输出最终答案。这样一来，内部思考和最终答案就能彻底分离。

在部分，模型可能会输出一个或多个标签，这意味着它发现了推理中的错误，会在给出最终答案前尝试纠正。

系统提示如下：

另外值得一提的是，基准测试中，所有基准都通过LMSys的LLM Decontaminator检查了污染，隔离了

部分，并单独对这一部分进行测试。

使用Reflection 70B时，官方还分享了一些小技巧：

· 初步建议参数：temperature设为0.7，top_p设为0.95

· 为提高准确性，最好在Prompt末尾加上"Think carefully."

官方还表示，下周会发布一份报告，详细介绍模型训练过程和发现。

Agent创业团队打造

Reflection 70B的背后是一支小团队，由HyperWriteAI的CEO Matt Shumer带领。

领英资料显示，Matt Shumer是一位连续创业者，毕业于美国锡拉丘兹大学，现任OthersideAI的联合创始人兼CEO。

OthersideAI是一家AI应用公司，致力于通过大规模AI系统开发全球最先进的自动补全工具，也是HyperWrite的幕后公司。

HyperWrite是一个浏览器操作agent，可以像人一样操作谷歌浏览器来完成一系列任务，比如订披萨：

和gpt-llm-trainer一样，你只需要用文字描述目标，它就会一边列步骤，一边执行。刚推出时号称"比AutoGPT强"。

HyperWrite还可以在谷歌扩展程序中安装。

另外，Matt Shumer高中时期就创立了Visos，致力于开发用于医疗用途的下一代虚拟现实软件。还创立了FURI，这家公司旨在通过创造高性能产品并以公平价格销售来碘伏体育用品行业。

虽然有Meta支持，但目前打开试玩页面，还是暂时无法访问。

感兴趣的朋友可以先关注起来，等后续版本上线再试试看。