当前位置: 首页
科技数码
斯坦福根特大学AI仿医生填空式放射报告

斯坦福根特大学AI仿医生填空式放射报告

热心网友 时间:2026-07-14
转载

斯坦福大学与根特大学联合研究,采用离散扩散语言模型(DiffusionGemma-26B)替代传统自回归模型,实现放射报告任意位置“填空”生成。在三个医学视觉问答数据集上,扩散模型准确率优于或持平自回归模型,推理速度提升3 5至4 4倍,且能利用双向上下文填充缺失内容。

这项研究由斯坦福大学医学院、电气工程系和比利时根特大学的数学建模与生物信息学系强强联合完成,于2026年7月1日以预印本形式发布,论文编号为arXiv:2607.01436。

放射科医生每天要面对大量报告的撰写工作——看完胸部X光片,需要逐字描述“心脏大小正常、肺部清晰、未见气胸”等内容。这件事既繁琐又耗时,而且不同医生、不同医院之间的写法也千差万别。AI能帮忙吗?能,但现有AI助手几乎都有一个根本性的局限:它们只会从左往右,一个字一个字地往后写,就像一台打字机,只能顺着打,不能在中间空出来的地方填字。

这个局限在日常场景里或许不算大问题,但在真实的临床工作中却相当棘手。放射科医生常常是先写好报告的开头和结尾,中间某句话还没想好如何措辞;或者同事已经写了一半,需要你接着补完;再或者模板里有些固定的开头和结尾,中间的核心描述需要AI来帮忙生成。对于这类“填空”需求,传统的AI只能从头重新生成,根本无法聪明地“看到”两侧的内容来填中间的空白。

斯坦福和根特大学的研究团队想到了一个截然不同的解决方案:用一种叫做“离散扩散语言模型”的全新AI范式来取代传统的逐字生成方式。这种模型生成文字的方式,更像是一位雕塑家从一块混沌的大理石中逐渐打磨出作品,而不是像打字员那样一个字母一个字母地敲出来。它天然地能同时“看到”文字的左边和右边,因此填空这件事对它来说是顺手拈来,而不是勉强为之。

一、传统AI写报告的方式——“打字机思维”的天然缺陷

要理解这项研究的价值,得先明白现有AI是怎么工作的。今天几乎所有主流的大语言模型——无论是GPT、Claude还是Gemini——都属于“自回归”模型。这个词听起来复杂,但原理很朴素:每次生成一个新词,模型只看它之前已经写过的内容,然后预测下一个最可能出现的词,如此循环往复,直到句子结束。

这就像你蒙着眼睛走路,只能根据脚下踩过的路面来判断下一步怎么迈,完全看不到前方的路。在大多数情况下,这种方式没什么问题——毕竟写文章本来也是从前往后写的。但一旦遇到“我已经知道后半段是什么,只需要填前半段”的情况,这台打字机就彻底傻眼了。你不能让它在已经打好的字之间插入新内容,它只会从你给它的那个起点继续往后打。

在放射报告的实际场景里,这意味着什么呢?假设报告已经写好了“肺部清晰,未见气胸。印象:轻度血管充血。”这两句,而中间那句“未见胸腔积液”被删掉了,需要AI来补。自回归模型能做的,只是看着前面那句“肺部清晰,未见气胸。”然后猜接下来写什么——它根本不知道后面还跟着一句关于血管充血的印象,自然也就没法生成一个在内容和语气上都与后文完美衔接的句子。

研究团队把这种能力的缺失称为“无法进行任意位置填充”,并将其视为自回归模型在临床应用中的根本性结构缺陷,而非可以通过技巧弥补的小问题。

二、扩散模型——从“打字机”升级为“雕塑家”

离散扩散语言模型的工作方式与此完全不同。用一个更直观的比喻来说明:如果自回归模型是打字机,那扩散模型更像是一块神奇的黑板。

在这块黑板上,一开始所有位置都写满了随机的、混乱的字符——就像一张满是噪点的照片。然后,模型开始一轮一轮地“去噪”:每一轮,它同时看着黑板上所有位置的当前状态,然后对每个位置做出修正,让整张黑板越来越接近一段有意义的文字。关键在于,这个过程中每个位置都能“看到”其他所有位置,包括它左边的和右边的内容。经过十几到几十轮迭代,混沌的随机字符就被雕塑成了一段通顺、准确的医学报告。

这项研究使用的具体模型叫做DiffusionGemma-26B,是谷歌DeepMind开发的。它有260亿个参数(这是衡量AI模型“脑容量”大小的指标),但通过一种叫做“混合专家”的设计,实际运行时只激活其中的38亿个,大大节省了计算资源。它自带一个视觉理解模块,可以直接“看懂”医学图像,而不需要额外的图像识别步骤。

为了做一个公平的比较,研究团队特意选择了DiffusionGemma-26B的“亲兄弟”——Gemma-4-26B——作为自回归模型的代表。这两个模型来自同一个研究团队,体量完全相同,视觉模块完全相同,唯一的区别就是生成文字的方式:一个是雕塑家(扩散),一个是打字机(自回归)。这样的设计让两者之间的对比几乎排除了其他干扰因素,真正实现了“只改一个变量”的科学实验标准。

三、如何让AI学会看X光写报告——训练过程揭秘

两个模型都通过一种叫做LoRA(低秩适应)的方法进行了医学领域的专项训练。LoRA是一种轻量级的微调技术,可以用一个恰当的类比来理解:假设你是一位精通多国语言的翻译,现在要专门学习医学文献翻译。你不需要从头重新学习所有的语言知识,只需要在已有能力的基础上,专门补充一套医学词汇和表达习惯就够了。LoRA做的就是这件事——它在庞大的预训练模型基础上,只添加少量额外的“适配层”,而不改动原有的核心参数。

具体而言,研究团队使用了秩64的LoRA设置(这个数字决定了适配层的“厚度”),在注意力机制和共享投影层上进行更新,同时冻结了模型中128个专家模块、路由器以及视觉模块的权重不动。这样做的好处是:训练成本大幅降低,同时两个模型的训练条件完全一致,对比才真正有意义。

训练数据来自三个标准的医学视觉问答数据集:VQA-RAD(1817个训练问答对,涉及放射图像的是非题和开放题)、SLAKE(4919个问答对,配有语义标注)以及VQA-Med-2019(约1.28万个问答对,涵盖影像模态、扫描平面、器官识别等问题)。每个数据集各取350个问题作为测试集,训练和测试严格分开。

扩散模型用的是一种叫“均匀状态去噪”的训练目标:随机把目标文字里的一些词替换成词汇表里随机抽取的词(不是专门的[MASK]符号,而是真正随机的词),然后让模型学会把这些被替换的词恢复回正确答案。自回归模型则用经典的“预测下一个词”的损失函数来训练。除了这个损失函数的差异之外,两个模型的所有其他训练条件都完全相同。

四、成绩单揭晓——扩散模型能打赢打字机吗?

评测环节有一个有趣的挑战:医学视觉问答的标准答案往往非常简短,比如“是”、“否”、“胰腺导管腺癌”。但如果让AI不加限制地回答,它通常会给出一大段解释性的长文,而不是简单的一两个词。传统的精确匹配评分方法(就是看AI的答案是否和标准答案一字不差)会把这些长文全部判为错误,哪怕意思完全正确。

研究团队使用了一种更聪明的评分方式:让另一个AI(Claude Sonnet 4.6)来当裁判,判断AI的回答和标准答案在语义上是否等价,允许换一种说法或者加了额外解释。这种“AI当裁判”的方法已经成为开放式医学问答评测的行业标准。

测试结果相当有力地支持了扩散模型的可行性。在VQA-RAD数据集上,微调后的扩散模型和自回归模型都达到了0.649的准确率,两者打平;在SLAKE数据集上,扩散模型以0.863对0.817明显领先,统计检验确认这个差异不是巧合(p=0.026);在VQA-Med-2019上,扩散模型以0.666对0.631胜出。零样本(不经过任何医学数据微调直接测试)的结果同样是扩散模型全面领先:VQA-RAD是0.614对0.523,SLAKE是0.700对0.674,VQA-Med是0.629对0.614。

更值得关注的是微调带来的提升幅度。SLAKE数据集上,扩散模型的准确率从0.700跳升至0.863,提升了0.163个百分点;自回归模型从0.674升至0.817,提升0.143。VQA-RAD上自回归模型微调后提升了0.126。VQA-Med的提升幅度则相对有限,说明这个数据集本身对两种模型都更具挑战性。

研究团队还把这两个模型和三个“顶级选手”做了比较:谷歌的Gemini-3.5-Flash、OpenAI的GPT-4.1-mini,以及Anthropic的Claude Sonnet 4.6。这些都是当今最强的商业视觉语言模型,参数量和计算资源远超本研究的两个模型。结果是:微调后的扩散模型(仅260亿参数、实际激活38亿)在SLAKE数据集上以0.863的准确率位居所有模型之首,超过了Gemini的0.751;在VQA-RAD和VQA-Med上,Gemini-3.5-Flash略胜一筹,分别达到0.777和0.683,但扩散模型在VQA-RAD上超过了GPT-4.1-mini(0.649对0.571)和Claude(0.649对0.654,在350个样本的规模下基本是误差范围内的平局)。

从具体案例来看,这种差异尤为生动。有一道题的标准答案是“胰腺导管腺癌”,所有未经微调的模型和所有顶级商业模型都给出了冗长的描述性回答(比如“这张腹部CT显示胆总管区域有一个高密度亮点,符合胆石症”),唯独微调后的扩散模型直接回答“胰腺腺癌”,被裁判判定为正确。

五、速度优势——为什么扩散模型还快了4倍?

除了准确率,研究团队还在一块英伟达H100显卡上测量了两种模型的推理速度,结果出人意料地有利于扩散模型。

自回归模型的速度瓶颈在于它的串行性:每生成一个词,就需要做一次前向计算,前一个词没出来,后一个词就没法算。生成256个词,就要做256次串行计算。这就像流水线上的工人必须一个接一个地传递零件,无法并行。测试结果显示,Gemma-4-26B在贪心解码模式下生成约256个词需要6.43秒,吞吐量约为24.6词/秒。

扩散模型的逻辑完全不同:它的计算次数由“去噪步数”决定,而不是由生成的词数决定。每一步去噪,256个位置的词都被同时更新。因此,无论生成多长的文本,只要步数固定,时间就固定。研究团队测试了16步、32步、48步三个设置。16步时,DiffusionGemma-26B只需1.46秒,吞吐量高达175.3词/秒,是自回归模型速度的4.4倍;32步时耗时1.74秒,速度是3.7倍;48步时耗时1.84秒,速度是3.5倍。而且测试时扩散模型生成的是完整的256词画布,而自回归模型生成的是它自然的、更短的输出——这意味着这个对比实际上对自回归模型更有利,扩散模型的真实速度优势可能更大。

对于放射科的实际工作来说,这个速度差异意味着什么?如果医生需要反复调整报告、让AI重新生成某个部分,每次等待从6秒缩短到1.5秒,工作流的顺畅度会有质的变化。更重要的是,如果医院需要同时处理大量患者的报告,吞吐量提升7倍意味着同样的硬件资源可以服务更多患者。

六、任意位置填空——扩散模型的独门绝技

这项研究最具独创性的部分,或许正是任意位置填充能力的实现和验证。

研究团队用MIMIC-CXR数据库(一个大型去识别化的胸部X光及配套报告数据集)进行了专门的填充实验。他们从249份报告中各取出中间位置的一个完整句子,然后测试两种模型分别在两种条件下的填充表现。第一种条件是“双向”:同时提供缺失句子左边的内容和右边的内容,让模型在两侧约束下填充中间的空白。第二种条件是“仅左侧”:只提供左边的内容,模拟自回归模型的视野。对于自回归模型,研究团队在“双向”条件下把右侧内容也放进了提示词里——这是让它“看到”右边内容的唯一方式,但这种方式是硬塞进去的,不是它架构本身支持的条件。

评分标准有两个:一是词符F1分数(衡量填充结果和原始句子在词汇层面的重叠程度),二是让AI裁判判断填充结果和原始句子在语义上是否等价。

自回归模型的表现则说明了架构的根本性差异。即便把右侧内容明确写进提示词,它在词符F1上的提升只有+0.031(p=0.08,统计上不显著),AI裁判准确率甚至轻微下降了-0.016(同样不显著)。也就是说,把右侧内容“告诉”自回归模型,对它的填充质量几乎没有帮助——因为它的架构根本没有设计成利用这类信息的方式,右侧内容只是额外的“噪音”。

两种模型在“双向条件带来的提升”上的差距,在统计上是显著的(词符F1的交互效应:p=2×10^-4;AI裁判准确率:p=3×10^-4),意味着扩散模型从双向上下文中获益的程度,大约是自回归模型的3.5倍。

从具体案例来看,这种差异极为直观。一份报告写道“心脏大小正常。纵隔和肺门轮廓在正常范围内。[缺失句子] 肺部看起来清晰。骨性结构无异常。无急性病变证据。”,缺失的那句原文是“未见胸腔积液或气胸”。扩散模型在双向条件下准确填入了“未见胸腔积液或气胸”;而自回归模型在同样的双向条件下(右侧内容被放进提示词)只填出了“胸膜腔清晰”,并没有把两种情况都点出来。

另一个案例的缺失句是“心脏大小正常”,周围有大量关于双侧胸腔积液消退、双顶部肺部瘢痕等内容。扩散模型在双向条件下准确填出“心脏大小正常”;仅左侧条件下它给出了“无急性肺实变”,自回归模型无论哪种条件都给出了关于气腔不透明度或实变的描述,完全没有捕捉到心脏大小这个核心信息点。

这项实验使用的都是未经医学数据微调的基础模型,排除了微调带来的影响,因此结果真正反映的是两种架构本身的能力差异,而非训练数据的差异。

七、技术实现细节——如何让扩散模型“钉住”固定位置

实现任意位置填充在技术上需要一个小但关键的改动:在每一步去噪时,强制把固定位置的词“钉死”,不让它们被随机替换。

研究团队的实现方式是给去噪步骤打了一个补丁:在每一步开始前,把输入画布中固定位置的词强制替换成目标词(确保模型在做预测时能看到这些约束);在每一步结束后,再次把这些位置的词强制恢复(防止它们在去噪过程的随机化步骤中被改掉)。这样,无论去噪过程进行到哪一步,固定位置的词始终保持不变,而自由位置的词则在双向上下文的约束下逐步收敛到合理的填充内容。整个过程不需要重新训练模型,也不需要改变模型的任何参数,只是在推理(使用)阶段加了一个约束机制。

这种设计的优雅之处在于,它完全利用了扩散模型本身的双向注意力机制——每个自由位置在每一步更新时,都能看到整个画布上所有位置的当前状态,包括被钉住的固定词和其他仍在演化的自由词。固定词在双向注意力的上下文中,就像锚点一样引导整个填充过程向正确方向收敛。

这对于临床工作流的意义是直接的:放射科医生可以先在报告模板里填好若干固定的关键判断(比如“心脏大小正常”和“印象:双侧胸腔积液”),然后让AI来填充中间描述性的细节;或者医生可以改动报告中间的某一句话,让AI重新生成与两侧内容语义一致的替换版本,而不是从头重写整份报告。这种工作方式更符合放射科实际的写报告习惯,也更能适应不同医院、不同医生之间的风格差异。

归根结底,这项研究想说明的其实不复杂:当AI生成文字的方式从“从左往右一字一字打”变成“像雕塑家一样从全局逐步打磨”时,它不仅在准确率上能和传统方式旗鼓相当,还天然地获得了一项传统方式永远无法拥有的能力——真正理解并利用上下文两侧的信息来填充中间的空白。

对于放射科这样充满“填空”需求的临床场景,这种能力的价值不在于锦上添花,而在于解决了一个根本性的痛点。至于那3.5到4.4倍的速度优势,则是扩散模型并行计算架构带来的额外惊喜。

两种方式在写作质量上的差异并不是关键——研究团队也明确指出,两者的差距主要体现在是否能利用双向上下文,而不是谁更“会写字”。但正是这一点结构性的差异,可能决定了哪种AI模型更适合成为放射科医生的日常助手。

研究团队已将代码和微调后的模型权重公开发布,感兴趣的研究者可通过论文编号arXiv:2607.01436找到相关资源链接。

Q&A

Q1:扩散语言模型和普通的ChatGPT类模型有什么本质区别?

A:普通的ChatGPT类模型(自回归模型)每次只生成一个词,必须从左往右按顺序生成,后面的词看不到前面还没生成的位置。扩散语言模型则是先把所有位置都填上随机乱码,然后一轮一轮地同时修正所有位置,每个位置都能同时参考左边和右边的内容,最终收敛成有意义的文字。这就是为什么扩散模型能做“填空”,而自回归模型天然做不到。

Q2:DiffusionGemma填写放射报告的准确率有多高?

A:在三个标准医学视觉问答数据集上,微调后的DiffusionGemma-26B准确率分别为:VQA-RAD 64.9%、SLAKE 86.3%、VQA-Med-2019 66.6%。其中SLAKE数据集的成绩超过了GPT-4.1-mini、Claude Sonnet 4.6和Gemini-3.5-Flash三个顶级商业模型。在任意位置填充任务上,使用双向上下文时准确率从15.7%提升至28.5%。

Q3:任意位置填充技术对普通患者有什么实际意义?

A:这项技术让放射科医生在写报告时可以先定好关键结论,让AI填充中间的描述细节;或者修改报告某一句话后,AI能自动生成与前后内容语义一致的新版本,而不必重写整份报告。这有助于减少放射科医生的重复性劳动,同时帮助不同医院、不同医生之间的报告风格更加标准化一致,最终提升报告质量和诊断效率。

来源:https://www.163.com/dy/article/L1OF5TOF0511DTVV.html

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
在他人恐惧时保持贪婪 SK海力士DRAM定价与盈利依旧强劲

在他人恐惧时保持贪婪 SK海力士DRAM定价与盈利依旧强劲

最近,半导体与AI基础设施领域的一家顶级研究机构SemiAnalysis发布了一份题为《在他人恐惧时保持贪婪:SK海力士的DRAM定价与盈利依旧强劲》的报告,一下子就把市场的注意力拉回到了SK海力士身上。这份报告的核心结论相当明确:SK海力士在2026年第二季度乃至更远的未来,DRAM业务的盈利能力

时间:2026-07-14 12:45
创业板指重挫超4% 微盘股逆势涨2.5%

创业板指重挫超4% 微盘股逆势涨2.5%

7月10日尾盘,A股极端分化:创业板指与科创50均跌超4%,深成指跌逾2%,沪指跌0 8%,而微盘股逆势大涨2 5%,风格分化显著,市场避险情绪升温。

时间:2026-07-14 12:45
试驾体验对购车决策的影响 动力操控舒适成关键

试驾体验对购车决策的影响 动力操控舒适成关键

试驾体验直接影响购车决策,动力响应、操控精准度、座椅舒适性及NVH表现等细节决定长期用车幸福感。不同试驾感受对动力焦虑、驾驶信心和日常心情有显著差异,全面模拟真实场景的试驾有助于选到称心车辆。

时间:2026-07-14 12:45
比亚迪全球首个1700万辆新能源汽车下线里程碑

比亚迪全球首个1700万辆新能源汽车下线里程碑

比亚迪成为全球首家新能源汽车累计下线突破1700万辆的车企,第1700万辆车型为海豹08。这一里程碑得益于技术攻坚、产品矩阵完善及海外市场渗透,从刀片电池到DM-i等系统化技术为规模化铺路,展现产业链掌控力与迭代速度。

时间:2026-07-14 12:44
荣耀MagicOS 11爆料:YOYO Claw支持自定义AI大模型,安卓阵营最果液态玻璃UI

荣耀MagicOS 11爆料:YOYO Claw支持自定义AI大模型,安卓阵营最果液态玻璃UI

全新荣耀MagicOS11系统内置YOYO智能体,支持自定义AI大模型,可操控第三方应用,并具备长期记忆与技能商店。系统采用安卓首创的动态全屏通透液态玻璃界面,支持自定义光影效果,实现“果味”动效体验。

时间:2026-07-14 12:44
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
  • 热门数据榜