当前位置: 首页
AI
微软发布医疗时序底座:4540亿预训练数据,突破不规则采样难题

微软发布医疗时序底座:4540亿预训练数据,突破不规则采样难题

热心网友 时间:2026-01-24
转载

在大模型(LLM)与计算机视觉(CV)争相重塑医疗行业的今天,我们似乎已经拥有了无所不能的数字助手:它们能够像放射科医生一样精准解读CT影像,也能像内科医生一样撰写病历摘要。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

但医疗AI世界中,仍有一块关键拼图缺失——那就是理解“生命动态演变”的能力。



△图1.不同模态的医疗数据

正如图1所示,如果将患者的生命历程比作一部电影,现有的AI往往只能捕捉到零散的帧画:

影像(Image)是“快照”:定格的仅仅是某一瞬间的解剖结构;

文本(Text)是“叙述”:往往只是对既往病情的主观回顾;

唯有时间序列(Time Series),才忠实记录了生命体征的连续轨迹。

然而,读懂这条“曲线”远比处理静态图像复杂。为此,微软亚洲研究院推出了专为医疗时序数据设计的通用基座模型——MIRA。

该模型基于4540亿个医疗数据点进行大规模预训练,通过两大核心技术突破了传统模型对规则采样的依赖,旨在解决真实世界医疗数据“不规则、异构性”的难题。

实验表明,MIRA在关键预测任务上的表现超越了现有SOTA模型,并展现出卓越的零样本(Zero-shot)迁移能力。

一起来看具体方案。

真实医疗数据:大模型的“噩梦”

长期以来,医疗时序模型的通用化进程面临诸多挑战,其核心问题在于“理想假设”与“现实数据”的错位。

通用深度学习模型通常基于“规则采样”的理想化假设,即数据是整齐划一、均匀分布的。

然而,在真实医疗场景中,尤其是重症监护室(ICU),生命体征的记录往往呈现出“时疏时密”的特点:心跳以秒为单位波动,血压可能以小时为单位记录,而血液检测指标可能需要一天甚至更长时间才能更新一次。

这种多时间尺度交织、采样频率不规则的特性,构成了医疗时序数据最显著的挑战,也是大模型在医疗领域落地应用的核心障碍。



△图2.医疗时间序列数据典型样例

图2医学时间序列数据具有以下特点:①时间间隔不规则,②采样率异质,③由于临床工作流程不标准或仪器按照不到位造成的数据缺失。

传统方法为了让模型处理这些数据,往往不得不采用插值(Imputation)等手段强行对齐。这种做法不仅容易引入人为的“噪声”,还可能丢失原本的时间动力学信息,属于典型的“削足适履”。

而MIRA的提出,正是为了解决这一难题。它不再局限于单一场景训练,而是从海量医疗数据中学习跨场景、跨模态的生理动态模式,成为一个具备卓越迁移能力的通用医疗基座模型。

两大核心技术:读懂不规则律动

面对医疗数据“杂乱无章”的特性,MIRA设计了两大核心技术模块,分别解决了“历史”与“未来”的建模难题。



△图3.MIRA的架构

MIRA的架构如下:①接收不规则时间序列和时间戳作为输入,并应用CT-RoPE进行连续时间编码。②混合专家层根据频率路由到不同的Expert。③Neural ODE模块将潜在状态演化到任意目标时间戳,从而实现灵活的时间感知预测

1.CT-RoPE:给“历史”一把弹性标尺

传统模型处理时间序列习惯用离散的整数索引(1,2,3…)来标记顺序,默认每一步距离相等,忽略了医疗数据中“时疏时密”的真实间隔。

MIRA创新性地提出了连续时间旋转位置编码(CT-RoPE)。它摒弃了离散索引,直接将真实的连续时间戳代入旋转矩阵计算。

这意味着,模型能够精准感知历史记录中任意时间间隔的变化,而不是机械地记录采样次数。

2. Neural ODE:描绘“未来”的连续曲线

人体状态是连续流动的,而非离散跳变。为了精准推演病情走向,MIRA引入了神经常微分方程(Neural ODE)模块。

如果说CT-RoPE是为了读懂过去零散的点,那么Neural ODE就是为了画出未来连续的线。它模拟生物体内部的动力学变化,能基于离散数据推导出连续时间下的潜在状态演化轨迹。

这意味着,即使未来的采样时间点不确定,模型也能依循生理规律,给出符合动力学逻辑的合理预测。

实验验证:零样本与高鲁棒性

研究团队在MIMIC-III、MIMIC-IV等多个权威数据集上对MIRA进行了评估。

1. 零样本(Zero-shot)预测突破

最值得关注的是MIRA的迁移能力。在未经过任何特定目标数据集训练的情况下,MIRA直接被部署到全新的医疗场景中。

数据显示,其在分布外(OOD)测试集上的表现,甚至超越了部分专门训练的全监督模型。这说明MIRA学到了生理信号变化的“通用规律”,而不仅仅是拟合了某家医院的数据分布。



△图4.与baseline相比,MIRA out-of-distribution表现

2.极度稀疏数据的“高鲁棒性”

面对缺失值,传统模型往往依赖插值预处理。这种做法不仅引入人为噪声,还可能破坏数据的原始分布特性。

而MIRA得益于Neural ODE,无需任何插值操作即可原生适配。通过建模时间序列的连续动力学特性,MIRA能够直接处理数据中的缺失值,无需额外的预处理步骤。

实验表明,即便在数据极度稀疏(例如仅保留30%观测点)的条件下,MIRA的性能依然保持稳健,并未像传统预测模型那样出现性能的显著下滑。这种对真实世界“脏数据”的适应能力,证明了其在复杂临床环境下的高鲁棒性。



开启医疗AI的“通用基座”时代

MIRA的提出可谓是医疗时序预测向“通用基座”时代迈进的重要探索。通过解决不规则采样和异构数据难题,MIRA为医疗AI摆脱“烟囱式”开发模式提供了可能。

未来,医院或可利用MIRA作为底座,配合少量本地数据微调,快速获得高精度的定制化模型。这为构建更智能的ICU早期预警、慢病管理以及通用AI助手奠定了坚实基础。

论文链接:

https://arxiv.org/abs/2506.07584
项目链接:

https://github.com/microsoft/MIRA

来源:https://www.163.com/dy/article/KK1R87U60511DSSR.html

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
谷歌内存论文疑被抄袭,华人学者控诉业内学术不公

谷歌内存论文疑被抄袭,华人学者控诉业内学术不公

新智元报道编辑:好困 Aeneas【新智元导读】把闪存股一夜干崩的谷歌顶会论文,出大事了。TurboQuant的核心方法,两年前就被一位华人学者做完、发完顶会、代码全部开源了。谷歌不仅没正面提及,而

时间:2026-03-28 16:58
OpenClaw漏洞威胁:智能家居被反锁与隐私泄露风险

OpenClaw漏洞威胁:智能家居被反锁与隐私泄露风险

新智元报道编辑:倾倾【新智元导读】2025年底,极客圈发生了一场数字哗变,Anthropic的遮羞布被Peter Steinberger撕了个精光。从OpenClaw开源到Claude被扒出80页「

时间:2026-03-28 16:52
华为大模型负责人离职,重大人事变动引发行业关注

华为大模型负责人离职,重大人事变动引发行业关注

智东西作者|江宇编辑|冰倩智东西3月28日报道,今日,华为诺亚方舟实验室主任、华为盘古大模型负责人王云鹤在朋友圈发文,确认离职。王云鹤于2017年以华为北京部门首位实习生身份加入,至今已接近9年。在

时间:2026-03-28 16:46
Nature重磅:AI生成论文在顶会通过率55%,单篇成本仅15美元

Nature重磅:AI生成论文在顶会通过率55%,单篇成本仅15美元

新智元报道编辑:元宇【新智元导读】刚刚,Nature盖章AI独立科研时代!全新Scaling Law显现,人类死守的学术铁王座,正发生不可逆的转移。一篇长达数十页的学术论文,在人类设定研究主题和实验

时间:2026-03-28 15:07
CMU首创无毒AutoGEO方案,破解GEO投毒产业链焦虑

CMU首创无毒AutoGEO方案,破解GEO投毒产业链焦虑

新智元报道编辑:LRST【新智元导读】ChatGPT上线广告、315曝光GEO投毒产业链,AI搜索商业化的隐忧接连浮出水面。龙虾热背后,3000元就能让AI搜索信口开河,离全面「瞎说」还有多远?来自

时间:2026-03-28 15:01
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
  • 日榜
  • 周榜
  • 月榜
热门教程
更多
  • 游戏攻略
  • 安卓教程
  • 苹果教程
  • 电脑教程