谷歌SensorFM模型基于500万人1万亿分钟可穿戴数据预训练

当可穿戴设备积累的海量数据达到一定规模时，会带来怎样的突破？谷歌研究团队给出的答案是SensorFM——一个专为可穿戴健康数据设计的深度学习基础模型。该模型于7月9日发布，在35项健康相关任务中，有34项的表现超越了传统特征工程监督基线，这份成绩单相当引人注目。

那么，支撑这一模型的海量数据从何而来？答案是来自全球500万名已授权同意的参与者。数据采集周期为2024年9月至2025年9月，覆盖了100多个国家和地区，设备种类涵盖20多种Fitbit和Pixel Watch机型。对每位参与者抽取数周数据后，最终获得了超过20亿小时——即1万亿分钟以上的信号数据。如此庞大的数据量在健康领域中实属罕见。

在输入信号层面，模型接收的是34个按分钟聚合的特征。这些特征源自5种传感器：PPG（光电容积脉搏波）、加速度计、EDA（电皮肤活动）、皮肤温度以及高程计。具体来说，模型能够捕获24小时内的心率、心率变异性、血氧饱和度、睡眠阶段、运动与步数、皮肤电导及体温等信息——几乎覆盖了所有无需侵入身体即可测量的生理信号。

在模型规模方面，SensorFM提供了四个不同档位：XXS、XS、S、B。其中最大版本的SensorFM-B，相较于最小版本，重建损失下降了31%，分类任务的AUC均值提升了9%，回归任务的Pearson相关系数更是提高了21%。换言之，模型规模越大，其性能优势就越显著。

接下来是硬碰硬的性能测试环节。在35项判别式健康任务中，SensorFM-B拿下了33项的第一名。更关键的是，研究团队使用线性探针（linear probe）来验证模型提取特征的能力——结果显示，在35项任务中，有34项优于传统特征工程监督基线。这些任务覆盖范围广泛，包括心血管、代谢风险、心理健康、睡眠、人口统计与生活方式，共六大类别。

此外，研究团队还进行了一项有趣的探索性尝试——构建了一个agentic“教室”：让多个协作与竞争的LLM智能体去迭代生成、测试并优化推理代码。在这个系统中，模型探索了超过3万个候选方案。最终生成的预测头，在20项分类任务中16项优于线性探针，在15项回归任务中12项优于线性探针。这一结果表明，自动化搜索出的模型结构在许多场景下确实比手工设计的方案更具潜力。