Henry Schein One借助Amazon SageMaker AI实现实时牙科影像验证

牙科影像的质量，直接关系到保险理赔能否顺利通过。数据显示，高达20%的牙科保险理赔在初次提交时被拒，而影像缺失或质量不达标是主要原因之一。过去，质量控制完全是事后补救——临床医生可能在拍片几小时甚至几天后才发现问题，等到理赔被驳回或治疗计划无法推进时，早已错过最佳干预时机。如果影像模糊、对位不准或覆盖不全，患者就得重新拍片，这带来的成本、延误和各方的不满，可想而知。问题的核心在于时机：质量反馈来得太晚，患者早已离开，临床最佳时机也已错过。 这篇文章要讲的，正是Henry Schein One如何填补这个缺口。他们基于Amazon SageMaker AI构建了一套名为Image Verify的AI影像质量验证系统，能够在拍片瞬间、实时评估牙科X光的质量，并覆盖数千个诊所。从概念验证到上线，再到覆盖超过10,000个诊所，只用了几个月时间。目前，该系统已处理超过1100万张X光片，并以每周150万张的速度持续增长。Henry Schein One的目标，是将这一平台扩展到全球四个区域、总计40,000个诊所。 ## 挑战：规模化环境下的实时影像质量评估 Henry Schein One之前的影像验证方案运行在另一个云平台上，但无法满足临床工作流对延迟和成本的要求。在AWS上重建，不是简单的迁移，而是需要设计一个能同时满足五个关键要求的系统——任何一个环节掉链子，在分秒必争、信任需要逐步建立的临床环境中，这个方案就毫无价值。 1. **延迟**——临床医生可不会等着。质量评估必须在三秒内完成，才能无缝融入临床工作流。 2. **准确率**——多个机器学习模型需要从不同维度评估影像质量，包括清晰度、对位和完整性，同时还要避免误判，以免消耗临床医生的信任。 3. **规模**——系统必须同时服务数万个诊所，日处理量达到数十万级别。 4. **成本效率**——在如此规模下进行GPU推理，如果优化不当，成本会高得惊人。 5. **全球覆盖**——医疗是本地化的，但平台必须在多个区域都能提供一致的性能表现。 ## Henry Schein One 的 Image Verify Henry Schein One通过Dentrix和Dentrix Ascend这两套诊所管理平台，服务于全球数万名牙科临床医生。他们的平台服务团队发现了一个具体且代价高昂的痛点：高达20%的牙科保险理赔在初次提交时被拒，而影像缺失或质量不高是主因之一。 Image Verify是一个内置于诊所管理流程中的AI质量评估方案。当技师拍下一张X光片，Image Verify会立即进行评估，并给出1到5分的质量评分。如果分数偏低，技师可以当场为患者重拍，避免了患者再跑一趟。 这个产品从2025年秋季的概念阶段，到正式上线，只用了几个月时间。上线后几周内，就覆盖了250家诊所。到2026年4月下旬，这个数字已增长到超过10,000家，增长了43倍，累计处理了超过900万张X光片，周处理量平均达到150万张，且仍在增长。 需要明确的是，Image Verify是一个质量验证方案，而非诊断工具。它不识别病理，只回答一个问题：这张影像对于临床使用来说，质量够不够好？这个定位让团队在迭代时，绕开了与临床AI相关的监管约束。 对于诊所来说，效果立竿见影：患者返拍率降低，理赔提交质量提高，新技师培训有了抓手，而质量评分机制本身也像游戏化元素一样，自然地激发了技师的参与度。 > “Image Verify在第三季度末还只是一个想法。仅仅6个月后，它就被创造出来、打磨完善，并实现了规模化部署。它的设计和流程让采用变得快速、直观且易于扩展。” > —— Troy Miller，Henry Schein One 架构副总裁 ## 架构：AWS与Henry Schein One如何构建解决方案 Henry Schein One从一开始就在AWS上构建Image Verify，并使用Amazon SageMaker AI进行大规模机器学习推理。应用层运行在Amazon Elastic Kubernetes Service (Amazon EKS)上，负责协调从诊所管理应用发来的请求，将其发送到SageMaker AI推理端点，再将质量评分返回给临床医生。 架构图：  ### 推理流水线 当一张X光片在诊所被拍摄下来，它会经过一个运行在SageMaker AI上的多模型推理流水线。流水线按顺序执行几个阶段： 1. **分类**——第一阶段识别影像类型，例如咬翼片、全景片或根尖片，然后将其路由到对应的质量评估模型。 2. **质量评估**——针对特定影像类型的专业模型，评估其清晰度、对位、覆盖范围和完整性。 3. **评分汇总**——将各质量模型的结果合并成一个1到5分的质量评分，返回给诊所管理应用。 从影像拍摄到屏幕上显示评分，整个往返过程的中位数耗时仅为1.4秒，P90为2.2秒。在数百万次推理中，系统错误率仅为0.01%。 以下架构决策是实现延迟、成本和规模要求的关键： * **SageMaker AI异步推理**——能够处理变化的请求量，无需过度预置资源，基于队列深度而非CPU利用率进行自动扩缩，这对于GPU工作负载来说，信号更准确。 * **GPU实例选择**——团队对多个GPU实例系列进行了基准测试，最终从ml.g6e.4xlarge迁移到ml.g7e.4xlarge实例。新实例系列的表现超出预期，中位数延迟从1.687秒降至1.432秒，P90从2.45秒降至2.196秒。同时，集群规模从15个实例缩减到10个，GPU基础设施减少了33%，响应时间反而更优。 * **零停机部署**——通过A/B测试框架，在全面上线前，用真实生产流量验证每一项变更，实现每天都能进行优化迭代，且不影响生产环境。 * **通过AWS Cloud WAN实现多区域部署**——网络基础设施为美国、欧洲、加拿大和亚太地区提供一致的全球部署能力。 ### AWS 协作 项目启动时，AWS解决方案架构团队首先审查了Henry Schein One原有的、运行在另一个云平台上的影像验证工作负载。随后，团队将架构映射到等效的AWS服务上，确保在规模化的同时，实现更优的延迟和成本效率。最初的焦点是在AWS上建立一个可运行的基础版本，验证多模型推理流水线在新环境中能正常工作。随着团队对功能一致性的信心增强，合作重心转向了性能优化和规模扩展。架构逐步演进，最终形成了一个基于SageMaker AI推理的解决方案，能够以低于3秒的响应时间，支持数万个诊所。 在整个过程中，AWS团队提供了持续的架构评审，帮助识别适合工作负载的GPU实例系列，分析利用率模式以发现瓶颈，并制定了与Henry Schein One全球40,000个诊所目标相匹配的扩展策略。这种迭代、实践式的合作让双方团队都能快速行动，每周交付优化成果，同时通过零停机部署模式保持生产稳定性。 ## 优化：实现规模化效率 Image Verify项目中最具启发性的部分之一，就是它的优化历程：团队如何及早发现基础设施效率问题，快速响应，并最终打造出一个能用精简、高效的GPU集群服务于数万个诊所的系统。 ### 识别瓶颈 在Image Verify上线最初几周快速扩张时，团队进行了基础设施分析，以了解资源利用率模式。分析发现，包括图像解码、归一化和尺寸调整在内的预处理流水线，完全运行在CPU上。GPU资源未被充分利用，而整个系统却因此消耗了比实际需求更多的实例。 这种在GPU实例上由CPU端引发的瓶颈，是大规模机器学习推理中常见的陷阱。CPU饱和的信号会掩盖GPU的可用空间，导致团队在真正需要优化流水线时，反而去增加实例数量。 ### 优化方法 团队识别出一组优先级的优化机会，并通过零停机A/B部署开始交付。第一个改进，是将图像预处理从CPU迁移到GPU，实例效率立即获得了显著提升，且延迟和可靠性没有下降。 紧接着的第二次优化，进一步提升了每个实例的吞吐量。几天之内，系统就在比之前少得多的实例数上，支撑起了快速增长的诊所覆盖范围。 > “我们的团队花了时间，识别出超过60个具体的优化点。我们只是开始逐个攻破，有时一天内部署多次。我想重点提三个亮点：将更多模型推理直接迁移到GPU上（释放了我们在CPU端无法获得的吞吐量）；切换到异步推理流水线；以及建立一个A/B测试框架，这让我们能在将改进推送到10,000多个诊所之前，安全地进行验证。” > —— Troy Miller，Henry Schein One 架构副总裁 ### 当前状态 在优化启动后的两周内，Image Verify已处理超过2000万张牙科X光片，周处理量平均达到150万张，且仍在增长。系统服务于超过10,000个活跃诊所，相比上线时最初的250家，增长了43倍。中位数延迟为1.4秒，P90为2.2秒，错误率仅为0.01%。GPU集群利用率约为70%，优化清单中已完成60%的工作，改进仍在持续交付中。 更关键的是，这些数字如何转化为患者的实际体验。高达20%的牙科保险理赔因影像质量不佳被初次拒绝。Image Verify在患者离开前、在拍片的那一刻就捕捉到低质量影像，有助于减少返拍、提交更干净的理赔资料，并加速诊所的报销流程。对临床医生和办公室人员来说，这个反馈循环是即时且可行的。 同样值得注意的是采用速度。从250家到超过10,000家诊所的增长，发生在几周内，而不是几个月。游戏化的元素——技师能看到自己拍片的质量评分——在没有强制要求的情况下，自然地驱动了参与度，并为新员工创造了一个内置的培训机制。 展望未来，该架构已验证可以支持全球四个区域、总计40,000个诊所的目标。目前10,000个诊所约占其容量的26%，为后续增长提供了充足空间，无需重构架构。团队将基础设施效率视为产品特性，而不是一次性的项目。通过零停机A/B部署，每周都在交付优化成果，对客户无任何影响，也无需安排维护窗口。 ## 机器学习推理工作负载的经验教训 Image Verify的优化历程，为大规模运行的机器学习推理工作负载，提炼出四条可借鉴的原则： 1. **先分析，再扩展**——瓶颈是CPU预处理，而不是GPU计算。增加更多实例只会成本高昂且效果不佳。在扩展任何组件之前，先对完整流水线进行检测。 2. **优化流水线，不止是模型**——推理延迟的瓶颈往往隐藏在预处理、后处理和数据传输中，而非模型执行本身。要进行端到端的分析，而不仅仅是模型前向传播。 3. **为无停机迭代而构建**——A/B测试和流量切换支持快速迭代，不带来生产风险，从而在规模化环境下实现每日部署节奏。 4. **使用正确的自动扩缩信号**——当GPU实例承载混合的CPU和GPU工作负载时，队列深度和并发请求数是比CPU利用率更可靠的扩缩信号。 ## 未来展望 Image Verify展示了一种远超牙科影像的通用模式：在诊疗点进行实时机器学习推理，扩展到数千个场所，并通过最小化基础设施实现高效运行。 这一方法依赖于四个关键要素，组织可以将其应用于类似的工作负载： 1. **托管推理**——Amazon SageMaker AI处理GPU集群管理、自动扩缩和端点生命周期等运营复杂性，让工程团队专注于模型和流水线质量。 2. **激进的流水线优化**——对整个推理流水线（而不仅仅是模型）进行分析，能发现真正的瓶颈，无需额外的基础设施投入即可获得效率提升。 3. **零停机部署模式**——A/B测试和流量切换支持快速迭代，不带来生产风险，从而在规模化环境下维持每日部署节奏。 4. **多区域架构**——AWS Cloud WAN和跨四个区域的一致基础设施模式，提供了医疗保健组织所需的全球覆盖能力。 Henry Schein One的下一个阶段，目标是覆盖四个区域的40,000个诊所，这证明了该架构不仅在技术上可扩展，而且在全球医疗保健的运营层面同样可扩展。团队将继续处理其优化清单，每一项改进都通过零停机部署实时交付。 对于正在构建实时影像验证或类似机器学习推理工作负载的组织而言，模式是清晰的：从托管推理开始，对一切进行检测，端到端地优化流水线，并构建支持每日迭代的部署实践。 要了解更多关于在AWS上运行机器学习推理工作负载的信息，请访问Amazon SageMaker AI。要了解更多关于Image Verify和Henry Schein One诊所管理平台的信息，请访问henryscheinone.com。 ## 作者介绍  ### Troy Miller Troy是Henry Schein One的架构副总裁，负责领导全球团队和大型云原生医疗SaaS产品的架构。他专注于云优先平台战略、大规模数据和机器学习工作负载，以及将遗留系统现代化为弹性、高可用的云服务。Troy与客户、工程、产品和云提供商紧密合作，推动关键任务医疗平台的可靠性、成本优化和创新。  ### Pra veen Allam Pra veen是AWS的客户解决方案架构师，专注于帮助组织利用云技术解决复杂的业务挑战。他专注于数据驱动转型，在分析和生成式AI技术方面的专业知识，引导客户加速AI采用，并在各行业构建更智能、响应更迅速的系统。  ### Nathan Jetson Nathan是AWS的技术客户经理，支持Henry Schein One的整个AWS业务。他协调了AWS客户团队的参与，包括架构评审、服务配额活动和上线就绪支持，为Image Verify快速扩展到超过10,000个诊所提供了支持。  ### Da vid Caicedo Da vid是AWS的战略客户经理，拥有22年经验，其中15年专注于医疗和生命科学市场。他是公认的数字化医疗转型领导者，以建立推动市场创新的战略合作伙伴关系并取得卓越成果而闻名。