谷歌发布LiteRT.js库 Web端AI推理速度实现最高3倍提升

谷歌昨天放出了一个重磅消息——7月9日，他们正式推出了全新的LiteRT.js库。说白了，这个库就是为了让浏览器跑人工智能和机器学习任务时更快，尤其是那些以前在网页端跑起来有点吃力的工作。

这个LiteRT.js最大的亮点，是采用了WebAssembly技术，同时结合了WebGPU和WebNN这些底层硬件加速能力。换句话说，它不再走TensorFlow.js那套纯Ja vaScript内核的老路，而是用一种更接近底层硬件的执行方式，把计算效率拉到了一个新高度。下面这张图可以让你一目了然它的架构设计。

LiteRT.js的架构到底长什么样？简单说，WebAssembly是一种二进制指令格式，它允许网页在浏览器中以接近本地代码的速度运行高性能计算——这就好比过去开普通轿车，现在换成了赛车引擎。而TensorFlow.js呢，是谷歌之前为Ja vaScript开发者准备的机器学习库，支持在浏览器里构建、训练和部署模型。LiteRT.js的出现，相当于给这个生态换了一套更强劲的动力总成。

性能提升有多明显？谷歌用搭载M4芯片的2024款MacBook Pro做了测试，结果发现LiteRT.js相比现有方案，速度整整提升了3倍。不过谷歌也坦承，如果用的是旧硬件，或者在不同引擎的浏览器上跑，实际效果可能会有差异。话虽如此，这个方向的意义已经不言自明——浏览器端的AI，正在从“能跑”走向“反赌”。