WebGPU技术亮相Chrome与Edge:AI模型运行速度大幅提升

近日,微软旗下的 ONNX Runtime Web 宣布整合了 WebGPU 技术,为网络浏览器中的复杂机器学习模型提供了强大的硬件加速支持。目前,Chrome 和 Edge 浏览器已经初步支持这项技术,预示着 AI 模型在网络浏览器中的运行速度将迎来大幅提升。

近日,微软旗下的 ONNX Runtime Web 宣布整合了 WebGPU 技术,为网络浏览器中的复杂机器学习模型提供了强大的硬件加速支持。目前,Chrome 和 Edge 浏览器已经初步支持这项技术,预示着 AI 模型在网络浏览器中的运行速度将迎来大幅提升。


ONNX Runtime Web 是一个 JavaScript 库,它允许网络开发人员直接在浏览器中部署机器学习模型,并利用各种硬件加速后端。而 WebGPU 则是一种新型的网络应用程序接口(API),它可以释放设备 GPU 的潜能,使机器学习模型在浏览器中实现高效运行。


在以前,由于计算能力的限制,复杂的机器学习模型,尤其是大型生成模型,很难在浏览器中顺畅运行。但现在,WebGPU 的加入改变了这一局面。通过利用 GPU 的并行计算能力,WebGPU 能够显著提高机器学习应用的推断效率和可扩展性。


微软表示,WebGPU 的先进功能如计算着色器,使其能够更高效地处理复杂的机器学习工作负载。此外,WebGPU 对半精度(FP16)的支持降低了 GPU 内存的使用率和带宽要求,从而进一步加快了运算速度。


目前,适用于 Mac 、 Windows 、 ChromeOS 的 Chrome 113 和 Edge 113,以及适用于 Android 的 Chrome 121,都已默认包含 WebGPU。这意味着开发者可以尝试通过 ONNX Runtime Web 调用 WebGPU,为他们的机器学习应用提供硬件加速支持。


尽管这项技术仍处于早期阶段,但 Chrome 和 Edge 浏览器的初步支持无疑为 WebGPU 的未来发展打开了新的可能。随着技术的不断成熟,我们有望在未来看到更多高效、可扩展的机器学习应用在网络浏览器中涌现。

本站文章均为原创,版权归本站所有,如需转载或引用请注明出处如:“本文章转载自:

WebGPU技术亮相Chrome与Edge:AI模型运行速度大幅提升 - Extfans”

相关标签

上一篇:智译网页翻译插件,Chrome网页的即时翻译神器

下一篇:Do It!这款插件能让电影男主角变成一只桌面宠物