webdnn

简介:Web浏览器上最快的DNN执行框架
这个日本制造的JavaScript库是为了在浏览器上快速运行深度神经网络预训练模型而构建的。由于在浏览器上执行DNN会消耗大量计算资源,因此该框架优化了DNN模型以压缩模型数据并通过JavaScript API(如WebAssembly和WebGPU)加速执行。
为什么需要WebDNN?
深层神经网络(DNN)在许多应用中受到越来越多的关注。 然而,它需要大量的计算资源,并且有许多巨大的过程来设置基于执行环境的硬件加速,如 GPGPU。 因此,为终端用户提供DNN应用非常困难。
WebDNN通过使用Web浏览器作为无安装的 DNN 执行框架来解决此问题。 该框架优化了经过训练的DNN模型,以压缩模型数据并加快执行速度,并使用新颖的JavaScript API(如WebAssembly和WebGPU)执行,以实现零开销执行。 实证评估显示,其实现了超过200倍的加速。