HuggingFace 最近发布了一款名为 candle 的小型 Rust ML 框架，该框架运行速度极快，并支持多种强大模型。它提供了对 GPU 的支持，并且具有优化的 CPU 后端，可以在浏览器中运行。candle 的语法类似于 PyTorch，使得用户感觉更加熟悉和舒适。该框架内置了多个预训练模型和示例，如语音识别模型、通用 LLM、计算机视觉模型等。用户可以使用 candle 进行模型的训练和优化，构建自己的机器学习模型。总体而言，candle 是一个轻量级的 Rust ML 框架，旨在实现无服务器推理，生成轻量级二进制文件，方便快速部署和执行。