OnnxStream是一款专注于降低内存占用、提高推理效率的机器学习推理引擎，适用于资源有限的设备，如树莓派Zero2。它具有出色的内存管理能力，支持多种权重加载方式和注意力切片，同时跨平台运行，为技术爱好者和开发者提供了新的可能性。