InferSDK(Deep Learning Inference SDK)是一个基于多种后端深度学习推理框架的计算机视觉深度学习能力集成框架,支持分类、检测、分割、人体姿态估计、图像Low-Level处理等常见CV任务的快速集成。支持多种后端深度学习推理框架(包括Onnxruntime、NCNN、MNN、TNN等),支持云端、嵌入式、移动端(包括CPU、GPU、NPU等)等多种硬件环境上的快速推理计算。
待补充
TODO List:
- 检测模块集成+可视化结果
- 分类模块一致性对齐
- 多线程安全检查
- NCNN、MNN、TNN后端支持
- 配置文件支持
- 模型资源统一管理