SqueezeNet 是UC Berkeley和Stanford研究人员一起完成的网络结构和设计思想。SqueezeNet设计目标不是为了得到最佳的CNN识别精度,而是希望简化网络复杂度,同时达到public网络的识别精度。所以SqueezeNet主要是为了降低CNN模型参数数量而设计的。
论文:《SqueezeNet: AlexNet-level accuracy with 50x fewer parameters and <0.5MB model size》
开源模型链接:https://github.com/pytorch/vision/blob/v0.11.0/torchvision/models/squeezenet.py
数据集(ImageNet):http://www.image-net.org/
数据集资源下载
ImageNet是一个不可用于商业目的的数据集,必须通过教育网邮箱注册登录后下载,请前往官方自行下载 ImageNet 2012 val。
模型资源下载
清微github modelzoo仓库下载
git clone https://github.com/tsingmicro-toolchain/ts.knight-modelzoo.git
联系清微智能获取Knight工具链版本包 ReleaseDeliverables/ts.knight-x.x.x.x.tar.gz
。下面以ts.knight-2.0.0.4.tar.gz为例演示。
检查docker环境
默认服务器中已安装docker(版本>=19.03), 如未安装可参考文档ReleaseDocuments/《TS.Knight-使用指南综述_V1.4.pdf》。
docker -v
加载镜像
docker load -i ts.knight-2.0.0.4.tar.gz
启动docker容器
docker run -v ${localhost_dir}/ts.knight-modelzoo:/ts.knight-modelzoo -it ts.knight:2.0.0.4 /bin/bash
localhost_dir为宿主机目录。
将下载好的数据放在/ts.knight-modelzoo/pytorch/builtin/cv/classification/squeezenet1_0/data/imagenet/images/val
,并执行valprep.sh脚本对
图片进行分类。
在docker 容器内运行以下命令:
cd /ts.knight-modelzoo/pytorch/builtin/cv/classification/
sh squeezenet1_0/scripts/run.sh
模型准备
如上述"Knight环境准备"章节所述,准备好squeezenet1_0 pytorch权重文件。
量化数据准备
将下载好的数据放在${localhost_dir}/ts.knight-modelzoo/pytorch/builtin/cv/classification/squeezenet1_0/data/imagenet/images/val
,并执行valprep.sh脚本对图片进行分类。在数据集中选200张图片作为量化校准数据集, 通过命令行参数-i 200
指定图片数量,-d
指定数据集路径。
模型转换函数、推理函数准备
已提供量化依赖的模型转换和推理函数py文件: /ts.knight-modelzoo/pytorch/builtin/cv/classification/squeezenet1_0/src/squeezenet1_0.py
执行量化命令
在容器内执行如下量化命令,生成量化后的文件 squeezenet1_0_quantize.onnx 存放在 -s 指定输出目录。
Knight --chip TX5368AV200 quant onnx -m squeezenet1_0 -w /ts.knight-modelzoo/pytorch/builtin/cv/classification/squeezenet1_0/weight/squeezenet1_0-b66bff10.pth -f pytorch -uds /ts.knight-modelzoo/pytorch/builtin/cv/classification/squeezenet1_0/src/squeezenet1_0.py -if infer_imagenet_benchmark -s ./tmp/squeezenet1_0 -d /ts.knight-modelzoo/pytorch/builtin/cv/classification/squeezenet1_0/data/imagenet/images/val -bs 1 -i 200
Knight --chip TX5368AV200 rne-compile --onnx squeezenet1_0_quantize.onnx --outpath .
#准备bin数据 python3 src/make_image_input_onnx.py --input /ts.knight-modelzoo/pytorch/builtin/cv/classification/squeezenet1_0/data/imagenet/images/val/n07749582 --outpath . #仿真 Knight --chip TX5368AV200 rne-sim --input model_input.bin --weight squeezenet1_0_quantize_r.weight --config squeezenet1_0_quantize_r.cfg --outpath .
Knight --chip TX5368AV200 rne-profiling --weight squeezenet1_0_quantize_r.weight --config squeezenet1_0_quantize_r.cfg --outpath squeezenet1_0_example/
芯片系列 | 是否支持 |
---|---|
TX510x | 支持 |
TX5368x_TX5339x_TX5335x | 支持 |
TX5215x_TX5239x200_TX5239x220_TX5239x300 | 支持 |
TX5112x_TX5239x201 | 支持 |
TX5336x_TX5356x | 支持 |
2023/11/23 第一版
ModelZoo Edge 的 License 具体内容请参见LICENSE文件
您明确了解并同意,以上链接中的软件、数据或者模型由第三方提供并负责维护。在以上链接中出现的任何第三方的名称、商标、标识、产品或服务并不构成明示或暗示与该第三方或其软件、数据或模型的相关背书、担保或推荐行为。您进一步了解并同意,使用任何第三方软件、数据或者模型,包括您提供的任何信息或个人数据(不论是有意或无意地),应受相关使用条款、许可协议、隐私政策或其他此类协议的约束。因此,使用链接中的软件、数据或者模型可能导致的所有风险将由您自行承担。