根据PyTorch文档，在把PyTorch模型保存成文件的时候有两种方法，第一种是推荐的：
torch.save(the_model.state_dict(), PATH)
对应地，加载模型这样做：
the_model = TheModelClass(*args, **kwargs)
the_model.load_state_dict(torch.load(PATH))
模型
[原创] 加快TensorFlow在树莓派上的执行速度——服务常驻内存
本文软硬件环境：
树莓派：3代 Model B V1.2，内存1GB
OS：Arch Linux ARM
在上一篇文章中，我尝试了加快TensorFlow预测速度的一个方法——模型“预热”，实验证明它非常有效，但那仍然没有解决一个问题：每次运行程序，都要加载一次模型，然后预热N次，这个过程非常耗时，因此减少这部分时间也是非常关键的。把TensorFlow做成一个常驻内存的服务就可以解决这个问题。
解决这个问题的正确姿势是：TensorFlow已经提供了一个叫作 TensorFlow Serving 的library来实现这个需求。但麻烦的是，在树莓派上编译TensorFlow Serving会遇到很多问题，所以，在没有人搞出在树莓派上一键安装的Python wheel包之前，还是算了吧...
因此，下面我用一个很挫的办法来实现一个简陋的TensorFlow service。