树莓派3B(V1.2)有板载WiFi模块，而Ubuntu MATE 18.04也支持它，下面来看看怎么在命令行启用。

 修改网络配置文件，添加WiFi配置内容

cd /etc/netplan

01-network-manager-all.yaml

sudo cp 01-network-manager-all.yaml 01-network-manager-all.yaml.bak
sudo vim.tiny 01-network-manager-all.yaml

# Let NetworkManager manage all devices on this system

network:

  version: 2

  renderer: NetworkManager

  # below are WiFi info

  wifis:

    wlan0:

      optional: true

      access-points:

        "MyWiFi":

          password: "my_password"

      dhcp4: true

保存文件，接着就可以测试这个配置了。
文章来源：https://www.codelast.com/
 测试配置

sudo netplan --debug try

DEBUG:New interfaces: set()

** (generate:1387): DEBUG: 00:07:20.808: Processing input file /etc/netplan/01-network-manager-all.yaml..

** (generate:1387): DEBUG: 00:07:20.809: starting new processing pass

** (generate:1387): DEBUG: 00:07:20.809: wlan0: adding wifi AP 'MyWiFi'

** (generate:1387): DEBUG: 00:07:20.809: wlan0: setting default backend to 2

** (generate:1387): DEBUG: 00:07:20.810: Configuration is valid             

** (generate:1387): DEBUG: 00:07:20.810: Generating output files..

** (generate:1387): DEBUG: 00:07:20.810: networkd: definition wlan0 is not for us (backend 2)

DEBUG:no netplan generated networkd configuration exists

DEBUG:netplan generated NM configuration changed, restarting NM

DEBUG:wlan0 not found in {}

(...中间省略...)

DEBUG:Skipping non-physical interface: lo

DEBUG:Skipping non-physical interface: eth0

DEBUG:{}

DEBUG:netplan triggering .link rules for lo

DEBUG:netplan triggering .link rules for eth0

DEBUG:netplan triggering .link rules for wlan0

Do you want to keep these settings?

(...后面省略...)

sudo netplan --debug generate

DEBUG:command generate: running ['/lib/netplan/generate']

** (generate:1579): DEBUG: 00:13:42.069: Processing input file /etc/netplan/01-network-manager-all.yaml..

** (generate:1579): DEBUG: 00:13:42.070: starting new processing pass

** (generate:1579): DEBUG: 00:13:42.070: wlan0: adding wifi AP 'MyWiFi'

** (generate:1579): DEBUG: 00:13:42.070: wlan0: setting default backend to 2

** (generate:1579): DEBUG: 00:13:42.070: Configuration is valid

** (generate:1579): DEBUG: 00:13:42.070: Generating output files..

** (generate:1579): DEBUG: 00:13:42.070: networkd: definition wlan0 is not for us (backend 2)

sudo netplan --debug apply

sudo shutdown -r now

 一些问题
如果不能连接WiFi，要看你的树莓派能不能扫描到你在配置文件中设置的SSID，可以用下面的命令查看树莓派能扫描到哪些SSID：

sudo iw dev wlan0 scan | grep SSID

SSID: ChinaNet-HG5o

SSID: ASUS-HuHu

SSID: TP-LINK_6D7F

很多年前我刚开始玩树莓派的时候，Python还是个“很不火”的编程语言，而如今Python借着深度学习(Deep Learning)的东风，已经毫无疑问地成了世界上最耀眼的明日之星；想当年我刚开始玩树莓派的时候，使用WiringPi开发库、在C++下开发GPIO应用是一个比较明智的选择，而如今树莓派上的Pyhton GPIO库已经百花齐放，并且多个树莓派的OS都已经内置了一或多个Python GPIO开发包，真正做到了：你只要装好系统，就马上能用Python写程序操作GPIO，立等可用。

C++编译一个简单的GPIO程序都要写Makefile，修改一点东西也得重新编译；而Python直接在交互模式下就可以测试GPIO，方便得让你想哭。相比之下，对一般的GPIO应用而言，我真的找不到什么理由再去用C++ & WiringPi来做。此外还有最重要的一点：树莓派在教育领域的广泛应用，使得Python成为了最合适的教育工具。儿童是祖国的花朵，如果让小孩子们在树莓派上用C++，这花朵还能好好成长吗？
文章来源：https://www.codelast.com/
下面就来看看，在Ubuntu MATE 18.04 系统下，用Python来开发一个GPIO应用有多么简单。

 选择哪个GPIO库
之前我已经装好了Miniconda环境，而知名Python GPIO库 RPi.GPIO 在Anaconda上没有Python 3.6的版本，因此我安装了另一个pigpio库：

conda install -c cbetters pigpio

如果你装的是Raspbian系统，那么它已经自带了 RPi.GPIO，你啥都不需要做就可以开始上台表演了。
文章来源：https://www.codelast.com/
 启动 pigpio 的daemon进程
这是基于 pigpio 的Python程序能work的必要条件：

sudo pigpiod

如果没有启动它，那么调用了 pigpio 的Python程序运行的时候会报错：

Can't connect to pigpio at localhost(8888)

 

Did you start the pigpio daemon? E.g. sudo pigpiod

 

Did you specify the correct Pi host/port in the environment

variables PIGPIO_ADDR/PIGPIO_PORT?

E.g. export PIGPIO_ADDR=soft, export PIGPIO_PORT=8888

 

Did you specify the correct Pi host/port in the

pigpio.pi() function? E.g. pigpio.pi('soft', 8888)

文章来源：https://www.codelast.com/
 树莓派硬件接线
这里做一个最简单的实验：用树莓派的GPIO口点亮LED。

https://pinout.xyz 这个网站上有树莓派的引脚分配图。这里我使用树莓派的物理编号为 11 的GPIO口，也就是Broadcom命名方式下的 GPIO 17 口。

文章来源：https://www.codelast.com/
 Python程序
程序这么简单我还能说什么：

import pigpio

pi = pigpio.pi()
pi.set_mode(17, pigpio.OUTPUT)  # 把GPIO 17设置成输出模式
pi.write(17, 1)  # 把GPIO 17设置成高电平

这代码完全不用做任何解释。
文章来源：https://www.codelast.com/
 效果实拍
为了兼容性，MP4视频被我转成了体积巨大的gif(我容易吗我)，且看且珍惜：

文章来源：https://www.codelast.com/
 总结
对树莓派来说：
☞ 人生苦短，请你用Python！
☞ 在树莓派上折腾GPIO，用Python！
☞ For kids，毫无疑问地选Python！
☞ 这个世界是你们的，是我们的，但终究是Python的！

文章来源：https://www.codelast.com/
➤➤ 版权声明 ➤➤ 
转载需注明出处：codelast.com 
感谢关注我的微信公众号（微信扫一扫）：

在树莓派3上安装Miniconda，并不能安装普通的Linux版，你得安装 for ARM v7 的版本：

wget http://repo.continuum.io/miniconda/Miniconda3-latest-Linux-armv7l.sh

chmod +x Miniconda3-latest-Linux-armv7l.sh

./Miniconda3-latest-Linux-armv7l.sh

在树莓派上安装好Ubuntu MATE 18.04之后，我在试图更新系统的时候遇到了 bluez 软件包和 内核固件 冲突，从而导致无法进行下去的问题，本文记录一下现场情况以及解决办法。

更新系统：

sudo apt update
sudo apt upgrade

然后就出错了：

正在读取软件包列表... 完成

正在分析软件包的依赖关系树

正在读取状态信息... 完成

正在计算更新... 完成

下列软件包将被升级：                          0 个

  linux-firmware-raspi2

升级了 1 个软件包，新安装了 0 个软件包，要卸载 0 个软件包，有 0 个软件包未被升级。

需要下载 0 B/3,612 kB 的归档。

解压缩后将会空出 35.8 kB 的空间。

您希望继续执行吗？ [Y/n]

(正在读取数据库 ... 系统当前共安装有 139961 个文件和目录。)

正准备解包 .../linux-firmware-raspi2_1.20190215-0ubuntu0.18.04.1_armhf.deb  ...

正在将 linux-firmware-raspi2 (1.20190215-0ubuntu0.18.04.1) 解包到 (1.20180919-0ubuntu0.18.04.2) 上 ...

dpkg: 处理归档 /var/cache/apt/archives/linux-firmware-raspi2_1.20190215-0ubuntu0.18.04.1_armhf.deb (--unpack)时出错：

 正试图覆盖 /lib/firmware/brcm/BCM43430A1.hcd，它同时被包含于软件包 bluez-firmware 1.2-4+rpt1~bionic1.0

dpkg-deb: 错误: 粘贴 subprocess was killed by signal (Broken pipe)

在处理时有错误发生：

 /var/cache/apt/archives/linux-firmware-raspi2_1.20190215-0ubuntu0.18.04.1_armhf.deb

^[[A^[[A^[[A^[[A^[[AE: Sub-process /usr/bin/dpkg returned an error code (1)

在树莓派上安装好Ubuntu MATE 18.04之后，我需要把外挂的显示屏去掉，从此只在command line下使用树莓派，因此要先打开Ubuntu MATE上的ssh服务。

Ubuntu MATE 18.04已经默认安装好了 openssh-server，因此不需要用 sudo apt install openssh-server 来装了。

接着就是把ssh服务设置成开机自动运行，以及启动ssh服务：

sudo systemctl enable ssh

sudo systemctl start ssh

sudo dpkg-reconfigure openssh-server

廉颇老矣，尚能饭否？
周末在家写代码的时候，斜眼看见躺在我桌子上正在吃灰的树莓派3B（V1.2），我突然想把它的系统更新一下。
时至2019年11月，外面已经是树莓派4代(2019.06发布)的天下了，而3B这种老型号，最适合拿来做遥控车之类的儿童玩具了。

于是我立即下载了最新的官方推荐OS：Raspbian Buster(with desktop and recommended software)，搞起。然而刷Raspbian Buster之后是一个悲伤的故事——多次尝试也不能boot；于是我接着换了Ubuntu MATE系统，用起来一切OK。
下面就把这个过程简单地记录一下。

 软件环境
PC OS：macOS Catalina(10.15.1)
Raspberry Pi OS：Ubuntu MATE 18.04.2
文章来源：https://www.codelast.com/
 格式化TF卡
使用SD协会官方的SD卡格式化工具 SD Card Formatter 来完成这个任务：

这个软件实在太简单了，选“Quick format”之后点击“format”按钮执行即可，几秒就能完成格式化。
文章来源：https://www.codelast.com/
 把Ubuntu MATE系统写到TF卡上
先下载Ubuntu MATE的系统镜像文件(.img)，再使用开源软件Etcher把它烧写到TF卡里。
下面的图是以烧写Raspbian Buster为例。
选择要烧写的 .img 镜像文件：

 点击“Flash!”按钮开烧写：

 静待烧写完成：

 烧写完成：

这样就完成了。
文章来源：https://www.codelast.com/
如果不想安装Etcher，非要用麻烦的命令行，不妨尝试一下：
☞ 用 diskutil list 命令找到TF卡的设备号，假设其为 /dev/disk2
☞ 卸载TF卡：diskutil unmountDisk /dev/disk2
☞ 用dd命令烧写系统镜像到TF卡中：sudo dd if=2019-09-25-rpd-x86-buster.iso of=/dev/rdisk2 bs=4M

正因为操作命令行需要人很清醒才不会犯错，因此还是强烈建议使用Etcher，不要用命令行来烧写系统到TF卡！
文章来源：https://www.codelast.com/
 安装Ubuntu MATE系统
由于我烧写到TF卡的Raspbian Buster系统无法boot，并且重新烧写了几次都一样黑屏，因此我放弃了Raspbian，改为使用了Ubuntu MATE。Ubuntu MATE和Ubuntu Desktop的使用体验非常相似，经常使用Ubuntu Desktop的人会很习惯。
把OS镜像烧写到TF卡上，并不代表OS就已经装好了，把TF卡插到树莓派上，通电之后才会真正开始安装过程。在这个过程中，你需要有外接屏幕辅助，由于树莓派是HDMI接口，如果家里有现成的台式机显示器的话，可以拿来一用；或者不太落伍的电视机也行（一般都有HDMI接口）；又或者你可以像我一样，自购树莓派的外挂LCD显示屏模块：

液晶背光亮起的状态：

文章来源：https://www.codelast.com/
把树莓派接上键盘和鼠标，开始像一台普通电脑一样安装Ubuntu MATE：

文章来源：https://www.codelast.com/

液晶屏的驱动板和树莓派用HDMI线连接：

安装Ubuntu MATE的过程除了速度慢些，其他没有任何困难。

 禁用/启用 GUI
作为一个习惯在command line下工作的人，我难道会在乎用Ubuntu MATE的时候有没有图形界面吗？！
我会！
但是对树莓派那弱弱的计算资源来说，GUI还是算了吧，毕竟主要还是拿它来玩GPIO的。
所以怎么在Ubuntu MATE启动的时候禁用GUI呢？这样做：

sudo systemctl set-default multi-user.target

重新启用GUI：

sudo systemctl set-default graphical.target

这样树莓派的系统就万事俱备了。
文章来源：https://www.codelast.com/
➤➤ 版权声明 ➤➤ 
转载需注明出处：codelast.com 
感谢关注我的微信公众号（微信扫一扫）：

本文是上一篇文章的续文。
微软于2017年6月底发布了一个主要用于嵌入式系统（例如，树莓派，ARM Cortex-M0等）的机器学习库ELL（Embedded Learning Library，嵌入式学习库）。
在之前的文章中，我大费周章，终于在树莓派上把ELL的demo跑起来了，但它实用吗？在本文中，我将简单地测试一下使用Darknet model的inference速度和精度。

『1』对比对象
我之前在树莓派上安装过了TensorFlow on Raspberry Pi（Inception v3 model），估计不会有哪个framework能比它更容易部署在树莓派上了——几乎是弹指一挥间就可以完成的零成本工作。所以我就拿它来和ELL进行简单的对比。
文章来源：https://www.codelast.com/
『2』测试数据
我随便找了10张常见物体的图片来做测试。有人会说这么少的样本量能说明什么问题？首先我只想简单快速地测试一下ELL的效果，其次我也没有时间去做严谨的测试。
下面是10张图片，序号依次从1～10：

『3』测试结果

• 速度

用图片的平均inference时间来计算速度。Tensorflow的model需要预热，我们在预热之后才开始真正算inference时间。同理，ELL的model加载时间也不计算在内。

文章来源：https://www.codelast.com/
可见，ELL+Darknet model在速度上有明显优势。

• 精度

结果有点失望。按输出中概率最大的那个分类来算，ELL使用Darknet model在10张图片上的inference结果非常糟糕，根据人工判断，5张图片分类明显错误，其余5张算是正确——这就有点尴尬了。而相比之下，TensorFlow使用Inception v3 model的情况则好得多，除了一张分类错误，其余9张基本上都算是得出了“比较正确”的结论。
下面是详细的测试结果：

文章来源：https://www.codelast.com/
即使inference速度再快，如此糟糕的准确度也是完全不能接受的。所以，我觉得，要改变这个结果，恐怕我只能用ELL CNTK VGG model再测试一遍了。正如我前面的文章所说，由于我的Ubuntu台式机性能低下，因此，我在台式机上编译ELL CNTK VGG model代码的时候，由于编译任务占用太多OS资源，被kernel自动kill掉了。不得已，我只能使用轻量级的Darknet model。所以在我当前条件下，暂时只能到这里为止了。

『4』结论
在ELL+Darknet model的速度确实比较快，但由于精度低的问题，ELL+Darknet model还需改进提高。
文章来源：https://www.codelast.com/
➤➤ 版权声明 ➤➤ 
转载需注明出处：codelast.com 
感谢关注我的微信公众号（微信扫一扫）：

➤ 在树莓派3上使用微软ELL嵌入式学习库(1)

➤ 在树莓派3上使用微软ELL嵌入式学习库(2)

➤ 在树莓派3上使用微软ELL嵌入式学习库(3)

➤ 在树莓派3上使用微软ELL嵌入式学习库(4)

➤ 在树莓派3上使用微软ELL嵌入式学习库(5)

➤ 在树莓派3上跑ELL的demo报错：ImportError: build/_darknetReference.so: undefined symbol: cblas_sgemm

➤ 执行ELL的demo程序cntkDemo.py时程序僵死的问题

➤ 解决ELL demo的 OpenCV Error: Unspecified error in cvShowImage 错误

➤ 解决编译ELL的错误：undefined reference to `cblas_xxx'

➤ 在Ubuntu 14.04系统中为ELL安装Python 3.6——通过miniconda

➤ 在Ubuntu 14.04中安装gcc 6

➤ 升级Ubuntu 14.04上的Open MPI到 libmpi.so.12 版本

文章来源：https://www.codelast.com/
➤➤ 版权声明 ➤➤ 
转载需注明出处：codelast.com 
感谢关注我的微信公众号（微信扫一扫）：

• 目标及步骤

在上一篇文章中，我在Ubuntu PC上已经编译出了一个 compiled_darknetReference_pi3 目录，并且把它拷贝到了树莓派上。现在要做的，就是用这个目录下的文件，编译出一个Python module（_darknetReference.so），然后就可以在树莓派上跑ELL的image classification demo了。
但是，在编译这个Python module之前，我们有一些准备工作要做——安装必需的软件。
文章来源：https://www.codelast.com/

• 安装Python 3.4——通过miniconda

首先，为什么要在树莓派上安装Python 3.4呢？
因为ELL提供的demo就是一个Python程序，并且它支持的Python版本是3.4。

在前面的一篇文章中，我已经在PC Ubuntu上，通过miniconda安装过了Python 3.6，并且也解释了为什么要通过conda环境来安装Python 3.6，而不是直接在系统里装。
在树莓派上，我们也是出于相同的想法，使用miniconda环境来安装Python 3.4：

wget http://repo.continuum.io/miniconda/Miniconda3-latest-Linux-armv7l.sh
chmod +x Miniconda3-latest-Linux-armv7l.sh
./Miniconda3-latest-Linux-armv7l.sh

非常简单就装好了。
注意：和前面的文章里的做法一样，在安装即将结束的时候，我允许miniconda把PATH路径添加到我的 .bashrc 文件中。

• 在conda环境里安装必需的软件包

可以通过下面的方式，来激活conda环境：

source ~/.bashrc
conda create --name py34 python=3
source activate py34

文章来源：https://www.codelast.com/
在这个conda环境中安装 NumPy 和 OpenCV：

(py34)[root@alarmpi ~]# conda install numpy
(py34)[root@alarmpi ~]# conda install -c microsoft-ell opencv

这个过程基本不会有什么问题和坑。

• 安装OpenBLAS

在正式开始编译Python module之前，我们事实上还需要安装一个依赖软件：OpenBLAS，如果你是Rabpbian系统，那么通过 apt-get install 就可以安装，但不巧，我用的是Arch Linux ARM系统，没有OpenBLAS可以直接通过 pacman -S（相当于Rabpbian的 apt-get install） 安装，为此，我在Arch Linux ARM上搜了一下：

[root@alarmpi ~]# pacman -Ss blas
extra/blas 3.7.1-1
    Basic Linear Algebra Subprograms
extra/cblas 3.7.1-1
    C interface to BLAS
extra/liblastfm 1.0.9-2
    A Qt4 C++ library for the Last.fm webservices

相关的package一共就两个：blas和cblas，如果安装了cblas，会自动把blas也装上，因为cblas依赖于blas。
我到底该装哪个呢？没头绪。于是我把blas和cblas都装了，试试看后面的步骤能不能走下去吧！
（但是我想提前剧透一下，这样做后面的路是走不通的，如果不想等的话可以直接看这个链接里的解决方案）
文章来源：https://www.codelast.com/

• 安装其他依赖软件

除了OpenBLAS，还有其他一些依赖软件要安装，它们都是在我跑demo程序挂了之后，根据错误信息发现的，在你的树莓派上，可能你已经装过了，或者在装其他的软件时把依赖也带进去了：

pacman -S ffmpeg2.8 libpng12

• 编译Python module

还记得我们从PC上拷贝过来的 compiled_darknetReference_pi3 目录吧？现在要进到这个目录下编译了。需要特别注意的是：编译不要在miniconda环境下进行。

cd compiled_darknetReference_pi3
mkdir build
cd build
cmake ..
make

如果一切顺利，就会在build目录下编译出一个30M大的_darknetReference.so文件了。
但这个Python module能work吗？不试你是不知道的，于是跑ELL的demo来测试一下。

• 测试Python module——跑ELL的demo

激活miniconda环境，把USB摄像头插到树莓派的USB接口上，然后run ELL的demo：

(py34)[root@alarmpi ~]# cd compiled_darknetReference_pi3
(py34)[root@alarmpi ~]# python compiledDarknetDemo.py

如果你的运气真的特别好，那么这个demo就能跑起来。
在这里，我要特别提一下，我的树莓派OS Arch Linux ARM是没有安装图形界面的，所以在command line下跑上面的demo，会直接报错：

(frame:12648): Gtk-WARNING **: cannot open display:

ImportError: build/_darknetReference.so: undefined symbol: cblas_sgemm

微软于2017年6月底发布了一个主要用于嵌入式系统（例如，树莓派，ARM Cortex-M0等）的机器学习库ELL（Embedded Learning Library，嵌入式学习库）。
本文主要介绍了在树莓派上跑ELL的demo程序时，遇到的一个“undefined symbol: cblas_sgemm”问题的解决办法。

当我们一切准备工作已经基本完成，在树莓派上跑ELL的demo程序时，可能会报这个错：

(py34)[root@alarmpi compiled_darknetReference_pi3]# python compiledDarknetDemo.py

Traceback (most recent call last):

File "/root/raspberry-pi/ai/ell-related/compiled_darknetReference_pi3/darknetReference.py", line 14, in swig_import_helper

return importlib.import_module(mname)

File "/root/.miniconda3/envs/py34/lib/python3.4/importlib/init.py", line 109, in import_module

return _bootstrap._gcd_import(name[level:], package, level)

File "", line 2254, in _gcd_import

File "", line 2237, in _find_and_load

File "", line 2226, in _find_and_load_unlocked

File "", line 1191, in _load_unlocked

File "", line 1161, in _load_backward_compatible

File "", line 539, in _check_name_wrapper

File "", line 1715, in load_module

File "", line 321, in _call_with_frames_removed

ImportError: build/_darknetReference.so: undefined symbol: cblas_sgemm

 

During handling of the above exception, another exception occurred:

 

Traceback (most recent call last):

File "compiledDarknetDemo.py", line 11, in 

import darknetReference as model

File "/root/raspberry-pi/ai/ell-related/compiled_darknetReference_pi3/darknetReference.py", line 17, in 

_darknetReference = swig_import_helper()

File "/root/raspberry-pi/ai/ell-related/compiled_darknetReference_pi3/darknetReference.py", line 16, in swig_import_helper

return importlib.import_module('_darknetReference')

File "/root/.miniconda3/envs/py34/lib/python3.4/importlib/init.py", line 109, in import_module

return _bootstrap._gcd_import(name[level:], package, level)

ImportError: build/_darknetReference.so: undefined symbol: cblas_sgemm

[root@alarmpi ~]# pacman -Ss blas
extra/blas 3.7.1-1
    Basic Linear Algebra Subprograms
extra/cblas 3.7.1-1
    C interface to BLAS
extra/liblastfm 1.0.9-2
    A Qt4 C++ library for the Last.fm webservices

git clone https://github.com/xianyi/OpenBLAS
cd OpenBLAS
make

pacman -R blas cblas

[root@alarmpi build]# export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/lib/openblas/lib

• 为目标平台（树莓派）编译代码

ELL自带了一个非常酷的神经网络模型编译器，它可以为目标平台生成高度优化的代码，从而可以让model在目标平台上以很快的速度运行。
在前面运行 CNTK demo的时候，细心的你一定会发现，demo运行的同时，在 ELL/build/tutorials/vision/gettingStarted/ 目录下生成了一个 vgg16ImageNet.map 文件（如果你使用的是Darknet，生成的就是 darknetReference.map），这个文件是ELL格式的model文件，之后会用到。
文章来源：https://www.codelast.com/
所以二话不说，直接开始编译：

cd ELL/build
make compiled_vgg16ImageNet_pi3

我以为这个过程会很顺利，结果呢？我试了很多次，每一次编译经过很长时间的等待之后，都以失败告终，错误信息大概类似于下面这样：

(前面还有很多，省略)

[ 85%] Built target trainers

[ 96%] Built target common

[ 98%] Built target compile

[ 98%] Generating /home/codelast/programme/pi/ELL/build/tutorials/vision/gettingStarted/compiled_vgg16ImageNet_pi3/vgg16ImageNet.ll;/home/codelast/programme/pi/ELL/build/tutorials/vision/gettingStarted/compiled_vgg16ImageNet_pi3/vgg16ImageNet.i;/home/codelast/programme/pi/ELL/build/tutorials/vision/gettingStarted/compiled_vgg16ImageNet_pi3/vgg16ImageNet.i.h

OpenBLAS : Your OS does not support AVX instructions. OpenBLAS is using Nehalem kernels as a fallback, which may give poorer performance.

[100%] Compiling vgg16ImageNet.ll to /home/codelast/programme/pi/ELL/build/tutorials/vision/gettingStarted/compiled_vgg16ImageNet_pi3/vgg16ImageNet.o for pi3

Killed

make[3]: *** [tutorials/vision/gettingStarted/compiled_vgg16ImageNet_pi3/vgg16ImageNet.o] Error 137

make[3]: *** Deleting file `tutorials/vision/gettingStarted/compiled_vgg16ImageNet_pi3/vgg16ImageNet.o'

make[2]: *** [tutorials/vision/gettingStarted/CMakeFiles/compiled_vgg16ImageNet_pi3.dir/all] Error 2

make[1]: *** [tutorials/vision/gettingStarted/CMakeFiles/compiled_vgg16ImageNet_pi3.dir/rule] Error 2

make: *** [compiled_vgg16ImageNet_pi3] Error 2

cd build/tutorials/vision/gettingStarted
curl -O https://raw.githubusercontent.com/pjreddie/darknet/master/cfg/darknet.cfg
curl -O https://pjreddie.com/media/files/darknet.weights

cd ELL/build
make compiled_darknetReference_pi3

• 选择模型

至此，我们终于到模型这一步了。
由于训练机器学习模型的时间通常较长，所以，训练模型这个工作肯定不能放在树莓派上干。我们可以使用别人已经预先训练好的模型来节省时间，ELL文档里推荐了两个：CNTK和Darknet。
本文在PC上测试ELL时，将主要使用CNTK；而在树莓派上测试ELL时，出于运行速度等种种原因考虑，不得不使用Darknet（和Darknet相比，CNTK不够轻量级）。

• 安装CNTK相关的软件

在前面的conda环境下，安装CNTK的Python package：

pip install https://cntk.ai/PythonWheel/CPU-Only/cntk-2.0-cp36-cp36m-linux_x86_64.whl

输出类似于：

Collecting cntk==2.0 from https://cntk.ai/PythonWheel/CPU-Only/cntk-2.0-cp36-cp36m-linux_x86_64.whl

  Downloading https://cntk.ai/PythonWheel/CPU-Only/cntk-2.0-cp36-cp36m-linux_x86_64.whl (109.5MB)
......

Successfully installed cntk-2.0

这一步耗时较长，耐心等待吧。
然后回到ELL代码根目录，切换到gettingStarted目录并下载CNTK的ImageNet推断模型：

cd build/tutorials/vision/gettingStarted
curl -O https://www.cntk.ai/Models/Caffe_Converted/VGG16_ImageNet_Caffe.model

• 测试模型

下面可以测试一下模型了：

(py36) [codelast@ gettingStarted]$ python cntkDemo.py

如果此时报错：

conda install openblas

sudo apt-get install libopenmpi-dev

『1』拿ELL来做什么？
首先，我们要拿ELL来实现一个什么功能？
微软官方给出的一个指导文档是《Getting Started with Computer Vision》，也就是说我们要在嵌入式系统上用ELL实现一个机器视觉的应用，以微软官方提供的下面这个图片为例：

即：用树莓派的摄像头拍摄一个物体，运行在树莓派上的ELL程序可以识别出它“是什么”。
文章来源：https://www.codelast.com/
『2』软硬件准备

• 树莓派3代（OS：Arch Linux ARM）
• 用于树莓派的USB摄像头（也可以用和树莓派配套的那个专用摄像头，但价格比较贵，我手上没有）
• 台式机（OS：Ubuntu 14.04 LTS）

『3』台式机上的准备工作
不要以为我们让模型跑在树莓派上，就没有台式机什么事了。实际上，我们需要先在台式机上做非常多的工作，然后才能在树莓派上跑ELL。
所以，本文讲的就是我们要在台式机上做的那些繁琐工作，切记：本文的所有操作，都是在台式机上运行的，跟树莓派没有关系。

• 下载ELL的代码

首先我们从Github上检出ELL的代码，尽管在网页上看ELL的文档更方便一些，但是后面我们是需要用到这份代码的，所以这一步肯定要做：

git clone https://github.com/Microsoft/ELL.git

• 安装基础软件依赖

除此之外，编译ELL还对系统有很多软件依赖，例如cmake，llvm之类，具体请看这个ELL的文档。整个安装、解决问题的过程真的相当麻烦，要有充分的心理准备。
第1点注意：cmake要装3.3版的，ELL的文档里没有写，如果你用 apt-get install cmake 安装，那么装上去的版本可能不符合要求，最后一定会出问题，导致整个流程走不下去。
所以我是这样装的cmake：

apt-cache show cmake3
sudo apt-get install cmake3

第2点注意：ELL对gcc版本有要求，但ELL的doc里没写。具体请看这篇文章。

文章来源：https://www.codelast.com/

• 安装Python 3.6——通过miniconda

为什么要用Python 3.6？因为ELL的demo程序就是Python 3.6的。
根据ELL文档的建议，我们不应该“直接”在系统里安装Python 3.6，而是通过conda环境来安装，具体请看这篇文章。

• 在miniconda环境下安装必需的软件包

安装好 miniconda 之后，需要安装 curl，numpy 和 opencv（如果没有安装过的话）：

conda install curl
conda install numpy

你一定感觉很奇怪：上面的命令并没有安装OpenCV啊？！没错，这是因为，按照ELL文档的做法（conda install -c conda-forge opencv）安装上的OpenCV是有问题的——至少在我的Ubuntu上不能用。如果你着急的话，可以直接看这篇文章的解决方案；如果你不急的话，可以暂时按ELL文档的说明去安装OpenCV，然后跟着本系列文章的节奏，一点点地发现问题、解决问题（没错，后面的章节还有讲到这个问题）。

• 安装SWIG

下一步，你需要安装用于生成language binding（语言绑定）的SWIG软件（和conda环境无关）。比如我们要用Python来调用ELL，那么就需要Python binding，诸如此类。
在Ubuntu 14.04上，用 apt-get install swig3.0 安装上的SWIG是3.0.2版本，满足不了ELL要求的“version 3.0.12 or later”，所以，我们只能自己下载、编译SWIG了：

wget https://nchc.dl.sourceforge.net/project/swig/swig/swig-3.0.12/swig-3.0.12.tar.gz
tar zxf swig-3.0.12.tar.gz
cd swig-3.0.12
./configure --without-pcre && make && sudo make install

• 编译ELL

下面可以开始编译ELL了。这里的编译过程不要在conda环境下执行。
回到之前检出的ELL代码的根目录下，执行下面的命令：

mkdir build
cd build
cmake ..
make

如果不出错，那表明你运气是真的好。
我记得我是编译到61％的时候挂掉的，错误信息如下：

[ 0%] Built target documentation

......

[ 61%] Linking CXX executable common_test

../math/libmath.a(BlasWrapper.cpp.o): In function ell::math::Blas::Copy(int, float const*, int, float*, int)': BlasWrapper.cpp:(.text+0x31): undefined reference tocblas_scopy'

......

../math/libmath.a(BlasWrapper.cpp.o): In function ell::math::Blas::Gemm(CBLAS_ORDER, CBLAS_TRANSPOSE, CBLAS_TRANSPOSE, int, int, int, double, double const*, int, double const*, int, double, double*, int)': BlasWrapper.cpp:(.text+0x471): undefined reference tocblas_dgemm'

collect2: error: ld returned 1 exit status

make[2]: *** [libraries/common/common_test] Error 1

make[1]: *** [libraries/common/CMakeFiles/common_test.dir/all] Error 2

make: *** [all] Error 2

• 生成Python binding

接下来，需要配置miniconda里的Python环境：

# Create the environment
conda create -n py36 anaconda python=3
# Activate the environment
source activate py36
# ELL requires gcc 5 and above for C++14. Upgrade anaconda's environment to support it.
conda install libgcc

注意：第二句命令是 source activate py36，而ELL的文档里是 activate py36，一执行就报错，会提示你要在前面加source。
这一步耗时较长，等它完成之后，我们就可以生成Python binding了。在同一个命令行窗口里（刚激活了py36环境），到之前检出的ELL代码的根目录下，执行下面的命令（其实前3行命令前面已经执行过了，如果没有删除build目录的话可以不再重新执行）：

mkdir build
cd build
cmake ..
make _ELL_python 

如果不出错的话，Python binding就生成成功了，但是你如果在 cmake 那一步遇到这样的错误：

CMake Error at CMakeLists.txt:5 (cmake_minimum_required):

  CMake 3.3 or higher is required.  You are running version 2.8.12.2

-- Configuring incomplete, errors occurred!

这就是本文前面的章节说过的cmake版本过低导致的，前面已经说过了如何安装高版本的cmake，这里不再复述。
然后再重新执行cmake及其后步骤，OK的话，就可以测试一下Python binding是否能正常工作。回到ELL代码的根目录，然后：

(py36) [codelast@ ELL]$ cd build/interfaces/python/test
(py36) [codelast@ test]$ python test.py

注意：一定要cd到 build/interface/python/test/ 这个目录下跑test！之所以强调这一点，是因为在ELL代码根目录下，还有一个一模一样的 interfaces/python/test/ 目录，如果你弄错了，到这个目录下跑test，会发现console没有任何输出信息，很迷惑人。
正常的test输出信息类似于下面这样：

OpenBLAS : Your OS does not support AVX instructions. OpenBLAS is using Nehalem kernels as a fallback, which may give poorer performance.

Testing HingeLoss.Evaluate(2, 1) ... Passed

Testing HingeLoss.Evaluate(-2, -1) ... Passed

（中间还有很多，此处省略）

Testing SquaredLoss.GetDerivative(4, 2) ... Passed

Testing SquaredLoss.GetDerivative(2, 4) ... Passed

functions_test passed

[1] One subgraph

    Subgraph Vertices Edges Cycles

    0        6        8     3    

[2] One subgraph

    Subgraph Vertices Edges Cycles

    0        6        6     1    

（中间还有很多，此处省略）
[tree_3] One subgraph

    Subgraph Vertices Edges Cycles

    0        101      126   26   

model_test passed

Model 1 size: 6

Model 2 size: 6

Model 3 size: 8

Tree 0 size: 17

Tree 1 size: 45

Tree 2 size: 73

Tree 3 size: 101

Loading file ../../../examples/data/model_1.model

Loading file ../../../examples/data/model_2.model

common_test passed

trainers_test.test -- TBD

trainers_test passed

predictors_test.test -- TBD

predictors_test passed

nodes_test.test -- TBD

nodes_test passed

linear_test.test -- TBD

linear_test passed

evaluators_test.test -- TBD

evaluators_test passed

Testing ModelBuilder ... Passed

modelbuilder_test passed

这说明Python binding可以正常工作了。
下面，我们将进入和模型相关的测试，请看后一篇文章。
文章来源：https://www.codelast.com/
➤➤ 版权声明 ➤➤ 
转载需注明出处：codelast.com 
感谢关注我的微信公众号（微信扫一扫）：

树莓派的操作系统存储在一张TF卡中，如果我们要备份它，只需要简单地在Ubuntu上使用如下命令即可：

sudo dd if=/dev/sdb of=~/raspberry_pi_os_backup

其中，/dev/sdb 是我的TF卡的设备名称。这样我们就可以把TF卡备份到 raspberry_pi_os_backup 这个文件中了。

如果我们想把该备份恢复到一张新的TF卡上，也只需要在Ubuntu上使用如下命令：

sudo dd if=~/raspberry_pi_os_backup of=/dev/sdb

其中，/dev/sdb 是我的新TF卡的设备名称。这样就可以把备份的OS写到新TF卡中了。

谁都知道重新安装OS并配置好各种软件的工作量实在是太大了，而上面的方法为我们提供了一个快速复制现有的树莓派系统的途径，因此特别实用。
文章来源：https://www.codelast.com/
但是，这样做有一个问题：假设原系统是装在8G的TF卡上，而新TF卡是16G的，那么，你用上面的方法操作完之后，再把新卡插回同一个树莓派上，再用 df -h 来查看TF卡容量信息，可能会发现它竟然只有 8G！剩下的8G不知怎么就被“吃掉”了。

要解决这个“诡异”的问题，其实有一个非常方便的办法，就是在Ubuntu上使用GParted软件来调整TF卡的分区容量。二话不说下面我们就直接开始。
『1』安装GParted软件
一行命令搞定：

sudo apt-get install gparted

『2』准备工作
把新TF卡用USB适配器插到台式机上，打开GParted软件，在软件右上方的下拉框中选择你的TF卡对应的存储设备（我这里是 /dev/sdb），你会看到类似于下面这样的界面：

在这里，我的新TF卡是16G的，而备份的树莓派OS是从8G的TF卡备份出来的，所以正如前面所说，有8G被“吃掉”了，从GParted里可以清晰地看到那被“吃掉”的8G空间，显示成了“未分配”空间。我们正是要把这部分空间，和它之前的 /dev/sdb2 分区合并成一个分区，或者说把 /dev/sdb2 分区扩大成整个TF卡的可用空间那么大。
在进一步操作GParted之前，我们需要确保TF卡上的几个分区是“卸载”的状态，因为挂载的状态是无法进行后续操作的。
卸载方法是：在除了“未分配”之外的其他所有分区上，鼠标右键点击，在弹出的菜单里，只要能看到“卸载”菜单项的，都点击“卸载”，这样就OK了。
文章来源：https://www.codelast.com/

『3』调整分区大小
右键点击 /dev/sdb2 那个分区，在弹出菜单中选择“更改大小/移动”，会弹出下面的对话框：

通过拉动上方白框里的右箭头，我们就可以调整这个分区的大小了。我把它拉到了最右边，使得这个分区使用全部的可用空间：

文章来源：https://www.codelast.com/
之后点击右下方的“调整大小/移动”按钮，就会回到GParted主界面了：

此时可以看到，/dev/sdb2 的大小已经扩展到了全部可用空间，之前的“未分配”空间消失了。
但是请注意：此时分区调整实际上还没有生效，左下角的“1个操作待进行”提示了这一点。我们需要点击GParted主界面上方的勾号（）来执行操作。
文章来源：https://www.codelast.com/
『4』完成操作
开始执行操作后，一般来说，你应该会看到下面这样的界面：

但是，GParted也有可能立即报错，告诉你无法执行，此时，如果你右键点击 /dev/sdb2 并在菜单中选择“信息”，在弹出的对话框中，可能会看到类似于下面这样的信息：

e2label: No such file or directory while trying to open /dev/sdb2

Couldn't find valid filesystem superblock.

 

tune2fs 1.42.9 (4-Feb-2014)

 

tune2fs: No such file or directory while trying to open /dev/sdb2

Couldn't find valid filesystem superblock.

 

Couldn't find valid filesystem superblock.

 

dumpe2fs 1.42.9 (4-Feb-2014)

dumpe2fs: No such file or directory while trying to open /dev/sdb2

 

无法读取此文件系统上的内容!

因为此操作可能不可用。

原因可能是缺少某个软件包。

支持 ext4 文件系统需要下列软件包：e2fsprogs v1.41+。

出现这个错误的话，可能是由于操作不对造成的，并非像错误提示里写的那样缺少软件包（我的Ubuntu上就一个都不缺）——貌似刚把备份的OS恢复到TF卡上，需要重新插拔一次，才能用GParted调整分区大小。
你可以尝试着把TF卡从Ubuntu台式机上拔掉，然后再重新插入USB接口上，重做一遍试试。
文章来源：https://www.codelast.com/
如果一切可以正常进行下去，应该是类似于下面这样的界面：

全部完成之后：

此时，再回到GParted主界面，就会看到 /dev/sdb2 已经被成功地调整成了14G大小，并且左下方的“0个操作待进行”表明我们真的执行完了调整分区大小的操作：

文章来源：https://www.codelast.com/
『5』在树莓派上验证新卡分区调整结果
把调整过分区的新TF卡插到树莓派上，成功进入系统！
再看一下剩余空间：

[root@alarmpi ~]# df -h ./

Filesystem      Size  Used Avail Use% Mounted on

/dev/root        14G  5.1G  8.0G  39% /

搞定。

文章来源：https://www.codelast.com/
➤➤ 版权声明 ➤➤ 
转载需注明出处：codelast.com 
感谢关注我的微信公众号（微信扫一扫）：

TensorBoard是Tensorflow的可视化工具。当我们用这篇文章里的方法在树莓派上安装好Tensorflow之后，TensorBoard自然就装好了。于是，下面只剩下怎么启动它的问题。
以下是一个例子。

首先，我们从TensorFlow的官方Github里下载这个文件：

https://github.com/tensorflow/tensorflow/blob/master/tensorflow/examples/tutorials/mnist/mnist_with_summaries.py

它实现了一个模型训练的过程，并且在模型训练的过程中，将TensorBoard所需的数据文件，输出到了 /tmp/tensorflow/mnist/logs/mnist_with_summaries 这个目录下（写死在 mnist_with_summaries.py 文件中，为了简单无需修改）。
文章来源：http://www.codelast.com/
之后我们把这个模型训练的程序跑起来：

python2 mnist_with_summaries.py

然后程序会自动去下载MNIST数据，并开始训练模型：

Successfully downloaded train-images-idx3-ubyte.gz 9912422 bytes.

Extracting /tmp/tensorflow/mnist/input_data/train-images-idx3-ubyte.gz

Successfully downloaded train-labels-idx1-ubyte.gz 28881 bytes.

Extracting /tmp/tensorflow/mnist/input_data/train-labels-idx1-ubyte.gz

Successfully downloaded t10k-images-idx3-ubyte.gz 1648877 bytes.

Extracting /tmp/tensorflow/mnist/input_data/t10k-images-idx3-ubyte.gz

Successfully downloaded t10k-labels-idx1-ubyte.gz 4542 bytes.

Extracting /tmp/tensorflow/mnist/input_data/t10k-labels-idx1-ubyte.gz

Accuracy at step 0: 0.1114

Accuracy at step 10: 0.6652

Accuracy at step 20: 0.8119

Accuracy at step 30: 0.8533

Accuracy at step 40: 0.868

Accuracy at step 50: 0.8723

Accuracy at step 60: 0.8779

Accuracy at step 70: 0.879

Accuracy at step 80: 0.8817

Accuracy at step 90: 0.8876

Adding run metadata for 99

Accuracy at step 100: 0.896

Accuracy at step 110: 0.9061

Accuracy at step 120: 0.9116

Accuracy at step 130: 0.9167

Accuracy at step 140: 0.9216

Accuracy at step 150: 0.915

Accuracy at step 160: 0.9246

Accuracy at step 170: 0.9267

Accuracy at step 180: 0.9215

Accuracy at step 190: 0.9207

Adding run metadata for 199

Accuracy at step 200: 0.9287

Accuracy at step 210: 0.933

Accuracy at step 220: 0.9307

Accuracy at step 230: 0.9308

......

tensorboard --logdir=/tmp/tensorflow/mnist/logs/mnist_with_summaries

其中，--logdir参数指定的目录就是 mnist_with_summaries.py 程序里用 --log_dir 参数指定的那个路径，TensorBoard会从这个路径下读取数据并可视化展示在web页面中。
过一会就会看到命令行提示：

Starting TensorBoard 41 on port 6006

(You can navigate to http://10.0.0.2:6006)

所以现在打开浏览器，访问这个地址，就可以看到图了：

文章来源：http://www.codelast.com/

 

文章来源：https://www.codelast.com/
➤➤ 版权声明 ➤➤ 
转载需注明出处：codelast.com 
感谢关注我的微信公众号（微信扫一扫）：