转载请注明出处：https://www.codelast.com/
最优化（Optimization）是应用数学的一个分支，它是研究在给定约束之下如何寻求某些因素(的量)，以使某一(或某些)指标达到最优的一些学科的总称。我一直对最优化比较感兴趣，所以写过一些相关的笔记，可能有不正确的地方，但请学术派、技术流们多多包涵。
【1】拟牛顿法/Quasi-Newton，DFP算法/Davidon-Fletcher-Powell，及BFGS算法/Broyden-Fletcher-Goldfarb-Shanno
【2】最速下降法/steepest descent，牛顿法/newton，共轭方向法/conjugate direction，共轭梯度法/conjugate gradient 及其他
【3】Ridders求导算法
【4】选主元的高斯-约当（Gauss-Jordan）消元法解线性方程组/求逆矩阵
文章来源：http://www.codelast.com/
【5】关于 最优化/Optimization 的一些概念解释
【6】最小二乘的理论依据
【7】Powell共轭方向集方法(Powell's Conjugate Direction Method)的实现… Read More
转载请注明出处：https://www.codelast.com/
Raspberry Pi是什么？
引用维基百科的一句话：
The Raspberry Pi is a credit card sized single-board computer developed in the UK by the Raspberry Pi Foundation with the intention of stimulating the teaching of basic computer science in schools.
简单地说，它就是一个基于ARM CPU的、信用卡那么大的迷你计算机。
下面是我在折腾Pi的过程中的一些记录，仅供参考。
【0】树莓派视频教程
【1】Raspberry Pi(树莓派)配置记录/Configure the Arch Linux ARM on Raspberry Pi
【2】在Raspberry Pi(树莓派)上用OpenCV来操纵摄像头拍照/Use OpenCV on Raspberry Pi to Controll a Webcam to Take Photos
【3】通过Raspberry Pi(树莓派)的GPIO接口控制发光二极管/Control LED through the GPIO on Raspberry Pi
【4】通过Raspberry Pi(树莓派)的GPIO接口控制步进电机/Control stepper motor through the GPIO on Raspberry Pi
【5】在树莓派上使用腾达(Tenda)W311MI迷你无线USB网卡(RT5370芯片)/Using Tenda W311MI mini wireless USB adapter(base on RT5370 chipset) on Raspberry Pi
文章来源：https://www.codelast.com/
【6】制作一个简单的树莓派亚克力机箱(盒子)/Make a simple acrylic case for Raspberry Pi
【7】树莓派杂谈/Some casual thoughts about Raspberry Pi
【8】让树莓派自动上报IP地址到邮箱/Let Raspberry Pi to report its IP address via Email
【9】在Raspberry Pi(树莓派)上调用V4L2来操纵摄像头拍照/Use V4L2 on Raspberry Pi to Controll a Webcam to Grab Images
【10】基于微信和Raspberry Pi的远程监控系统/A Remote Monitoring System Based on WeChat & Raspberry Pi
【11】树莓派出现在科技美剧《Mr.… Read More
转载必须注明出处：http://www.codelast.com/
Apache Pig是用来处理大规模数据的高级查询语言，配合Hadoop使用，可以在处理海量数据时达到事半功倍的效果，比使用Java，C++等语言编写大规模数据处理程序的难度要小N倍，实现同样的效果的代码量也小N倍。
我根据自己在工作中的学习和总结，写了如下一些Apache Pig中文教程，供大家参考。
文章来源：http://www.codelast.com/
（1）《Apache Pig的一些基础概念及用法总结（1）》
（2）《Apache Pig的一些基础概念及用法总结（2）》
（3）《Apache Pig中文教程（进阶）》… Read More
转载请注明出处：https://www.codelast.com/
假设你的JAVA M-R job的输入文件是大量纯文本文件，而且每个文件都比较小（例如几百K），那么job运行起来之后会占用大量mapper数，导致Hadoop集群资源被过度消耗。这种情况可以通过合并输入文件来避免。… Read More
转载请注明出处：https://www.codelast.com/
网站使用HTTPS的好处就不用多说了，在当今凶险的互联网环境下，使用HTTP越来越不安全，所以我也决定把网站转成HTTPS。使用HTTPS，首先你需要有一张SSL证书。
曾经，收费的SSL证书很贵，一般人玩不起；随着互联网的发展，免费的SSL证书越来越普及，谁都可以很容易获取到，所以HTTPS的个人网站也越来越多。
其中，现在最流行的就是使用可靠的数字证书认证机构Let's Encrypt提供的免费SSL证书。… Read More
转载请注明出处：https://www.codelast.com/
因为网站要加SSL证书的原因，把nginx折腾了一番，结果SSL相关的配置加到了nginx的配置文件中后，nginx竟然启动不起来了，用 systemctl status nginx 查看到的错误信息大致如下：
Failed to start SYSV: Nginx is an HTTP(S) server, HTTP(S) reverse ...
于是用如下命令测试问题所在：
/usr/local/nginx/sbin/nginx -c /usr/local/nginx/conf/nginx.conf
其中，/usr/local/nginx/sbin/nginx 是我的nginx安装后的可执行程序路径，/usr/local/nginx/conf/nginx.conf 是我的nginx主配置文件路径。… Read More
转载请注明出处：http://www.codelast.com/
MathJax是WordPress的LaTeX for WordPress插件调用的library，用于在WordPress页面上渲染显示完美的数学公式，配置过程可以参考这个链接。
从2017.04.30开始，MathJax CDN服务正式关闭（官方通知在这里），因此，如果我们原来在LaTeX for WordPress插件中配置的“MathJax Server”选择的是“MathJax CDN”，那么就会有问题了——服务将不再可用，这会导致数学公式在WordPress页面上不能被渲染显示。… Read More
转载请注明出处：http://www.codelast.com/
本文软硬件环境：
树莓派：3代 Model B V1.2
OS：Arch Linux ARM，32bit
TensorBoard是Tensorflow的可视化工具。当我们用这篇文章里的方法在树莓派上安装好Tensorflow之后，TensorBoard自然就装好了。于是，下面只剩下怎么启动它的问题。
以下是一个例子。… Read More
转载请注明出处：https://www.codelast.com/
《Deep Learning》（Ian Goodfellow & Yoshua Bengio & Aaron Courville）第四章「数值计算」中，谈到了上溢出（overflow）和下溢出（underflow）对数值计算的影响，并以softmax函数和log softmax函数为例进行了讲解。这里我再详细地把它总结一下。… Read More
转载请注明出处：http://www.codelast.com/
如果你在程序中（不是一个Hadoop job程序）有读写HDFS文件的逻辑，那么程序运行的时候可能会报下面的错：
… Read MoreException in thread "main" java.io.IOException: No FileSystem for scheme: hdfsat org.apache.hadoop.fs.FileSystem.getFileSystemClass(FileSystem.java:2676)at org.apache.hadoop.fs.FileSystem.createFileSystem(FileSystem.java:2690)at org.apache.hadoop.fs.FileSystem.access$200(FileSystem.java:94)at org.apache.hadoop.fs.FileSystem$Cache.getInternal(FileSystem.java:2733)at org.apache.hadoop.fs.FileSystem$Cache.get(FileSystem.java:2715)at org.apache.hadoop.fs.FileSystem.get(FileSystem.java:382)at org.apache.hadoop.fs.FileSystem.get(FileSystem.java:181)......
转载请注明出处：http://www.codelast.com/
本文对应的的Elasticsearch（简写为ES，下同）版本：2.3.5
使用Elasticsearch的 JAVA API 来读取其存储的数据，如果遇到这个问题：
org.elasticsearch.client.transport.NoNodeAvailableException: None of the configured nodes are available
此时，需要确认代码里写的一些配置是正确的。下面，就通过一个实例，来说明如何正确地读取ES里的数据。… Read More
转载请注明出处：http://www.codelast.com/
从反向传播的4个基本方程这部分内容开始，《Neural Networks and Deep Learning》一书基本上是满屏的数学公式了，然而，得益于作者强大的、深入浅出的表述能力，理解起来并不会让人感觉那么难。
本文将描述反向传播的4个基本方程中的第一个——输出层误差的方程：… Read More
转载请注明出处：http://www.codelast.com/
《Neural Networks and Deep Learning》一书的中文译名是《神经网络与深度学习》，书如其名，不需要解释也知道它是讲什么的，这是本入门级的好书。
在第一章中，作者展示了如何编写一个简单的、用于识别MNIST数据的Python神经网络程序。对于武林高手来说，看懂程序不会有任何困难，但对于我这样的Python渣则有很多困惑。所以我对做了一些笔记，希望同时也可以帮助有需要的人。… Read More
转载请注明出处：http://www.codelast.com/
本文软硬件环境：
树莓派：3代 Model B V1.2，内存1GB
OS：Arch Linux ARM
有时候，我们需要在程序中添加文字转语音的功能，即通过某个程序或API，把输入的文字朗读出来，也就是通常所说的 text-to-speech（简写为TTS）。我尝试了一个简单的方案——使用Espeak来完成这个任务，在这里记录下来。… Read More
转载请注明出处：http://www.codelast.com/
本文软硬件环境：
树莓派：3代 Model B V1.2，内存1GB
OS：Arch Linux ARM
在上一篇文章中，我尝试了加快TensorFlow预测速度的一个方法——模型“预热”，实验证明它非常有效，但那仍然没有解决一个问题：每次运行程序，都要加载一次模型，然后预热N次，这个过程非常耗时，因此减少这部分时间也是非常关键的。把TensorFlow做成一个常驻内存的服务就可以解决这个问题。
解决这个问题的正确姿势是：TensorFlow已经提供了一个叫作 TensorFlow Serving 的library来实现这个需求。但麻烦的是，在树莓派上编译TensorFlow Serving会遇到很多问题，所以，在没有人搞出在树莓派上一键安装的Python wheel包之前，还是算了吧...
因此，下面我用一个很挫的办法来实现一个简陋的TensorFlow service。… Read More
转载请注明出处：http://www.codelast.com/
本文软硬件环境：
树莓派：3代 Model B V1.2，内存1GB
OS：Arch Linux ARM
在上一篇文章中，我写了在树莓派上用TensorFlow做的一个深度学习（图像识别）实验，但正如文中所说，50秒执行一次预测的实用性为0。因此，有必要采取一些措施来加快TensorFlow的执行速度，其中一个可行的方法就是“预热”（warm-up），把TensorFlow移植到树莓派上的作者Sam Abrahams已经比较详细地在GitHub上列出了性能测试的结果。依照作者的描述，我也测试了一下，看看那悲催的50秒时间能减少到多少秒。… Read More
转载请注明出处：http://www.codelast.com/
本文软硬件环境：
树莓派：3代 Model B V1.2，内存1GB
OS：Arch Linux ARM
深度学习（Deep Learning）现在这么火，树莓派玩家们当然也不会放过，目前已经有很多树莓派项目都搭上了Deep Learning的车，纯粹出于“好玩”的目的，我在树莓派上也实验了一把，用TensorFlow来识别一张图片里的物体“是什么”。… Read More