之前一直在看Standford公开课machine learning中Andrew老师的视频讲解https://class.coursera.org/ml/class/index
同时配合csdn知名博主Rachel Zhang的系列文章进行学习。
不过博主的博客只写到“第十讲 数据降维” http://blog.csdn.net/abcjennifer/article/details/8002329，后面还有三讲，内容比较偏应用，分别是异常检测、大数据机器学习、photo OCR。为了学习的完整性，我将把后续三讲的内容补充上来，写作方法借鉴博主Rachel Zhang。
本栏目（Machine learning）包括单参数的线性回归、多参数的线性回归、Octave Tutorial、Logistic Regression、Regularization、神经网络、机器学习系统设计、SVM（Support Vector Machines 支持向量机）、聚类、降维、异常检测、大规模机器学习等章节。内容大多来自Standford公开课machine learning中Andrew老师的讲解和其他书籍的借鉴。（https://class.coursera.org/ml/class/index）
第十四讲. 机器学习应用举例之——Photo OCR
=============================
（一）、Photo OCR Pipeline
（二）、滑动窗 Sliding Window
（三）、人造数据 Artificial Data
（四）、Ceiling Analysis
=====================================
（一）、Photo OCR Pipeline
算法流程：
Image ----> Text Detection ---->Character Segmentation ---->Character Recognition
有些还会有Spelling Correction，比如下图中当把“Clean”中的字母“l”识别成数字“1”时，可通过单词上下文纠正回来。
=====================================
（二）、滑动窗 Sliding Window
一、滑动窗概念
滑动窗是一种遍历图像从而获取正负样本的方法。可根据正样本的size，来选取不同尺度的滑动窗，如下图：
二、Text Detection
1、训练阶段
通过滑动窗，可获取如下图所示的Text Detection算法训练所需的正负样本。当滑动窗所采样本正中间位置是某个字符，就认为是正样本，否则为负样本。
2、测试阶段
如下图
首先，用滑动窗遍历图像，并用上面训练的classifer对滑动窗所选的样本进行二分类，会得到左下角的confidence map，每个像素的灰度值大小描述了该像素是字符的可能性／概率／confidence。但这并非我们要的输出，我们要输出的是表示字符边界的bounding box。
然后，为了得到上述bounding box，用到一个操作叫做expansion，扩张。目的是为了把断续的单个字符串联起来便于画bounding box，如右下图所示。举例一个简单的策略是，对于左下图每个白色的像素，将其周围5或10个pixel范围内的pixel全都染成白色。
最后，如右下图所示，将每个连通域标一个bounding box出来，规则是高度和宽度符合一行字符的大小，比如最下面两个case因为太窄而被去掉，最终输出三个box。
三、Character Segmentation
用滑动窗（只需要在一个维度上进行滑动）对上面输出的detection结果进行遍历，如下图所示，滑动窗中间可做字符分割的为正样本，否则为负样本。
四、Character Recognition
这个理解起来很简单，就不详述了。
=====================================
（三）、人造数据 Artificial Data
增加数据量是在模型具有low bias的前提下继续提高模型性能的一个有效方法。
增加数据量的办法：一是让人去标注更多的数据，二是产生一些人造数据。
人造数据又有两种生成方式，一是前景背景合成法，二是数据畸变扰动。
一、前景背景合成法
二、数据畸变扰动
一定要注意一点，所增加的数据扰动类型，一定要是测试数据中存在的，如果只是加一些随机的无意义的噪声，对模型性能的提高并无帮助。比如，测试数据中并没有字符上下或左右倒置的case，如果硬是人造出一些这样的训练数据做正样本，势必会让模型感到困惑confused（如果负样本中恰好有长得像倒置的字符的）。
=====================================
（四）、Ceiling Analysis
Ceiling Analysis不知道该怎么翻译，天花板分析？或者可以直观地将其等同于最优分析，即找到这件事情的最好情况，你就可以知道现在这种条件下能达到的上限。如果对上限满意，那么就优化当前的方案，逼近上限；如果对上限都不满意，那就不用在当前的方案上浪费时间了，另谋他路。
我们可以用Ceiling Analysis这种方法分析Photo OCR pipeline里的各个模块，发现系统的短板，以决定接下来做什么。下面说说Ceiling Analysis的分析思路，如下图所示。
首先要知道，每个模块都有自身的准确率，这个准确率是独立的，与其他模块无关。
当前整个系统的输出准确率是72%
1、首先，确保text detection模块100%的准确率，即该模块的输出就是ground truth。这时测试系统的准确率，即在最优的text detection模型的前提下，系统可以达到的准确率上限，为89%，上涨17%。说明当前的text detection模块性能还有较大的提升空间。
2、然后，确保character segmentation模块100%的准确率，同上。在最优的text detection模型和character segmentation模型的前提下，系统可以达到的准确率上限，为90%，仅上涨1%。说明当前的character segmentation模型就算优化到100%的准确率，也只对系统准确率造成1%的影响，可见系统短板并不在这里。
3、最后，确保character recognition模块100%的准确率，同上。当所有模块都输出ground truth时，系统输出准确率自然达到100%，上涨10%. 这说明当前的character recognition模型的性能也有着一定的提升空间。
分析完毕，那么接下来的工作，在text detection和character recognition这两个模块上下工夫就好了。
