深度学习CTPN+CRNN模型实现图片内文字的定位与识别(OCR)

1:样本获取

**算法论文:**     Synthetic Data for Text Localisation in Natural Images
**词库:**    英文词汇 经过处理后得到大约500兆    6000万词组
**字体:**   ubntu系统下支持中文的字体，选了大概10种字体左右
**背景图片库:**  大约有一万张分割好的图片
**算法大致过程:**  随机从背景图片库中选出一张图片，随机从词库中选出一些词组，与背景图片分割
的块进行匹配，选好字体，颜色，大小，变换等信息，将词组写入背景块中,
扣取背景块矩形框作为一个个样本。

**样本类似**

 
 
 

2:网络设计:

 
网络： 
1：input： 输入文字块，归一化到32*w 即height缩放到32，宽度按高度的比率缩 放，当然，也可以缩放到自己想要的宽度，如128（测试时统一缩放到[32，128],训练时为批次训练，缩放到[32,Wmax]） 
下面以32*128（w,h）分析 
2：conv3层时数据大小为256*8*32，两个pooling层宽高各除以4 
3：pooling2层时 步长为（2，1） dilation （1，1） 
所以此时输出为256*4*33 
4：bn层不改变输出的大小（就是做个归一化，加速训练收敛，个人理解），同样p3层时,w+1,所以pooling3层时，输出为512*2*34 
5：conv7层时，kernel 为2*2，stride(1,1) padding(0,0) 
Wnew = (2 + 2 * padW - kernel ) / strideW + 1 = 1 
Hnew = 33 
所以conv7层输出为512*1*33 
6: 后面跟两个双向Lstm,隐藏节点都是256 
Blstm1输出33*1*256 
Blstm2输出33*1*5530 5530 = 字符个数 + 非字符 = 5529 + 1 
最终的输出结果直观上可以想象成将128分为33份，每一份对应5530个类别的概率

3:实验结果

自动生成差不多150万个样本，测试集1500张左右，测试集全对率62%左右。因为硬件限制，所以样本较少，感觉样本数量应该要几千万甚至上亿，模型才会比较稳定。150万个样本训练也没收敛，还有2.5左右的cost.

4:CTPN+CRNN整合场景文字检测识别结果

没有进行版面分析，所以识别结果没有按顺序输出 
其中标点符号训练集较少，错得较多。整体识别率感觉还行，如果加大训练样本至几千万，上亿，模型应该会比较稳定，识别也会比较好