【AI-CPS OS】【特征工程】如何通过特征工程自动化实现AI真智能

2017 年 9 月 27 日 产业智能官 廖红权

人类希望通过人工智能，可以从机械且繁琐的工作中解放出来，然而现实是，想要挖掘海量数据，实现判断、预测等能力，很大程度上还需要依靠人的经验去完成”特征工程“的工作。特征工程是一项庞大且耗时的工程，其中涉及到了模型选择、数据处理、泛化等多方面的机器学习知识，以及需要对业务有一定的理解，目前该领域人才的匮乏，很难与大数据的快速发展相匹配。

简单来说，特征是数据抽取出来的对结果预测有帮助的信息；特征工程是为了使特征在机器学习算法和模型上发挥更优效果的过程，该过程往往需要数据科学家人工地找出最佳的特征组合，但在效果及效率上有一定的局限性。

如何打破这个瓶颈？

研发一种算法以实现了机器自动组合特征的功能，有效解决人为添加组合特征门槛高、耗时长等问题。

做好特征组合，绝非易事

特征组合是一种加强特征描述能力，提升模型预测效果的方法。以个性化内容推荐为例，例如该模型有两个特征，一个特征是新闻类型，另一个特征是用户ID。现在只用新闻类型和用户ID做特征，那么模型只会学到对于不同新闻类型和不同用户ID对当前预测点击率的影响。而通过加入一个组合特征：新闻类型x用户ID，就能让模型学习到该用户对不同新闻的偏好，从而使模型的个性化预测能力得到提高。

然而，想要在数据中获得对模型有效的组合特征并非易事。在建模过程中，业务人员首先要对特征的含义有深入的了解，其次需要依靠个人经验，从成百上千个特征中进行特征组合，通过不断地尝试，找出有效的组合，达到优化模型效果的目标。但现实是，特征组合的工作犹如“大海捞针”一般，组合后的特征数量呈指数级增长，对技术人员来说耗时耗力，若将所有的组合全部丢给模型，现有的优化算法和计算能力都不能很好的支持，且并不是所有的组合都带来效果的提升，有的甚至会不升反降。

自动特征工程，最新的破局利器

如何自动发现有效特征、自动特征组合，弥补人工经验不足？目前，机器学习业界在研究自动特征工程问题时，主要分为隐式特征组合、半显式特征组合、显式特征组合三个方向。

隐式特征组合主要特点是对连续特征非常友好，最成功的应用场景是语音和图像。在这些原始信号是像素或是声波的问题中，深度学习通过神经网络层次化的特征表示及组合，获得了远超人类手工特征工程的效果。但是深度神经网络不擅于处理高维离散特征，同时缺乏可解释性，这样会导致其相对难用于其他算法之上，也很难给人明确的信息反馈。

半显式特征组合主要基于树模型，由于叶子节点的每一个分支并不是一种显式、直接的特征组合，而是在特定取值区间的组合。故半显式的特征组合，有一定可解释性，但仍无法直接体现特征相关性或者特征之间组合关系。作为非线性模型，树模型易于理解，效果好。但对离散的精细特征很难处理。

显式特征组合会明确指定哪些特征作为基础特征，沿着启发式搜索的思路，以正则化加贪心的方式进行。虽然该方向问题求解空间大，寻找最优特征组合较难，但其优势在于可解释性强，知道哪些特征间应该组合；同时该方法产生的特征可以用于其他机器学习的算法，成为它们训练的基础。

便沿着显式特征组合的思路，实现机器自动特征组合的功能。此外，增加模型的可解释性，提升易用性，进一步降低了机器学习的应用门槛。

新一代技术+商业操作系统：

AI-CPS OS

在新一代技术+商业操作系统（AI-CPS OS：云计算+大数据+物联网+区块链+人工智能）分支用来的今天，企业领导者必须了解如何将“技术”全面渗入整个公司、产品等“商业”场景中，利用AI-CPS OS形成数字化+智能化力量，实现行业的重新布局、企业的重新构建和自我的焕然新生。

AI-CPS OS的真正价值并不来自构成技术或功能，而是要以一种传递独特竞争优势的方式将自动化+信息化、智造+产品+服务和数据+分析一体化，这种整合方式能够释放新的业务和运营模式。如果不能实现跨功能的更大规模融合，没有颠覆现状的意愿，这些将不可能实现。

领导者无法依靠某种单一战略方法来应对多维度的数字化变革。面对新一代技术+商业操作系统AI-CPS OS颠覆性的数字化+智能化力量，领导者必须在行业、企业与个人这三个层面都保持领先地位：

重新行业布局：你的世界观要怎样改变才算足够？你必须对行业典范进行怎样的反思？
重新构建企业：你的企业需要做出什么样的变化？你准备如何重新定义你的公司？
重新打造自己：你需要成为怎样的人？要重塑自己并在数字化+智能化时代保有领先地位，你必须如何去做？

AI-CPS OS是数字化智能化创新平台，设计思路是将大数据、物联网、区块链和人工智能等无缝整合在云端，可以帮助企业将创新成果融入自身业务体系，实现各个前沿技术在云端的优势协同。AI-CPS OS形成的数字化+智能化力量与行业、企业及个人三个层面的交叉，形成了领导力模式，使数字化融入到领导者所在企业与领导方式的核心位置：

精细：这种力量能够使人在更加真实、细致的层面观察与感知现实世界和数字化世界正在发生的一切，进而理解和更加精细地进行产品个性化控制、微观业务场景事件和结果控制。
智能：模型随着时间（数据）的变化而变化，整个系统就具备了智能（自学习）的能力。
高效：企业需要建立实时或者准实时的数据采集传输、模型预测和响应决策能力，这样智能就从批量性、阶段性的行为变成一个可以实时触达的行为。
不确定性：数字化变更颠覆和改变了领导者曾经仰仗的思维方式、结构和实践经验，其结果就是形成了复合不确定性这种颠覆性力量。主要的不确定性蕴含于三个领域：技术、文化、制度。
边界模糊：数字世界与现实世界的不断融合成CPS不仅让人们所知行业的核心产品、经济学定理和可能性都产生了变化，还模糊了不同行业间的界限。这种效应正在向生态系统、企业、客户、产品快速蔓延。

AI-CPS OS形成的数字化+智能化力量通过三个方式激发经济增长：

创造虚拟劳动力，承担需要适应性和敏捷性的复杂任务，即“智能自动化”，以区别于传统的自动化解决方案；
对现有劳动力和实物资产进行有利的补充和提升，提高资本效率；
人工智能的普及，将推动多行业的相关创新，开辟崭新的经济增长空间。

给决策制定者和商业领袖的建议：

超越自动化，开启新创新模式：利用具有自主学习和自我控制能力的动态机器智能，为企业创造新商机；
迎接新一代信息技术，迎接人工智能：无缝整合人类智慧与机器智能，重新
评估未来的知识和技能类型；
制定道德规范：切实为人工智能生态系统制定道德准则，并在智能机器的开
发过程中确定更加明晰的标准和最佳实践；
重视再分配效应：对人工智能可能带来的冲击做好准备，制定战略帮助面临
较高失业风险的人群；
开发数字化+智能化企业所需新能力：员工团队需要积极掌握判断、沟通及想象力和创造力等人类所特有的重要能力。对于中国企业来说，创造兼具包容性和多样性的文化也非常重要。

子曰：“君子和而不同，小人同而不和。” 《论语·子路》云计算、大数据、物联网、区块链和人工智能，像君子一般融合，一起体现科技就是生产力。

如果说上一次哥伦布地理大发现，拓展的是人类的物理空间。那么这一次地理大发现，拓展的就是人们的数字空间。在数学空间，建立新的商业文明，从而发现新的创富模式，为人类社会带来新的财富空间。云计算，大数据、物联网和区块链，是进入这个数字空间的船，而人工智能就是那船上的帆，哥伦布之帆！

新一代技术+商业操作系统AI-CPS OS作为新一轮产业变革的核心驱动力，将进一步释放历次科技革命和产业变革积蓄的巨大能量，并创造新的强大引擎。重构生产、分配、交换、消费等经济活动各环节，形成从宏观到微观各领域的智能化新需求，催生新技术、新产品、新产业、新业态、新模式。引发经济结构重大变革，深刻改变人类生产生活方式和思维模式，实现社会生产力的整体跃升。