关于机器实现”类人方式鲁棒辨识”的一种设计方案，中科院自动化所胡包钢董未名研究员

这是一篇始于向图灵学习并致敬的文章。我们提出了“一种类人方式鲁棒辨识机器”的设计方案。要理解“图灵测试”也是一种设计方案。新方案中我们采取了类似的设计方式，并期望在赋予机器智能方面超越“图灵测试”设计方案。其中首次提出“类人方式鲁棒性（Human-like robustness）”定义，新机器在常识应用，因果推理，高层语义决断，语义可解释输出等方面有所讨论。具体细节敬请参看原文。

这里与同行交流一些背景见解。不当之处，希望读者批评指正。文章写作动机隐含了我们要主动阅读科学大师的重要作品并试图与他们对话，由此可以增加研究品味与想象力。对话中除了要尽量理解他们的创意及起点之外，还要提出个人见解与之讨论。对话不只是要学习理解并梳理他们的本意，更重要的是设想一下他们会感兴趣我们学习后的见解吗？该见解能够激发他们与我们讨论吗？

从图灵1950年的文章中我们看到他设想的是一种游戏，称为“模仿游戏”。后人将其改为“图灵测试”，改变了他想法中那种乐趣本意。可以设想一下也许图灵会认为科学技术研究是人类生活中最为有意思的一种“智力游戏”。这种游戏中无有任何获奖的动机，图灵发表文章完全是为了创造知识。另一方面，既然是一种创造知识游戏，后来者要有超过前人的勇气，因为我们的起点已经变化。我们的文章即是这样一种意图。在图灵提出“模仿游戏”之后，又有各种版本的“游戏”被提出，比如“中文屋（Chinese Room）”，“CAPTCHA验证码”等。主要还是表现在“辨识智能”层面的游戏，虽然“CAPTCHA验证码”游戏中的数据可以帮助机器获得类人智能。只是没有常识信息输入部分。图灵贡献说明创造知识或不朽作品方是人生高峰。要理解：不登高山，焉有人生这样一种难得幸福体验。在科学文化与传统方面，我们与西方学者整体相比还有很大差距。我们更为偏向实用主义（Pragmatist），缺少探索知识的远见想象（Visionary）。向图灵学习要尽早领悟学会用作品说话（参看链接的引文：以“作品文化”取代“帽子文化” - 专知），不要浪费时间追求浮云。领悟到这样价值观，我们在科学技术方面，会有独到创新（中国美食为证？）。

本文除了受益于图灵1950年文章的同时，还受到了国内学者研究思想的启发，在阅读潘云鹤教授以及郑南宁教授等学者两篇文章后产生思考。促使我们将“人在回路”中的混合增强智能范式予以进一步明确，如给出图4设计以及公式（1）。当研究深入后，会偏好阅读能够促使思考的综述与展望文章。大胆假设与小心求证是要有机结合，方能走远。

本文中我们提出了一种“辨识游戏”。在此说明为什么没有采用“识别（Recognition）”的术语。因为从认知深度讲“辨识”比“识别”更进了一步。比如我们可以识别人脸或非人脸。而在人脸中判定张三李四则是“辨识”问题。我们图6中给出的“快乐的猫”与“悲伤的狗”的例题中，其情感考察也应是辨识问题。如果“辨识”与“识别”代表了两个集合，读者可以思考一下他们的关联关系会是什么样子？“辨识”与“认知”又是什么关系？本文抓住“辨识”与“脆弱性”来考察，分别对应了人工智能工具应用中最为核心与最为致命两个主题。

本文发展“图灵测试”方法时，除了技术层面提出一种“类人式鲁棒辨识机器设计”及其特征之外，更是将“图灵测试”讨论引入了“人性”目标的内容。并特别引用了孔子为代表的东方人文思想的相关文献。设想一下目前的世界与两千多年前世界有何相同与不同。从数学角度考察会有“人与自然”、“人与人”为传统的两个主要维度（Major Domain），现今又增加了“人与机器”的主要维度。面对人类安全（粮食、生态等），种族纠纷与贫富悬殊等传统问题，人工智能的弊端已经凸显（如隐私泄露、信息安全、社会撕裂等）。不同于传统工具，人工智能工具本身可以包含价值内涵并出现价值观输出应用场景（如对话机器人、服务机器人等），因此“技术中立论”将不再成立。人工智能发展已经进入一种人文工具层面，会促进我们对人类价值观的思考与重构，而不应仅局限于科学与技术工具方面。

以孔子为代表的东方人文思想（包括儒、道等）是值得我们重新认识与转化发展来解决现实问题。如“人与自然”中遵循“天道(Laws of Nature)”， “人与人”中目标于“人性（Humaneness）”，“人与机器”中需求“以人为本(Human Oriented)”，都是未来不断探索的研究内容。这之中我们认为“人性”不仅更加核心与本质，也将有更全方位的内涵，如机器人三原则是“人与机器”关系中底线约束，更高层面促进“人类和平发展”则是追求目标。

谈到此，希望打开我们的思路和想象力，比如我们能够想象孔子是如何的一生坎坷、四处碰壁、坚守理想（人之为人）的情景吗？当下的人道主义危机局面我们是否有所目标思考与实际作为？我们能否在科学与人文结合发展中做出包含东方智慧的学术探索与贡献？

文章：“A design of human-like robust AI machines in object identification”

https://arxiv.org/abs/2101.02327

更多阅读：

1. 胡包钢2020年“专知”文章链接：

https://www.zhuanzhi.ai/topic/2001022943881063

2. 《人工智能新数学问题: 广义约束》综述论文，中科院自动化所胡包钢研究员

3. 《人工智能新数学问题: 广义约束》，中科院自动化所胡包钢研究员

信息论与机器学习课程：

第一讲：

国科大UCAS《信息论与机器学习》课程，中国科学院自动化研究所胡包钢研究员

第二讲：

国科大UCAS胡包钢教授《信息论与机器学习》课程第二讲：信息论基础一

第三讲：

国科大UCAS胡包钢教授《信息论与机器学习》课程第三讲：信息论基础二

第四讲：

熵与其它信息量估计—国科大UCAS胡包钢教授《信息论与机器学习》课程第四讲

第五讲：

二值分类熵界分析—国科大UCAS胡包钢教授《信息论与机器学习》课程第五讲

第六讲：

国科大UCAS胡包钢教授《信息论与机器学习》课程第六讲：信息指标与拒识分类评价

第七讲：

贝叶斯分类器以及与互信息分类器—国科大UCAS胡包钢教授《信息论与机器学习》课程第七讲

专知便捷查看

便捷下载，请关注专知公众号（点击上方蓝色专知关注）

• 后台回复“HLR” 可以获取《关于机器实现”类人方式鲁棒辨识”的一种设计方案，中科院自动化所胡包钢董未名研究员》专知下载链接索引

专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取5000+AI主题干货知识资料！

点击“ 阅读原文 ”，了解使用 专知 ，查看获取5000+AI主题知识资源