【哈佛大学博士论文】工程与科学中的逆问题深度学习，235页pdf

在柏拉图的一篇著名的苏格拉底式对话中，米诺提出，知识的认识追求需要一个目标，没有目标，人们无法确定探究的对象，甚至在发现时也无法识别它。这个悖论与深度学习神秘、黑箱的本质产生了共鸣；在计算机视觉和自然语言处理等领域数据的丰富以及计算能力的日益增强，或许阻碍了我们对这些机器的彻底理解。我们可能会陷入米诺的悖论，即无法充分利用深度学习在工程和科学领域的卓越能力。迄今为止，在数据稀缺的科学和工程领域，深度学习的应用还相当未被探索，这些领域拥有丰富的数学基础，如用于解决逆问题的优化理论，或者在这些领域中解释性很重要。在这些领域，目标往往超越了数据拟合，并扩展到推进科学发现。在这个背景下，本篇论文在深度神经网络中引入了归纳偏置，以发现对科学有帮助的、人类可理解的模式，并在无监督或数据稀缺的逆问题工程中提高效率和性能。