DNN只要隐藏层节点足够多，就可以以任意精读逼近任意函数，谁能给个证明吗?

这已经被问过，回答过，批过无数次的观点又又冒出头了。

任意精度逼近任意函数。

首先，什么叫函数，

有无限个间断点的函数，比如f1(x)=tg(1/x) 在(0,1)的范围内，没有任何DNN可以逼近。

其次，加上连续也不行，要N阶连续才可以。

对以上f1(x)进行定积分，形成的函数f2(x)处处连续，但是其一阶导数有无穷不连续点，DNN也很难逼近。

再次，任意精度，这个事情又要求有极限值，就是函数的最大值和最小值不能无限接近+/-无穷大。

结论：DNN没有这个本事，在函数面前，连小弟都算不上的一个统计学方法，敢妄称任意精度，任意函数。

不要出示论文了，论文的作者大一的微积分基本概念没学明白，或者翻译的人翻译错了，或者理解的粉丝有问题。

DNN可以做的事情是：

有上界和下界的无穷阶连续函数，在m层N节点有效位数取k位的DNN可以逼近到一个足够高的精度，该精度为o(f(m,N,k))，当N足够大的时候，该精度理论可以无限趋近于零。

没有以上条件，就是吹牛，是DNN这个学派在CV,NLP等领域找不到重大理论突破的时候，再次刷存在的一种泡沫。

其他回答有说Borel可测函数的，ok，这种证明可能是有效的。 其中提到非borel可测函数没有看到证明不可逼近的，本文给的答案就是其中之一。（更好的方式是找到这个边界，有可能形成一种扩展的Borel可测函数，恰为NN可以拟合的函数，姑且称之为NN-Borel扩展可测函数，里面包含一部分非Borel可测但是NN可拟合的函数）

有说Universal approximation的，这种神棍或被神棍洗脑的“数学爱好者”，先把定义域值域的基本概念搞清楚，把连续、柯西连续等概念搞清楚再引论文，再背书。而且答主提到有理函数，那这个比Borel可测函数的范围要小很多。 提到无理函数（这个提法本身就很奇怪），就大家自行推导，同理可得.. 这是耍流氓么？ 我有个思路，就是地方不够写不下了。。。