人工智能原理猜想（初心被别人的paper规范化之后）

你看哈一个人只要不犯致命的错误就不会致命这些错误我们一般称为教训实际上我们反思了这些教训就会活得更好或者说正常了都说人的正常寿命是100岁这个正常就很好其实中医中这种庸医不致命的错误治法在伤寒论上仍然比比皆是但切莫小瞧这些个庸医他们或许正是汗吐下法的发明者而一个人的成功皆是从这庸医趟过来的一旦庸医开了光保持简单和笨办法的kiss原则或许会更加理解像庸人一样的自己为什么中国人说中庸而不说一个高大上的高斯正态分布呢从命名可以看到中国圣人的谦虚还不忘从前愚笨的自己愚笨就是中庸大多数人都是这样的一生但中庸是大道理要你四十不惑后告别自己怀念自己这就是中庸的正太分布的大道理从前学的这些无聊的东西竟然照进了现实也就是说每一个愚人都会变聪明都有这样的机会而不是只有圣人先贤才可以否则这不是在抹杀人的独一无二性嘛那么什么是不致命的错误其实这个定义就有问题这个是从后人看前人的视角其实叫做尝试更好或者叫做探索发现也就是你有想法就去试一试只要不是从后人眼光看是致命的你就不会挂或者说危及生命毕竟后人一脉相承的话断然是总结过了比如中医中不过脑子的汗吐下法以及火攻法其实一个人所谓的过脑子是完成了失败是成功之母这句话也就是说尝试时想过很多遍了非常谨慎这已经算过了脑子失败了失败在什么地方分析改正这也算孙子兵法开篇多算胜人生如打仗哪里都费脑子所以用人试验代价太大现在有电脑我们用电脑实验多好你看孩子们打游戏不停在复活中扯远了回归正题前头博客自己的初心在bpnet基础上自研cnn-CSDN博客在backward中我有1/16,/25,1/80,很多都注释掉了他们不符合cnn数学原理但是如果你打开这些注释这个成绩啊训练一轮就能上97分神奇吧我想说什么呢其实就是人工智能原理猜想其实就是一种兼容性原理很多的尝试在神经网络中都不会挂这些尝试像臭皮匠一样庸人支撑了这个兼容性原理像正态分布的6西格玛区域不至于神经网络走进6西格玛之外也就是说某些神经元的出错不会影响正态分布的结果如果不是致命的不会下降到不及的状态可能这种致命导致了梯度爆炸等等也就是说某些神经元出错不会影响正态分布的结果如果是“致命”的会到达极有的状态所以这种“致命”常常是我们关注的你敢说代码中没错误当你稳稳地有一个好成绩最后发现了bug然后你分析了这个bug你发现哦原来错误代码制造的噪声干扰可以提升训练成绩然后你敢拍胸脯说喔dropout是受到了lenet中table的启发这一年半写了不知道多少版本ai进阶的自研学习程序这种事情太多了自己直觉的体会和paper中数学原理体会相当不一样你比如说bn层直觉是dropout或者concat之后数据参差不齐所以要用而实际是你最后发现每一个卷积后他们都在用bn从而你会发现卷积前后的何凯明初始化与bn很妙的地方以及bn层在批处理满足后动态中训练的意义以及为什么推理bn又要单独处理其实在研发vgg和resnet中成绩下降比比皆是那么他们的好到底在什么地方只有你反思举一反三了失败是成功之母才会向你招手另外致命错误导致程序挂掉在我们人工智能网络架构中不明显也就是说次数少大多数情况是不挂掉感觉他很聪明我犯错了他还行这在数学物理中不可理解你比如说cnn会常用这个动作当时我对比后发现我竟然用的是但6万次一轮的训练影响并不大似乎调和了也从没有崩溃过当我发现时我觉得怎么犯这么大的错误还有就是bpnet中印象最深刻的曾经把权重更新了给梯度下降用竟然成绩非常好再比如数据用原始图像以及除以255竟然也没有差别所以这也是人工智能你如果从零趟过来自研非常要命的地方非常难学的地方所以人为什么平庸在这个地方为什么聪明也在这个地方因为他的兼容除了理性的还有幻想和人一摸一样幻想的总觉得对连理性的门都摸不到而庸人的理性根本筛选不出来复杂一点的对错而三个臭皮匠就变成了认识世界的真理实际这指明了人工智能像人脑一样有无限种可能只要不是致命的他就不会挂这也就是说人也是这种兼容性原理下的产物虽然现在我用数学还证明不了这个命题但总有聪明人办得到你看哈我们数学和物理公式全都是不可能兼容的也就是等号而人工智能不仅仅是等号他兼容了等号也就是说世界的原理不仅仅是等号做工程师写程序的感悟次序1写程序语法错误调的人崩溃特别是c指针错误2算法不对程序正常运行就是结果不对数学问题电脑望尘莫及3人工智能程序不是数学问题也不是指针问题更像人脑