重生学神有系统
时间:2023-05-21 来源: 作者:一碗酸梅汤
只要将lms推广到由非线性可微神经元组成的多层前馈神经网络,就得到了bp算法。
因此,bp算法也被称为广义δ规则。
bp算法有很多优点,理论依据坚实、推导过程严谨、物理概念清楚、通用性强……
可以说,它为多层神经网络的训练与实现,提供了一条切实可行的解决途径,功不可没。
但是也要看到,bp也有着自身的局限性,比如收敛速度缓慢、易陷入局部极小等。
慢点倒还不怕,可以通过调整超参数,或者升级硬件性能来解决。
可一旦陷入局部最优,就有可能无法得到全局最优解,这才是真正要命的问题。
有时可以通过选择恰当的学习速率,有限度地改善这个问题。
也有些时候无法彻底避免,只能“凑合着用”。
幸运的是,尽管理论上存在着种种不足,但在绝大多数情景下,bp算法的实际表现都还不错。
bp算法的基本思想,是将学习过程分为两个过程。
在进行训练时,首先正向传播。
将数据送入输入层,然后从前往后,送入各个隐藏层进行处理,最后将结果送到输出层,得到计算结果。
若计算结果与期望(标签)不符,则开始进行误差反向传播。
在这一步,通过损失函数计算实际输出与期望输出的误差e,然后从后往前,运用链式法则,逐层计算每个参数(w,b)相对于误差e的偏导数。
这个过程就是反向传播,从输出层开始,一直进行到输入层为止。
主要目的是将误差e分摊给各层所有单元,从而获得各层单元的误差信号。
然后以此为基准,调整各神经元的权重和偏置,直到网络的总误差达到精度要求。
江寒只花了3天,就理清了bp算法的思路,又花了两天,就将论文写了出来。
这篇论文用到的数学公式相当多,但写作的困难程度其实也就那样。
复合函数连续求偏导,任何学过一点高数的人,都能很熟练地完成。
而且,江寒重生前,在bp算法上着实下了点功夫,理解得还算透彻。
因此很轻松就将其复原了出来。
写完《神经网络训练中的误差反向传播算法》之后,江寒就开始琢磨,如何将手里的这一批论文发表出去。
也不知道怎么回事,那两篇投往三区期刊的“多层感知机”和“人工神经网络”论文,迄今没有任何回音。
既没有拒稿,也没有进入同行评议。
如果不是对投稿系统多少有点了解,江寒差点就要怀疑,编辑是不是根本没看到自己的论文
目前已经投稿出去的十几篇论文里,已经确定发表的,只有3篇。
分别是:投往4区期刊airev的《论如何高效判定数据是否线性可分》;
投往sactionsonevolutionarycomputation,电气与电子工程师协会主办,进化计算杂志)的《马尔可夫随机场》;
以及用小号dr.x投稿给amc的《论感知机的局限——异或问题的无解》。
总共价值7个学术点。
江寒的系统ui上,现在很明确地显示着【学术点:-14,7】。
从这也能看出,用小号投稿是完全没问题的。
其余的论文大部分都在审稿中,有的已经进入了同行评议环节,但迟迟没有进入下一步。
也有几篇关于“感知机”应用的水货论文,没能通过同行评议,被杂志社拒稿了。
江寒随便改改,然后国内拒稿的,投给了国外,国外打回来的,投给国内。
反正不管怎么样,但凡有一点机会,都要试一试。
万一发表了,学术点它不香吗
与此相比,脸皮什么的,一点都不重要。
14个学术点的债务,才还了一半,安全起见,最好尽快将手头的论文扔出去才行。
这需要等待“多层感知机”和“带隐藏层的神经网络”问世。
可就这么干等着,始终拿不到准信,又让人心里有点不踏实。
如果能让更多人关注到神经网络技术,应该可以提高一些论文的发表率吧
那么,如何引起别人关注呢
江寒琢磨了一下,别说,还真让他想到了一个办法。
那就是参加机器学习方面的各种竞赛活动。
 
第234章 恐高症
江寒手里正忙着,眼睛忽然被蒙上。
“猜猜我是谁”夏雨菲“奶声奶气”地问。
江寒微微一笑:“小仙女”
“不是呦!”
“难道是公主殿下”江寒继续陪着她玩闹。
“嚯嚯嚯,也不对。”
江寒想了想:“那……流浪猫”
“越说越离谱了你。”夏雨菲嘻嘻娇笑。
“好吧,不管你是谁,既然敢主动送上门……”
江寒嘿嘿一笑,霍然回身,一把将她打横抱了起来:“正好今晚寂寞难耐,你就给我当……抱枕吧。”
说着上下颠了颠。
夏雨菲顿时花容失色:“千万别撒手!我恐高……”
江寒眨了眨眼:“真的”
“不骗你,真的。”夏雨菲连连点头,有点可怜巴巴。
“好吧,先测试一下。”江寒说着,原地转了几圈。
夏雨菲顿时有点眩晕,惊叫了一声,连忙哀求:“快放我下来!求求你啦……”
“那……该怎么做,你懂的”江寒坏坏一笑。
夏雨菲哪会不懂他的想法
只好委委屈屈地“大功告成”了一次……
江寒闹了一会儿,就将她放在床边。
伸手摸了下她的脉搏,发觉的确比平时快了不少。
“你还真有点儿生理性恐高”江寒有点惊讶。
“谁还会骗你”夏雨菲小嘴巴一撇。
但江寒稍微哄了几句,她就重新露出了笑容。
她一直都是这样,气性不大,而且好哄。
何况并没有真的如何生气,刚才在半空中心惊胆战地“大功告成”,那滋味还真有点奇妙……
江寒嫌小旅行包碍事,就拎起来扔到了地上。
夏雨菲看见了,就问:“你刚才在收拾东西”
“哦,明天我得出个门,去一趟合江。”江寒回答。
“去合江干嘛”夏雨菲追问。
“参加noip的复赛。”
“要去几天”
“两天。”
夏雨菲有点不开心:“明天就是周六了,好不容易盼来了周末,你又……”
忽然心中一动:“诶周末的话,我能不能一起去啊”
江寒拉着她的软绵绵地小手,温和地说:“我当然没问题了,就怕阿姨放心不下,而且得请半天假。”
“我去问问妈妈。”夏雨菲说完就冲了出去,“噔噔噔”下楼。
大约十分钟后,她就回来了,一脸喜滋滋地说:“妈妈已经同意了哦。”
江寒有点小意外。
这么可爱的女儿,交给咱带着,两天两夜不着家……
这么放心的吗
好吧,谁让咱本来就是一个值得信任、让人放心的“孩子”呢
“那我去帮你收拾一下东西”江寒问。
夏雨菲连忙摇头:“妈妈会帮我收拾的,才不用你呢。”
江寒笑了笑,表示理解。
女孩子嘛,总有一些东西不方便让别人经手,哪怕是自己的男朋友……
由于妈妈就在楼下,夏雨菲只待了一小会儿,就下楼回房间了。
江寒抓紧时间上了会儿网,了解了一下“kaggle全球机器学习业余爱好者大奖赛”的比赛规程。
报名截止后,选手需要在指定的时间,在比赛页面中下载示范数据,构建/训练自己的算法,然后在比赛当天,提交训练/构建好的程序。
流程很简单,但考虑到神经网络的训练,一般都比较耗时,所以江寒做了一个决定。
下载端口开放之后,第一时间就把数据下载下来,然后抓紧时间开始训练。
“明晚21点结束报名,后天上午10点开放下载……”
江寒琢磨了一下,时间安排上,应该没太大问题。
虽然和noip的复赛时间有点撞车,但只要自己好好统筹一下,还是可以穿插开的。
接下来,江寒又登录noip官方网站,了解了一下复赛的细则,检查了一下随身物品。
10点半,他就准时上床,明天还得起早去学校。
刚闭上眼睛,还没等睡着,房门忽然被轻轻地推开了。
江寒悄悄睁开眼睛,借着微弱的光线,观察了一下。
一个苗条纤细的人影,蹑手蹑脚地走近。
他知道是夏雨菲,但没有马上出声。
夜闯寝室这种事,还是第一次发生。
小媳妇半夜三更的不睡觉,忽然跑过来,也不知道想干嘛
夏雨菲走到床边,轻轻掀开被子,慢慢地钻了进来。
 
第235章 有所不为、有所必为
“你昨晚怎么没回去啊”江寒问。
夏雨菲叹了口气:“哎,我也不知怎么回事,不知不觉就睡着了……”
“算了,都已经这样了,还是赶紧起来吧。”江寒温和地说。
夏雨菲连忙点了点头,手忙脚乱地爬起来,趿拉着拖鞋,走到门口。
先轻轻把门拉开一条小缝,小心翼翼地往外看了几眼,然后悄无声息地出门、下楼。
江寒在二楼的卫生间里洗漱了一番,神清气爽地下楼。
刚转过楼梯,就看见母女二人对坐在餐桌两边。
夏如虹脸色平静,看起来无悲无喜,但又似乎在压抑、酝酿着什么。
夏雨菲则坐姿端正,一脸乖巧,明知道江寒下来了,也目不稍瞬。
江寒一看,顿时了然。
这是有情况啊!
夏雨菲拿起一只泡芙,小心翼翼地递了过去:“妈,你尝尝这个。”
“我恰饱了。”夏如虹面无表情。
“妈,我知道错了,以后不敢了。”夏雨菲低下了头,又怯生生地瞄了妈妈一眼。
夏如虹不理她,端起一杯牛奶,自顾自喝了一口。
江寒在楼梯上看得分明,母女俩现在正处于冷战中。
至于原因嘛……
不用问,肯定是昨天晚上,两人同床共枕的事情暴露了。
这也就是两人没有真的“犯规”,要不然……
虽然情况很难预料,但反正,肯定不会只是冷战而已。
当此情景,最聪明地做法就是原路返回。
只要夏雨菲多赔点小心,就算有事儿也没多大,顶多挨几句说罢了。
一旦自己也掺和进去,反倒可能把简单的问题搞复杂。
江寒什么都明白,但只是微微一笑,一步也没有停顿。
就这么保持着原来的节奏,稳稳当当地走下了楼梯。
不管事情大小,反正不能让小媳妇一个人去扛。
用书里的话讲,这叫有所不为、有所必为。
“阿姨早。”江寒打了个招呼,然后在夏雨菲旁边坐下。
夏雨菲心里一安,但马上一颗心就又提了起来。
妈妈正在气头上,他这个时候跑出来“送死”,万一……
“早。”夏如虹不动声色。
猜你喜欢