手机浏览器扫描二维码访问
激活函数:连接感知机和神经网络的桥梁
要理解激活函数如何把简单的感知机变成复杂的神经网络,我们可以用一个故事和一个比喻来说明。
故事比喻:魔法学院的考核门
在一座神秘的魔法学院里,有许多魔法师想要进入更高等级的殿堂学习更强大的法术。但这座学院设有一道道考核门,每一扇门都会评估魔法师的潜力,决定他们是否有资格进入下一层。
这些考核门,就像神经网络中的激活函数,它们决定哪些信息可以继续往下传递,哪些信息应该被忽略。
激活函数的作用:筛选并放大关键信息
每个魔法师在进入考核门之前,都需要经过以下流程:
1.计算魔力值(感知机的加权求和)
?每个魔法师的能力不同,有些擅长火球术,有些擅长治愈术,还有些只是普通人。
?在进入考核门之前,学院的考官会对每位魔法师的天赋进行加权评分(相当于神经网络的加权求和)。
?比如,火系魔法的分数高,治疗系魔法的分数低,不同魔法的权重不同。
比喻:这就像感知机中的线性计算,它只是单纯地累加输入信息,但还没有真正决定“谁能晋级”。
2.进入考核门(激活函数的作用)
?魔法学院的考核门不会让所有魔法师都进入下一层,它会根据他们的魔力值来筛选:
?如果魔力值太低,考核门会直接关闭(相当于ReLU函数把负值变成0)。
?如果魔力值很高,考核门会全力开启,让魔法师顺利通过(相当于Sigmoid或ReLU把大数保留)。
?如果魔力值一般,考核门可能会半开半闭,让部分魔法师勉强进入(相当于Sigmoid在0附近平滑过渡)。
比喻:这个考核门就是激活函数,它决定哪些信息(魔法师)能继续传递,哪些信息(魔法师)会被屏蔽。
3.进入下一层(神经网络的深度学习)
?通过考核门的魔法师,进入更高级的学院,学习更复杂的魔法。
?这一层的导师会根据他们的技能,进一步筛选、训练,并将合格者送往更高层次的殿堂。
?只有经历多层训练的魔法师,最终才能成为大魔导师(神经网络最终完成学习和预测)。
被废静心多年,你们才开始后悔? 开局逃荒直接掀桌 遗笑苍天 开局创建杀手组织,我威压诸天 北域时空 兽世溺宠:蛇蛇我啊,万龙之母 三国:身为反贼,没有金手指 穿越之异世女领主 系统沙雕我添堵,一身反骨离大谱 高中三年,无人知道我已觉醒 庶女当家日常 大反派女魔头,前世居然是男的 斩神:我道系青年,请个神合理吧 轮回塔 穿书七十年代,过好自己的日子 开局就长生,可我咋是奴隶啊 等你一直等到老 海贼:从女帝开始,路飞持续崩溃 异能太强,大佬被特殊部门收编了 直播算命:你爹让你扔下水道了
听说她在占卜,他捧着手眼巴巴的就过来了爱卿,你给本君算算,今晚是本君睡了国师呢?还是国师睡了本君?她哆嗦了一下,一脚就踹了过去谁都不睡!她今晚就阉了你!!重生前,她是惊才绝艳的大占卜师,重生后,她还是上知天文下知地理的一品国师,可是,她算了两世,却没算到自己这一世会犯桃花国师大人,不好了,帝君来了!卧槽!她一下子就从八卦盘里站了起来他来干什么?他不干什么!那就好那就好!她狂抹一把额头上的冷汗。小太监欲哭无泪可他说了,今晚他夜观星象,是个鸾凤和鸣...
...
一个浑浑噩噩的少年,在阳台吹风不小心掉了下去,死过一次的他,决定开始改变,故事从这里开始,他就是林浩...
一张从始皇帝皇宫流传出的长生不老药地图,解开不死不灭之秘。一代名将,将守,从万人敌,到无人敌的重生之路!九龙吞珠读者交流群721466643)...
...
余庆阳一个搬砖二十年的老工程,梦回世纪之交,海河大学毕业,接老爸的班继续搬砖。用两辈子的行动告诉老师,搬砖不是因为我学习不好!是我命中注定要搬砖已有两本百万字完本书超级村主任最强退伍兵,可以放心入坑!大国工程书友群,群聊号码492691021新书重生之大国工匠...