手机浏览器扫描二维码访问
第606章 用故事解释softmax函数的溢出问题（第1页）
用故事解释softmax函数的溢出问题
故事背景：龙族宴会上的金碗
在一座神秘的龙族王国，龙族每年都会举行一次盛大的宴会，宴会上有一个传统：每条龙要把自己的财富（金币数量）放进一个金碗，然后让智慧长老计算每条龙的“财富占比”，来决定谁是这一年的财富之王。
宴会当天，四条龙分别报出了自己的金币数量：
?
火龙：100万金币
?
冰龙：200万金币
?
雷龙：300万金币
?
风龙：10亿金币
智慧长老准备使用一个古老的计算方法——softmax规则，将这些财富转换成概率来比较。但他很快发现了一个严重的问题：
金碗炸了！
为什么？因为按照softmax的计算方法，他需要计算每个金币数量的指数值：
但这些数值实在是太大了，远远超出了王国的计算能力，直接导致金碗崩溃（计算溢出）。
智慧长老陷入了困境，他需要找到一个方法来避免计算崩溃。于是他想到一个聪明的技巧：
“我们不直接放金币，我们可以先让大家的金币数减去最大的金币数！”
于是，他重新计算：
?
火龙的金币数变为
100万
-
10亿
=
-9.99亿
?
冰龙的金币数变为
200万
-
10亿
=
-9.98亿
?
雷龙的金币数变为
300万
海贼：洛克斯时代第一剑豪！ 咦？这里有间魔法学校 宠妃 大秦：化身人屠，祖龙求我别杀了 娶妻一个月，才知岳父朱元璋 黄帝内经百姓版 超无限战卡 万星吞天诀 戏精的我在综漫玩扮演 银镜通古今，侯府真千金带崽开挂了！ 九九金仙 开局校花太太向我道歉，东京末日 玉孤 Fate梦幻旅程 夺我灵根骂我狠？先天绝情圣体已成！ 穿越之异世奇遇迹 自在不灭 尸之仙 刷好感99次，我为爱成零 崩坏：从西琳开始捕获小小律者
少帅夫人的离职计划
关于少帅夫人的离职计划阮颜发现这少帅夫人的位置没法坐稳，提前在协议上列好一二三四条，只等离职后开始新生活。谁知一切竟是宋少帅蓄谋已久！动荡不安的年代，自由的灵魂无处安放。阮颜执意放手，宋少帅双眼猩红，软软，别走！...
八零养崽：在残疾大佬怀里嘤嘤撒娇
苏时安一觉醒来，不仅魂穿到了一本年代小说里，还成了书里只出现了三行就噶屁的反派后妈。开局就跟人私奔，私奔就算了还被老公当场抓住，现场直接噶屁。苏时安老天爷，你玩我呢！后来好不容易解决问题，面对白得的便宜老公，苏时安陷入沉思。上好的美男不要白不要。一开始，宋止戈看苏时安无趣。后来经营全国第一酒楼连锁店的是苏时安，精通多国语言的大佬是苏时安，就连未来的科研大佬，金融大亨和顶流影后都抢着叫她妈妈。宋止戈后悔了。苏时安现在轮到你追妻了哦...
穿书之我是移动弹幕板
本书简介林甜甜是被亲妈带着一起嫁进豪门的个拖油瓶。然而她妄图和顾家子女一起争夺家产，最后被顾家大哥发配到岛上种香蕉。 看完全文的林甜不由感慨，这就是典型的一把好牌打的稀烂，不想一觉醒来，她成了这个拖油瓶。穿书之我是移动弹幕板穿书之我是移动弹幕板芷柚魔蝎小说...
原神：开局被打劫，恨上第三席！
「休闲」「日常」「多女主」「正宫哥伦比娅」。杨鸣穿越到了提瓦特，刚走出新手村的他，就被冒充愚人众的盗宝团打劫了。杨鸣混蛋，穷鬼都打架敢不敢报上名来！盗宝人行不改名坐不改姓，第三席少女手下！然后昏迷的杨鸣就被捡人…留云借风真君给捡了回去。但是修行虽然给了他强大的仙家法术武艺体魄，但是穿越之前...
将门弃妇：你马甲又掉了
新婚之夜，丈夫撇下她，远赴边关，她心甘情愿为他照顾一家老小，没成想，三年后，丈夫功成名就回来，竟带回了白月光和私生子。薇薇，玉娘这些年，跟我在边关，吃了不少苦头，此次回来，你们好好相处。玉娘心思简单，又容易满足，不会与你争抢什么，你那些后宅手段，休要用在她身上！男人低沉带着警告的声音，响在耳畔，似惊雷般，让云薇清醒了过来。她陌生地望着眼前的丈夫。婆婆小姑妯娌，更是轮番上阵，要她大度一点，接纳丈夫的女人和私生子，她却毅然决然地提出和离。令李曜廷没想到的是，被他弃若敝履的妻子，转身就成了各国争抢的神医，还与当今摄政王，暧昧不清。没多久，她还一跃成为了母仪天下的皇后，李曜廷包括他的白月光，通通只能匐伏在她的脚下！...
万道长途
本来以为即使穿越了也会蹉跎一生的李启，却在意外情况下，察觉到了一丝往上爬的机会。让他重新燃起了心气，鼓起勇气踏上逐道之途。丈夫心中有志，当鞭浪山而疾驱波岳，惊涛千万里！（已有百万字完本，放心追读。）（文笔保证，质量上佳）（书友群545222114）...