手机浏览器扫描二维码访问
第606章 用故事解释softmax函数的溢出问题（第1页）
用故事解释softmax函数的溢出问题
故事背景：龙族宴会上的金碗
在一座神秘的龙族王国，龙族每年都会举行一次盛大的宴会，宴会上有一个传统：每条龙要把自己的财富（金币数量）放进一个金碗，然后让智慧长老计算每条龙的“财富占比”，来决定谁是这一年的财富之王。
宴会当天，四条龙分别报出了自己的金币数量：
?
火龙：100万金币
?
冰龙：200万金币
?
雷龙：300万金币
?
风龙：10亿金币
智慧长老准备使用一个古老的计算方法——softmax规则，将这些财富转换成概率来比较。但他很快发现了一个严重的问题：
金碗炸了！
为什么？因为按照softmax的计算方法，他需要计算每个金币数量的指数值：
但这些数值实在是太大了，远远超出了王国的计算能力，直接导致金碗崩溃（计算溢出）。
智慧长老陷入了困境，他需要找到一个方法来避免计算崩溃。于是他想到一个聪明的技巧：
“我们不直接放金币，我们可以先让大家的金币数减去最大的金币数！”
于是，他重新计算：
?
火龙的金币数变为
100万
-
10亿
=
-9.99亿
?
冰龙的金币数变为
200万
-
10亿
=
-9.98亿
?
雷龙的金币数变为
300万
重生后被亿万富豪逼婚，渣男傻眼 玉孤 徒儿快下山，你师姐等不及了 女将带球跑后，死对头一夜哭白头 混沌疯魔 夫人算卦缺灵力，亲口冷面侯爷加气运 神谕之十二生肖 开局校花太太向我道歉，东京末日 我一身神功全靠努力，给我变身！ 迷雾中的真相：侦探手记 叶尘：重生在赘婿逆袭之路 兵王在地府的甜蜜生活 黑芒科技之途 我是赵梦凡 穿越兽世，日日扶腰求放过 尸之仙 鬼怪奇谭：兵王与小仙女 黄帝内经百姓版 夺我灵根骂我狠？先天绝情圣体已成！ 万星吞天诀
开局虐哭极品：我在大院风生水起
刚存够首付，中了五百万实现财务自由的白婉清一口卡嗝屁。一睁眼，穿到刷过几页的爆款年代文里，成了个炮灰路人甲，还带了个恶毒女配。地狱般的开局，没关系，抛开剧情杀穿满地。只要我没道德，谁也别想绑架我，干尽缺德事，功德999。继妹白莲，脏水泼她和老癞子滚苞米地，撕毁大学通知书，让她去大西北喂猪。后娘恶毒，举报投诉铁窗泪...
太古剑尊
并指青云，气吞幽冥。大道交错，剑者独尊。这是一个人和一把剑的故事！红尘三千丈，琉璃染天香。群雄共逐鹿，剑尊掌苍黄。剑的真谛，万年之秘，以血海无涯重铸登天之路，以亿万枯骨再炼剑道经书。一切尽在太古剑尊。...
另谋高嫁：这侯府夫人我不做了！
传统古言宅斗女强男强双向奔赴王爷宠妻商贾之女高嫁侯府，成了上京笑谈。独守空房供养侯府六年，姜舒无怨无悔。可她苦等多年的夫君从边关归来，带回一妻两子。不仅如此，沈长...
重生的齿轮
时忆，时氏集团大小姐，上辈子带着亲情滤镜被害离世。重生归来，她不在眼瞎，披上战甲，决定用自己的力量，守护时家，找到弟弟。骆祺，骆氏集团继承人，回国接手家族集团，杀伐果断的霸总，却在遇上时小姐之后屡屡碰壁，他发誓一定要把人拐回家。...
超神宠兽店
万订爆款，火爆爽文有一刀斩杀黄金巨龙的低等骷髅种有身怀十大宠兽秘技的看门土狗更有自称为神的打工妹这是一个得到系统开店，在破碎远古培育宠兽的故事。当荣光覆灭，血脉逆流，昔日的存在将再度回归，一切都是毁灭！...
大荒扶妻人
人在荒国，爷爷是镇国公，武将莫不以爷爷为尊。赵昊有点慌，这妥妥功高震主抄家灭门的剧本啊！向来稳健的他，决定当一个纨绔，每天醉生梦死。结果，一不小心从皇帝那...