softmax多分类,计算指数的幂之和很慢,如何加速?

比如做一个50000类的分类。
今天面试时被问到这个问题,我只回答了可以先分大类,再分小类,但是面试官好像不是很满意。
请问这个问题如何解决呢?感觉一般的分类算法也不会分这么多类呀,没考虑过这个问题。
全部评论
sampled softmax
1 回复 分享
发布于 2020-08-04 22:16
分层softmax,负采样,还有w2v里用了哈夫曼编码的softmax和近似计算
点赞 回复 分享
发布于 2020-08-04 21:06
用并行?
点赞 回复 分享
发布于 2020-08-04 21:03
分层softmax?参照word2vec里的,用哈夫曼树
点赞 回复 分享
发布于 2020-08-04 20:57

相关推荐

评论
点赞
8
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务