softmax

Softmax 分成 soft 和 max 两个部分。max故名思议就是最大值的意思。Softmax的核心在于soft，而 soft 与之相对的是 hard。 hardmax 就是只选出其中一个最大的值 max ，即非黑即白。但是往往在实际中这种方式是不合情理的，用到了soft的概念，Softma