解析:
Softmax 函數能將輸出轉換為機率分佈,使所有類別的機率總和為 1,適用於多類別分類問題。影片類型推薦需要在多個類別中選擇,Softmax 是最適合的輸出層函數。
Softmax 函數是一種將數值轉換為機率分佈的數學工具,常用於多元分類模型,確保輸出總和為一|本頁含完整原理、應用場景、iPAS 考試重點與 3 個常見問答。
你有沒有在你要在多個候選答案中選出最可能的一個,發現只看表面常常不夠?
你可以把它想成把一堆分數重新整理成機率分布,而且全部加起來剛好是 1。
多元分類、詞彙選擇、注意力權重都需要這種可比較的機率形式。
你可以把它想成一個把抽象概念拉回日常判斷的提示,先知道它解決什麼問題,再看技術細節。
Sigmoid 函數 Sigmoid 像處理「二選一」的問題,把結果變成是或否的機率。 Softmax 則像處理「多選一」的問題,它會給每個選項一個機率,而且這些機率的總和保證是 1,讓你一次看到所有選項的可能性分佈。
最關鍵的區別:先看它是在比意思、比結構,還是在做任務輸出。
多選一、而且總和要等於 1,就用 Softmax。
圖片分類模型最後要在貓、狗、鳥之間選一個最可能類別。 語言模型生成下一個 token 時,要先把詞彙表分數轉成機率。
它會先對分數取指數,再做正規化,讓所有輸出都變成機率。 temperature 會影響分布尖銳程度,溫度低更保守,溫度高更分散。
Q1(直覺題): 如果模型最後要選一個類別,Softmax 合適嗎?
→ 合適。這就是它最典型的用途。
Q2(判斷題): 如果一個樣本可以同時屬於好幾個類別,還適合嗎?
→ 通常不適合。看情況,多標籤任務更常用 Sigmoid。
可以。Softmax 函數可以接受任何實數作為輸入,包括負數。指數函數會將負數轉換為介於 0 和 1 之間的數值,因此 Softmax 函數仍然能夠產生有效的機率分布。
不一定。如果輸入向量中存在相同的數值,那麼 Softmax 函數的輸出中也會存在相同的機率值。只有當輸入向量中的所有數值都不同時,Softmax 函數的輸出才是唯一的。
在常見的深度學習框架(如 TensorFlow、PyTorch)中,Softmax 函數通常作為一個層(Layer)來使用,可以直接添加到模型的輸出層。框架會自動處理 Softmax 函數的計算和梯度反向傳播。
某影音串流平台建立神經網路模型,用於預測使用者最可能感興趣的影片類型。模型輸出層需將結果轉換為各類別的機率分佈,以便系統依機率高低推薦內容。下列哪一種函數最適合用於模型輸出層?
解析:
Softmax 函數能將輸出轉換為機率分佈,使所有類別的機率總和為 1,適用於多類別分類問題。影片類型推薦需要在多個類別中選擇,Softmax 是最適合的輸出層函數。