離散程度

在統計學裡，離散程度（英語：statistical dispersion，scatter，spread）或離散度，又稱統計變異性（statistical variability），簡稱 變異、變差（variation）、變率，是指一個分布或隨機變量的拉伸或壓縮程度。習慣上，「離散」常用來描述數據分布，而「變異」（指：變異數、方差）更常用來描述隨機變量的變異程度。用以描述離散程度或變異的量主要有方差、標準差、變異係數和四分位距等。

離散程度與集中趨勢相對，因此，離散度就是指各個變量值與集中趨勢的偏離程度。

衡量

衡量離散程度的值，通常是非負實數：當衡量值取零時，表示分布集中在同一個值上；隨着衡量值的增加，隨機變量的取值越來越分散。

部分描述離散程度的量是帶單位的，並且，這些量的單位與隨機變量本身的單位相同。也就是說，如果隨機變量的單位是公尺或秒，則這些量的單位也是公尺或秒。這些量舉例如下：

• 標準差
• 四分位距
• 全距
• 平均絕對偏差
• 絕對差中位數
• 平均差
• 間隔關係

此外，也有一些無量綱量：

• 變異係數
• 四分位離散係數
• 基尼係數
• 熵

另外，還有一些帶單位的量，但是他們的單位和隨機變量本身的單位不同：

• 方差
• 離散指數

可解釋性

變差的可解釋性，通常是對於一個隨機變量而言的。當觀測到隨機變量的一些取值（例如訓練集中的標籤可視作是一個隨機變量的一些觀測值），需要推斷隨機變量服從的分布時，就會遇到這個問題。一般而言，推斷有限觀測值的隨機變量服從的分布的過程，即是建立模型的過程。

假設有隨機變量$\mathbf {X}$及其服從的真實分布$\mathbf {X} \sim D$。則對於該隨機變量的觀測值，可計算其變差（以方差表示）${\text{SS}}_{\text{total}}:={\text{Var}}(\mathbf {X} )$；對於分布，亦可計算其變差${\text{SS}}_{\text{distribution}}:={\text{Var}}(D)$。則${\text{SS}}_{\text{distribution}}$是相對該隨機變量的可解釋變異（英語：explainable variation），其餘的部分則是不可解釋變異（英語：unexplainable variation）。為了衡量不可解釋變異，可引入不可解釋變異分數（英語：fraction of unexplainable variation）${\text{FUV}}:=1-{\tfrac {{\text{SS}}_{\text{distribution}}}{{\text{SS}}_{\text{total}}}}$。不可解釋變異亦稱為統計噪聲。

假設$D'$是模型給出的隨機變量的分布。則對於該預測分布，我們可以計算器變異（以方差表示）${\text{SS}}_{\text{model}}:={\text{Var}}(D')$。則${\text{SS}}_{\text{model}}$是該模型相對該隨機變量的已解釋變異（英語：explained variation），其餘部分則是未解釋變異（英語：unexplained variation）。同樣，為了衡量未解釋變異，可引入未解釋變異分數（英語：fraction of unexplained variation）${\text{FUV}}:=1-{\tfrac {{\text{SS}}_{\text{model}}}{{\text{SS}}_{\text{total}}}}$。