參數最佳化與過度擬合 Overfitting
把參數調到歷史上「最好」,往往只是記住了雜訊。樣本外測試才是真正的考驗。
還沒想好?先看看第一課(免註冊)「多指標共振」。
文字版講解 · 指標實戰與回測 第 4 課「參數最佳化與過度擬合」
把參數調到歷史上「最好」,往往只是記住了雜訊。樣本外測試才是真正的考驗。
尖峰會塌,高原更穩
只在某個「神奇參數」上特別好、旁邊參數都一般,往往是記住了雜訊——過度擬合。附近一片參數都不錯的「高原」更可靠。
留一段資料當考卷
用樣本內挑參數,再用從沒見過的樣本外檢驗。只有考試也及格,才值得進一步研究。
試得越多,越要小心
在同一段資料上試了幾百組參數,最好的那組很可能只是運氣最好,這叫資料窺探。儘量少調參,優先選擇邏輯說得通、附近參數也都不錯的設定。
本課要點
- 過度擬合:參數完美貼合歷史資料,但在新資料上表現很差。
- 用一段資料最佳化(樣本內),用另一段從沒用過的資料檢驗(樣本外)。
- 穩健的策略在參數附近一片區域都表現不錯(高原),而不是只在某個「神奇數字」上有效(尖峰)。
- 試的參數組合越多,越容易碰巧找到好看的結果,樣本外檢驗就越重要。
動手試試
下面這些練習可以在本課的互動模擬裡完成:
- 先看熱力圖:樣本內「最優」的琥珀色格子是哪組參數?它周圍的格子顏色如何?
- 點「放到樣本外檢驗」:尖峰從正報酬變成了多少?這和例題裡「樣本內 +80%、樣本外 −20%」是同一種現象。
- 比較青色虛線框(高原)的樣本內外平均:它變差了,但有沒有崩?
- 隨手點幾個高原區內的格子,再點幾個尖峰旁邊的格子,看看兩段報酬的差別。
小測驗與解析
- 1. 某參數在樣本內報酬 +80%,樣本外 −20%,最可能的原因是?
- 答案:過度擬合。它記住的是歷史雜訊。
- 2. 判斷參數是否穩健,應該看?
- 答案:參數附近的區域是否都表現良好。「高原」比「尖峰」更可靠。
- 3. 你在同一段資料上試了 500 組參數,挑出最好的一組。下一步最該做的是?
- 答案:用沒參與最佳化的樣本外資料檢驗它。試得越多,越容易碰巧撞上好結果;只有沒見過的資料才能檢驗它是不是運氣。