파라미터 최적화와 과최적화 Overfitting

봉우리는 무너지고, 고원은 더 안정적이에요

어떤 ‘마법의 파라미터’에서만 유독 좋고 주변 파라미터는 평범하다면, 노이즈를 외워 버린 것일 때가 많아요. 바로 과최적화(오버피팅)이에요. 주변 파라미터가 두루 괜찮은 ‘고원’이 더 믿을 만해요.

데이터 일부를 시험지로 남겨 둬요

표본 내으로 파라미터를 고르고, 한 번도 보지 않은 표본 외로 검증해요. 이 시험에도 합격해야 더 연구할 가치가 있어요.

많이 시험할수록 더 조심해야 해요

같은 데이터로 파라미터를 수백 개 시험하면 가장 좋은 것은 그저 운이 가장 좋았을 가능성이 커요. 이것을 데이터 스누핑이라고 해요. 파라미터 조정은 되도록 줄이고, 논리가 통하면서 주변 파라미터도 두루 괜찮은 설정을 고르세요.

이 레슨의 핵심

• 과최적화: 파라미터가 과거 데이터에 완벽하게 들어맞지만 새 데이터에서는 성과가 아주 나쁜 거예요.
• 한 구간의 데이터로 최적화하고(표본 내), 한 번도 쓰지 않은 다른 구간으로 검증해요(표본 외).
• 튼튼한 전략은 어떤 ‘마법의 숫자’에서만 통하는 게(뾰족한 봉우리) 아니라, 파라미터 주변 넓은 영역에서 고르게 괜찮아요(고원).
• 시험해 본 파라미터 조합이 많을수록 우연히 보기 좋은 결과를 찾기 쉬워서, 표본 외 검증이 더 중요해져요.

직접 해 보기

아래 연습은 이 레슨의 인터랙티브 시뮬레이션에서 해 볼 수 있어요:

1. 먼저 히트맵을 보세요. 표본 내 ‘최적’인 호박색 칸은 어떤 파라미터인가요? 그 주변 칸들의 색은 어떤가요?
2. ‘표본 외에서 검증’을 눌러 보세요. 봉우리의 플러스 수익이 얼마로 바뀌었나요? 예제의 ‘표본 내 +80%, 표본 외 −20%’와 같은 현상이에요.
3. 청록색 점선 상자(고원)의 표본 내·외 평균을 비교해 보세요. 나빠지긴 했지만 무너졌나요?
4. 고원 영역 안의 칸 몇 개와 봉우리 옆 칸 몇 개를 아무렇게나 눌러서 두 구간 수익의 차이를 보세요.

퀴즈와 해설

1. 어떤 파라미터가 표본 내에서는 +80%, 표본 외에서는 −20%예요. 가장 그럴듯한 원인은?

정답: 과최적화그 파라미터가 외운 건 과거의 잡음이에요.

2. 파라미터가 튼튼한지 판단하려면 무엇을 봐야 할까요?

정답: 파라미터 주변 영역이 모두 좋은 성과를 내는지‘고원’이 ‘뾰족한 봉우리’보다 믿을 만해요.

3. 같은 데이터에서 파라미터 500개 조합을 시험하고 가장 좋은 하나를 골랐어요. 다음에 가장 먼저 할 일은?

정답: 최적화에 쓰지 않은 표본 외 데이터로 검증한다많이 시험할수록 우연히 좋은 결과에 걸리기 쉬워요. 본 적 없는 데이터만이 그게 운인지 검증해 줄 수 있어요.

이 레슨의 용어

• 데이터 스누핑 (Data Snooping): 같은 과거 데이터에서 수많은 규칙이나 파라미터를 반복해서 시도하면 우연히 좋아 보이는 조합을 찾게 되지만, 대개 운일 뿐이에요.
• 표본 내 (In-Sample): 파라미터 최적화에 사용한 구간의 과거 데이터예요.
• 표본 외 (Out-of-Sample): 최적화에 쓰지 않고 전략 검증용으로 따로 남겨 둔 데이터예요.
• 과최적화(오버피팅) (Overfitting): 파라미터를 과거 데이터에 지나치게 맞춰, 새 데이터에서는 성과가 형편없어지는 거예요.