EA 최적화는 전략의 역사적 성과를 개선하는 매개변수 값을 찾는 과정이다. 올바르게 수행하면 진정한 우위를 다듬는다. 잘못 수행하면 역사적 데이터에서는 탁월해 보이지만 실거래에서 즉시 실패하는 매개변수가 나온다. 그 차이는 워크포워드 분석의 규율이다.
최적화의 핵심 문제
최적화는 과거 데이터셋에서 선택한 지표(총 수익, 샤프 지수, 수익 인수)를 극대화하는 조합을 찾기 위해 매개변수 공간을 탐색하는 것이다. 문제는 다음과 같다: 충분한 매개변수 조합으로 검색하면, 무작위 노이즈를 포함한 어떤 역사적 데이터에서도 예외적으로 보이는 설정을 항상 찾을 수 있다.
이것이 곡선 적합(과최적화라고도 함)이다. 곡선 적합된 EA는 실제 우위를 발견한 것이 아니라 백테스트 기간의 특정 가격 움직임을 암기한 것이다. 실거래 테스트에서 저조한 성과를 내거나 실패할 것이다.
워크포워드 해결책
곡선 적합에 대한 해독제는 표본 외 테스트다. 역사적 데이터의 일부 — 일반적으로 최근 20~30% — 를 최적화에 포함시키지 않는 “검증 세트”로 예비해 둔다. 그런 다음:
- 오래된 표본 내 데이터(예: 2020~2024)로 매개변수를 최적화한다
- 추가 조정 없이 표본 외 데이터(예: 2025년만)로 최적 매개변수를 테스트한다
- 표본 외 기간에도 성과가 유지되면 그 매개변수는 어느 정도 진정한 예측 가치를 지닌다
MT5 전략 테스터에는 이 과정을 롤링 윈도우로 자동화하는 내장 “워크포워드 최적화” 모드가 있다.
안정성 테스트 — 실용적인 지름길
워크포워드 최적화가 복잡하게 느껴진다면, 과최적화의 더 간단한 신호는 매개변수 민감도다. 최적 매개변수를 찾은 후 변형을 테스트한다: 기본 ATR 배수가 2.0이라면 1.8과 2.2도 테스트한다.
- 안정적인 매개변수: 1.8과 2.2에서의 성과가 2.0과 유사하다. 결과가 이 매개변수에 크게 민감하지 않다 — 우위가 실재한다.
- 곡선 적합된 매개변수: 1.9나 2.1에서 성과가 급격히 떨어진다. 2.0 값이 역사적 데이터에 맞게 구체적으로 최적화되었으며, 약간만 바꿔도 결과가 무너진다.
절대 최고 성과가 좀 더 민감한 최적값보다 약간 낮더라도, 성과가 평평한 구간에 있는 매개변수를 항상 선호한다.
최적화할 것 (과 하지 말아야 할 것)
최적화할 것:
- 손절 배수(ATR 기반 손절은 자연스러운 매개변수 범위가 있다)
- 추세 필터 임계값(ADX 수준, EMA 기간)
- 세션 필터(시간대별 진입 창)
최적화하지 말 것:
- 거래당 리스크 비율 — 이것은 포지션 크기 결정이지 우위 매개변수가 아니다
- 백테스트 수익을 극대화하도록 설정된 청산 목표 — 미래 시장은 과거 시장이 아니다
최적화를 멈출 때
실용적인 중단 규칙: 표본 외 기간의 샤프 지수가 1.5를 넘고 워크포워드 효율성(표본 외 수익 / 표본 내 수익)이 0.5를 초과하면 최적화를 멈춘다. 이 시점 이후의 추가 정제는 비례적인 우위 개선 없이 곡선 적합 위험만 추가할 뿐이다.
실거래 전 최종 확인: 최적화된 EA를 데모 계좌에서 한 달간 실행하고 거래별 결과를 백테스트와 비교한다. 데모 성과가 백테스트 샤프 지수의 20% 이내라면 매개변수가 실행 가능하다. 데모가 심각하게 저조하다면 백테스트 설정의 체결 방식 가정(스프레드, 슬리피지)을 재검토한다.