고급 필터링 시스템 (Advanced Filtering Systems)

1. 개요

고급 필터링 시스템은 기술적 분석에서 정확한 진입점과 청산점을 결정하는 핵심 도구입니다. 트레이딩 신호가 발생했을 때, 그 신호가 진짜인지 가짜인지를 걸러내는 과정이 바로 필터링이며, 이 필터의 품질이 시스템의 전체 수익성을 좌우합니다.

이 챕터에서는 가격 기반(Price-based), 시간 기반(Time-based), **이벤트 기반(Event-based)**의 3가지 주요 필터링 방법을 체계적으로 분류하고, 각 필터의 특성과 한계를 살펴봅니다. 또한 돌파(Breakout) 진입 시 필연적으로 발생하는 손절 크기 변동 문제를 해결하는 **비례적 손절 크기 조정법(Proportional Stop-sizing)**을 다룹니다. 이 방법은 거래마다 달라지는 손절 거리에 대응하여 포지션 크기를 동적으로 계산함으로써, 일관된 위험 관리를 가능하게 합니다.

2. 핵심 규칙/원칙

2.1 필터링 시스템의 3가지 범주

모든 필터링 시스템은 크게 세 가지 범주로 분류할 수 있으며, 각각이 제공하는 정보와 제공하지 못하는 정보가 다릅니다. 이 차이를 이해하는 것이 올바른 필터 조합의 출발점입니다.

가격 기반 필터 (Price-Based Filters)

• 특징: 정확한 진입 가격을 제공하지만, 그 가격에 도달하는 시점은 명시하지 않습니다.
• 핵심 장점: 진입 전에 손절까지의 거리를 정확히 계산할 수 있어 위험 통제가 가장 우수합니다.
• 세부 분류:
  • 절대 측정치(Absolute Measure): 돌파 레벨로부터 고정된 가격 변동폭(예: 돌파선 + 10포인트)을 초과해야 진입
  • 상대 측정치(Relative Measure): 돌파 가격의 일정 백분율(예: 돌파선 + 0.5%)을 초과해야 진입
  • 변동성 측정치(Volatility Measure): ATR의 배수(예: 돌파선 + 1.0 ATR) 또는 표준편차의 배수를 초과해야 진입

실전 팁: 암호화폐처럼 변동성이 큰 시장에서는 절대 측정치보다 **변동성 측정치(ATR 기반)**가 더 적응적입니다. 시장 상황에 따라 필터 폭이 자동으로 조절되기 때문입니다.

시간 기반 필터 (Time-Based Filters)

• 특징: 정확한 진입 시점을 제공하지만, 그 시점의 진입 가격은 명시하지 않습니다.
• 세부 분류: 돌파 이후 N개 봉(캔들) 동안 가격이 돌파 레벨 위(또는 아래)를 유지해야 진입을 확정합니다.
• 한계: N개 봉 동안 가격이 얼마나 벗어나 있을지 모르므로, 진입 시점의 가격이 예측 불가합니다. 이로 인해 손절 크기가 사전에 확정되지 않는 문제가 있습니다.

예시: 저항선 돌파 후 3봉 연속 종가가 저항선 위에 형성되면 진입하는 방식이 대표적입니다.

이벤트 기반 필터 (Event-Based Filters)

• 특징: 특정 이벤트가 발생할 때까지 정확한 가격이나 시점을 제공하지 않습니다.
• 세부 분류:
  • 알고리즘 필터: 특정 봉의 출현 순서, 신고가/신저가의 발생 순서 등 사전 정의된 규칙을 충족해야 진입
  • 이벤트 기반 측정: 종가가 특정 레벨을 위반(Close Violation), 확인된 돌파 후 해당 장벽을 재테스트(Re-test)하는 경우 등

실전 예시: 삼각형 패턴 상단을 돌파한 후, 가격이 다시 돌파 레벨로 되돌아와서 지지를 확인(풀백 재테스트)한 뒤 진입하는 방식이 이벤트 기반 필터의 대표적 활용입니다.

2.2 이중 필터링 시스템

단일 필터만으로는 위험 통제와 신호 정밀도를 동시에 확보하기 어렵습니다. 특히 시간 기반이나 이벤트 기반 필터는 진입 가격을 사전에 특정할 수 없으므로, 가격 기반 필터를 보조적으로 결합하는 이중 필터링 시스템이 필요합니다.

적용 조건:

• 거래당 허용 가능한 최대 위험을 제한하고 통제해야 하는 경우
• 시간 기반 또는 이벤트 기반 필터 사용 시, 위험 통제를 위해 가격 기반 필터를 추가로 적용

예시 적용:

• 주 필터(Primary): 종가 위반(Close Violation)을 진입 트리거로 사용 → 종가가 돌파 레벨을 넘어서 마감하면 신호 발생
• 보조 필터(Secondary): 가격 기반 필터로 진입을 돌파 레벨로부터 특정 거리 이내로 제한 → 종가가 돌파 레벨에서 너무 멀리 벗어난 경우(예: 2 ATR 초과) 해당 신호를 무시하여 과도한 위험 노출을 방지

이중 필터링의 핵심은 **"신호의 품질은 주 필터가, 위험의 한도는 보조 필터가 담당한다"**는 역할 분담에 있습니다. 보조 필터가 신호를 거부하면 해당 거래를 건너뛰는 것이지, 필터 조건을 완화하는 것이 아닙니다.

2.3 비례적 손절 크기 조정법 절차

돌파 진입(Breakout Entry)의 고유한 문제는 매 거래마다 손절까지의 거리가 다르다는 점입니다. 장벽 진입(Barrier Entry)은 지지/저항선 바로 뒤에 손절을 배치하므로 손절 크기가 거의 일정하지만, 돌파 진입은 돌파 지점에서 직전 유의미한 고점/저점까지의 거리가 매번 달라집니다.

이 문제를 해결하기 위한 비례적 손절 크기 조정법은 다음 5단계로 진행합니다:

단계	절차	설명
1	백테스트 실행	해당 전략으로 최소 300500회 거래를 시뮬레이션하고, 각 거래의 손절 크기(진입가손절가 거리)를 기록합니다.
2	2표준편차 값 계산	수집된 모든 손절 크기 샘플의 표준편차를 구하고, 이를 2배 합니다.
3	비례적 손절 크기 결정	평균 손절 크기 + (2 × 표준편차) = 비례적 손절 크기. 이 값은 전체 거래의 약 95%가 이 범위 안에 들어오는 상한선 역할을 합니다.
4	최대 위험 비율 결정	거래당 현재 자본의 최대 위험 비율(예: 2%)을 정하고, 해당 달러(또는 USDT) 가치를 계산합니다.
5	비례적 거래량 계산	거래당 달러 위험 값 ÷ 비례적 손절 크기 = 비례적 거래량(기본 포지션 크기)

포지션 크기 결정 규칙:

조건	적용 방법
실제 손절 크기 ≤ 비례적 손절 크기	비례적 거래량(기본 포지션 크기)을 그대로 사용합니다. 손절이 좁을수록 실제 위험 금액이 줄어들어 자연스러운 안전 마진이 확보됩니다.
실제 손절 크기 > 비례적 손절 크기	최대 달러 위험 ÷ 실제 손절 크기로 포지션 크기를 축소 계산합니다. 이렇게 해야 거래당 최대 위험 한도를 초과하지 않습니다.

핵심 원리: 이 방법은 손절이 좁은 거래에서는 포지션 크기를 유지하여 유리한 리스크/리워드를 활용하고, 손절이 넓은 거래에서는 포지션 크기를 줄여 위험을 한도 내로 억제합니다. 결과적으로 고정 비율 방식보다 자본 곡선의 변동성이 줄어들고 드로우다운이 완화됩니다.

3. 차트 검증 방법

3.1 필터링 효과성 검증

필터를 도입한 뒤에는 반드시 정량적 검증을 거쳐야 합니다. 필터가 가양성 신호를 줄이는 동시에, 유효한 신호까지 과도하게 걸러내지 않는지 확인하는 것이 핵심입니다.

가격 기반 필터 검증:

• 백테스트를 통해 필터 없이 진입한 경우와 필터 적용 후 진입한 경우의 성과를 나란히 비교합니다.
• 가양성(False Breakout) 신호 감소율을 측정합니다. 필터가 가짜 돌파를 몇 퍼센트나 걸러냈는지 확인합니다.
• 진입 가격의 일관성을 확인합니다. 돌파 레벨 대비 진입 가격의 편차가 줄어들었는지 살펴봅니다.
• 주의: 필터 폭이 너무 넓으면 진입 가격이 유리한 수준에서 멀어져, 리스크/리워드 비율이 악화될 수 있습니다.

시간 기반 필터 검증:

• N개 봉 지속 조건 충족 후 진입한 신호의 승률과 기대 수익을 측정합니다.
• 조기 진입(필터 없음) 대비 지연 진입(필터 적용)의 총 성과를 비교합니다. 승률이 개선되더라도 진입 가격이 불리해져 기대 수익이 오히려 감소하는 경우가 있으므로, 승률과 수익 팩터를 동시에 확인해야 합니다.

이벤트 기반 필터 검증:

• 특정 이벤트(풀백 재테스트, 종가 위반 등) 발생 후 진입한 거래의 성공률을 측정합니다.
• 이벤트가 발생하지 않은 상태에서 진입한 경우와의 성과 차이를 분석합니다.
• 이벤트 기반 필터는 거래 빈도가 크게 줄어들 수 있으므로, 통계적 유의성을 확보할 만큼 충분한 샘플이 확보되는지 확인합니다.

3.2 비례적 손절 크기 조정 검증

장벽 진입 vs 돌파 진입 비교:

항목	장벽 진입 (Barrier Entry)	돌파 진입 (Breakout Entry)
손절 배치	장벽(지지/저항) 바로 뒤	직전 유의미한 고점/저점 뒤
손절 크기	거의 일정	매 거래마다 상이
포지션 크기	고정 비율 방식 적용 가능	비례적 조정법 필요
진입 위치	장벽 근처 (유리한 가격)	돌파 확인 후 (불리한 가격)

손절 크기 분포 분석:

• 최소 300~500회 거래 데이터에서 손절 크기의 평균과 표준편차를 계산합니다.
• 손절 크기 히스토그램을 생성하여 분포 패턴을 확인합니다. 정규분포에 가까울수록 비례적 손절 크기 조정법의 효과가 안정적입니다.
• 극단적으로 넓은 손절(3표준편차 이상)이 빈번하게 나타나면, 전략 자체의 진입 로직을 재검토해야 합니다.

4. 흔한 실수/주의점

4.1 필터링 관련 실수

과도한 필터링:

• 너무 많은 필터를 겹쳐 적용하면 거래 기회가 극단적으로 줄어들어 통계적 유의성이 사라집니다. 300회 이상의 백테스트 거래가 확보되지 않으면 시스템의 신뢰성을 판단할 수 없습니다.
• 복잡한 필터 조합은 과최적화(Curve Fitting)의 위험이 높습니다. 과거 데이터에 완벽히 맞추어진 필터는 실전에서 무너지기 쉽습니다.

부적절한 필터 조합:

• 시간 기반 또는 이벤트 기반 필터만 단독으로 사용하면 진입 가격을 사전에 알 수 없어 거래당 위험을 통제할 수 없습니다. 반드시 가격 기반 보조 필터를 결합해야 합니다.
• 종가 위반 같은 이벤트 기반 진입을 가격 기반 필터 없이 사용하면, 강한 모멘텀 봉에서 돌파 레벨 대비 진입 가격이 과도하게 벗어나 손절 크기가 비정상적으로 커질 수 있습니다.

필터의 방향성 혼동:

• 필터는 신호의 품질을 높이는 도구이지, 신호를 생성하는 도구가 아닙니다. 기본 진입 신호가 견고하지 않으면 아무리 정교한 필터를 적용해도 수익성이 개선되지 않습니다.

4.2 비례적 손절 크기 조정 관련 실수

고정 비율 위험 관리의 함정:

• 모든 거래에 동일한 비율(예: 자본의 2%)을 위험에 노출하되 포지션 크기는 고정하면, 좁은 손절이 빈번히 실행될 때 소규모 손실이 빠르게 누적됩니다.
• 반대로 넓은 손절이 빈번히 실행될 때는 한 번의 손절로 큰 금액이 빠져나갑니다.
• 비례적 손절 크기 조정법은 이 두 가지 극단을 완화하여 자본 곡선을 안정시킵니다.

샘플 크기 부족:

• 300회 미만의 거래 데이터로 평균 손절 크기를 계산하면 통계적 신뢰도가 낮아 비례적 손절 크기가 왜곡됩니다.
• 시장 조건이 크게 변했는데 과거 데이터만으로 계산하면 현재 변동성을 반영하지 못합니다. 롤링 윈도우(최근 N회 거래 기준) 방식으로 주기적 업데이트가 필요합니다.

비례적 임계값 설정 오류:

• 1표준편차를 사용하면 전체 거래의 약 68%만 커버하여, 나머지 32%에서 빈번하게 포지션 크기 조정이 발생합니다. 이는 시스템의 일관성을 떨어뜨립니다.
• 3표준편차를 사용하면 거의 모든 거래를 커버하지만, 비례적 손절 크기가 너무 커져서 기본 포지션 크기가 지나치게 작아집니다.
• **2표준편차(약 95% 커버리지)**가 일관성과 효율성의 균형점입니다.

5. 실전 적용 팁

5.1 필터 선택 가이드라인

기본 원칙:

• 가격 기반 필터를 우선 고려합니다. 진입 전에 손절 크기를 확정할 수 있어 위험 관리가 가장 명확합니다.
• 시간 기반 또는 이벤트 기반 필터를 사용할 때는 반드시 가격 기반 보조 필터를 추가하여 최대 위험을 제한합니다.
• 백테스트 가능성을 항상 고려하여 필터를 설계합니다. 규칙으로 명확히 정의할 수 없는 주관적 필터는 피합니다.

변동성 기반 필터의 우위:

• 암호화폐 시장은 변동성이 극심하게 변하므로, 고정 가격폭이나 고정 백분율 필터보다 ATR 기반 변동성 필터가 시장 환경에 더 잘 적응합니다.
• 예: 20기간 ATR의 0.5배를 돌파 필터로 사용하면, 저변동성 구간에서는 필터가 좁아지고 고변동성 구간에서는 자동으로 넓어집니다.

트렌드 필터와의 결합:

• MACD 시그널 라인 크로스오버를 트렌드 방향 필터로 활용할 수 있습니다.
• 롱 진입 조건: 스토캐스틱이 시그널 라인 위로 크로스 + MACD가 제로선 위에 위치 → 상승 추세 확인
• 숏 진입 조건: 스토캐스틱이 시그널 라인 아래로 크로스 + MACD가 제로선 아래에 위치 → 하락 추세 확인
• 이처럼 **오실레이터(타이밍) + 트렌드 지표(방향)**를 조합하면 역추세 진입을 효과적으로 걸러낼 수 있습니다.

5.2 실용적 구현 전략

단계적 필터 적용:

1. 1단계 — 방향 확인: 이동평균 크로스오버, MACD 방향, 또는 가격이 200 EMA 위/아래에 있는지를 통해 주요 트렌드 방향을 확인합니다. 이 방향과 반대되는 신호는 무시합니다.
2. 2단계 — 가격 기반 1차 필터: 돌파 레벨 + ATR 배수, 백분율 등으로 진입점을 구체화합니다. 이 단계에서 손절 크기가 확정됩니다.
3. 3단계 — 시간/이벤트 기반 2차 필터: 필요시 N봉 유지 확인, 풀백 재테스트 등으로 신호의 정밀도를 높입니다. 단, 2차 필터 적용 후에도 2단계에서 설정한 가격 한도를 넘지 않아야 합니다.

비례적 손절 크기 조정 실무 적용:

• 정기 업데이트: 최소 분기별로 백테스트를 재실행하여 평균 손절 크기와 표준편차를 재계산합니다. 시장 구조가 바뀌면(예: 비트코인 반감기 전후) 더 자주 업데이트합니다.
• 자동화: 각 거래 전 손절 크기를 측정하고, 비례적 거래량과 비교하여 적절한 포지션 크기를 자동 계산하는 스프레드시트나 스크립트를 준비합니다.
• 예외 처리: 실제 손절 크기가 비례적 손절 크기의 2배를 초과하는 극단적 경우에는, 포지션 크기를 줄이더라도 리스크/리워드가 지나치게 불리해질 수 있으므로 해당 거래 자체를 건너뛰는 규칙을 추가하는 것이 바람직합니다.

위험 관리와의 통합:

• 계좌당 최대 위험 한도(예: 전체 오픈 포지션 합산 자본의 6% 이내)와 비례적 조정법을 조화시킵니다.
• 연속 손실 발생 시 포지션 크기를 추가로 축소하는 규칙(예: 3연패 시 포지션 크기 50% 감소)과 연계합니다.
• 드로우다운 제한 조건(예: 최대 드로우다운 15% 도달 시 거래 중단)과 필터링 시스템의 일관성을 유지합니다. 필터를 완화하여 거래 횟수를 늘리려는 유혹에 빠지지 않아야 합니다.

5.3 성과 모니터링

핵심 지표 추적:

지표	측정 방법	의미
승률 변화	필터 적용 전후 비교	가양성 신호 제거 효과
평균 수익/손실 비율	평균 이익 거래 ÷ 평균 손실 거래	필터가 리스크/리워드에 미치는 영향
수익 팩터	총 이익 ÷ 총 손실	시스템의 전반적 수익성
최대 드로우다운	자본 고점 대비 최대 하락폭	위험 관리 효과
거래 빈도	월/분기별 거래 횟수	필터가 기회를 과도하게 줄이지 않는지 확인

시스템 최적화 시 주의사항:

• 다양한 시장 조건(추세 구간, 횡보 구간, 고변동성/저변동성)에서 필터 성능을 개별적으로 검증합니다. 특정 조건에서만 작동하는 필터는 범용성이 떨어집니다.
• 과최적화 방지를 위해 반드시 아웃오브샘플(Out-of-Sample) 테스트를 실시합니다. 전체 데이터의 70%로 최적화하고 나머지 30%로 검증하는 것이 일반적입니다.
• 실거래에서는 백테스트와 달리 슬리피지와 체결 지연이 발생합니다. 특히 돌파 진입은 유동성이 낮은 시점에 주문이 집중되므로, 백테스트 결과에 거래당 0.1~0.3%의 슬리피지를 반영하여 보수적으로 평가합니다.
• 필터 파라미터를 미세 조정할 때, 성과가 파라미터 변화에 민감하게 반응하면 과최적화 징후입니다. 넓은 파라미터 범위에서 안정적인 성과를 보이는 설정값을 선택합니다.