알고리즘 매매가 보편화된 현재 시장에서 전통적 캔들 패턴의 통계적 유의성은 과거보다 약화되었다고 보나요?

알고리즘·고빈도매매(HFT)가 시장 유동성의 상당 부분을 차지하게 되면서, 봉우리·망치·장악형 같은 전통적 캔들 패턴의 통계적 우위가 예전만큼 뚜렷하지 않다는 데는 학계와 실무 다수가 대체로 동의합니다. 다만 이를 "패턴이 무의미해졌다"로 단정하기보다는, 유의성이 발생하는 층위와 지속 시간이 달라졌다고 이해하는 편이 정확합니다.

먼저 메커니즘을 보면, 캔들 패턴이 예측력을 갖는 근본 전제는 시장이 약형 효율(weak-form efficiency)을 완전히는 충족하지 못해 과거 가격에 아직 소화되지 않은 정보가 남아 있다는 것입니다. 실제로 초기 연구인 Caginalp and Laurent(1998)은 1992~1996년 S&P500 종목을 대상으로 이항검정을 통해 2일 구간에서 약 1%의 통계적으로 유의한 초과수익을 보고했고^[1], 이후 대만·태국·인도네시아 등 일부 신흥·아시아 시장에서 패턴의 수익성이 확인되면서 그 시장들이 약형 효율에 위배된다는 해석으로 이어졌습니다. 반대로 미국·일본·홍콩·싱가포르처럼 참여자 경쟁이 치열한 시장에서는 대체로 유의성이 약하거나 사라졌다는 결과가 축적됐는데, 이것이 바로 알고리즘화의 핵심 효과입니다. 규칙 기반 신호는 코드화가 쉬워 다수 참여자가 동일 신호를 동시에 스캔하면 진입 시점에 이미 가격에 반영되고, 이 차익거래 압력이 패턴이 만들어내던 초과수익을 빠르게 상쇄합니다.

다만 여기에는 세 가지 방법론적 단서를 함께 봐야 합니다. ①데이터 스누핑 편의입니다. 수십 종의 패턴과 여러 청산규칙을 무작정 조합해 검정하면 우연히 유의해 보이는 결과가 나오므로, 최근 연구들은 Step-SPA(단계적 우월예측능력)나 화이트의 리얼리티 체크 같은 다중검정 보정을 적용합니다^[2]. 이렇게 보정하면 유의성이 상당수 사라지지만, 상승 하라미·장악형 등 일부 패턴은 거래비용과 스누핑 보정 이후에도 청산전략에 따라 여전히 유의미한 수익이 잔존한다는 결과도 최근 암호화폐·중국 시장 연구에서 보고됩니다. ②시간축의 문제입니다. HFT가 초·밀리초 단위 미시구조를 지배하는 것은 사실이나, 캔들 패턴은 대개 일봉·시간봉 등 저빈도에서 정의되며 초고빈도 표본은 오히려 미시구조 잡음에 오염되어 별도 가정이 필요합니다. 즉 알고리즘의 지배력이 강한 층위와 전통적 패턴이 작동하려는 층위가 반드시 일치하지는 않습니다. ③표본 의존성입니다. 유의성은 시장·기간·변동성 국면에 따라 크게 달라져, 한 시장에서의 결론을 국내 시장에 그대로 이식하기 어렵습니다.

정리하면, 알고리즘 보편화로 특히 유동성이 크고 경쟁이 심한 시장에서 순수 패턴 신호의 통계적 유의성과 지속시간은 과거보다 약화되었을 개연성이 높습니다. 그러나 이는 시장 국면·검정방법·시간축에 조건부이며, 엄밀한 다중검정 보정과 실제 거래비용을 반영하고 다른 근거(거래량·추세·펀더멘털)와 결합할 때 비로소 의미를 판단할 수 있습니다. 캔들 패턴을 단독의 확정적 신호가 아니라 확률적 참고지표로 다루는 태도가 필요하며, 최종 투자 판단과 책임은 투자자 본인에게 있습니다.