켈리 공식(Kelly Criterion)으로 포지션 크기를 정하는 방법과 그 한계는 무엇인가요?

켈리 공식은 1956년 J. L. Kelly가 제시한 최적 베팅 비율 공식으로, 반복되는 베팅에서 자본의 장기 기하평균 성장률을 최대화하는 비율을 계산합니다. 이진 결과를 기준으로 한 기본형은 f*=(bp-q)/b이며, 여기서 p는 승률, q는 패배 확률(1-p), b는 손익비(순배당률)입니다. b가 1이면 f*=2p-1로 단순화되는데, 예를 들어 승률 60%, 손익비 1대1이라면 켈리 비율은 20%가 되어 자본의 20%를 베팅하는 것이 이론상 최적이라는 결론이 나옵니다. 주식처럼 연속적인 수익률을 다루는 경우에는 (기대수익률-무위험수익률)을 수익률 분산으로 나눈 형태로 확장해 쓸 수 있습니다. 이론적으로는 무한히 반복한다는 가정 아래 켈리 비율이 다른 모든 고정 비율 전략을 장기적으로 능가한다는 것이 수학적으로 입증돼 있습니다. 다만 이 공식에는 중요한 한계가 있습니다. 승률과 손익비는 실전에서 정확히 알 수 없는 추정치이기 때문에, 승률을 과대평가한 채 켈리 공식이 제시하는 비율 그대로 베팅하면 심각한 과대베팅으로 이어져 파산 위험이 커질 수 있습니다. 또한 이론상 장기 성장이 최대라 해도 그 과정에서 자본의 절반 이상이 줄어드는 극심한 낙폭이 흔히 나타나 심리적으로 감내하기 어렵습니다. 나아가 켈리 공식은 동일한 확률과 독립적인 시행, 무한 반복을 가정하는데, 실제 시장 수익률은 극단적 사건이 잦고(팻테일) 자산 간 상관관계와 유동성 제약도 존재해 현실과 괴리가 있습니다. 이런 이유로 켈리 공식을 실전에 응용해 유명해진 에드워드 소프 같은 전문가들도 이론적 최적치(풀 켈리)가 아니라 그 절반(하프 켈리)이나 4분의 1(쿼터 켈리) 수준으로 축소한 비율을 실제로 사용해왔습니다. 하프 켈리는 기대 성장률을 약 4분의 1만 낮추면서도 변동성과 낙폭은 대략 절반으로 줄여^[1], 추정 오차에 대한 견고성을 높이는 절충안으로 알려져 있습니다. 따라서 켈리 공식은 이론적 상한선을 가늠하는 참고 도구로 삼되, 그대로 전액 베팅하기보다는 축소된 비율로 신중하게 접근하는 것이 바람직하며, 실제 적용 여부와 그 결과에 대한 책임은 투자자 본인에게 있습니다.