서론: 자본의 몇 퍼센트를 투입해야 하는가
기댓값이 양인 기회가 있다고 해서 가용 자본 전체를 투입하는 것은 합리적이지 않습니다. 한 번의 실패가 시스템 전체를 파괴할 수 있기 때문입니다. 그렇다고 너무 작게 투입하면 양의 기댓값이 가져다주는 장기 성장 잠재력을 충분히 활용하지 못합니다. 켈리 공식은 이 두 극단 사이에서 장기 기하 평균 성장률을 최대화하는 최적 자본 비율을 수학적으로 도출한 결과이며, 1956년 벨 연구소의 존 켈리가 정보 이론의 응용으로 처음 정립했습니다. 본 글은 켈리 공식의 기본 형태에서 출발해 자산 운용 실무 적용의 주의점과 보수적 변형을 단계별로 살펴봅니다.
켈리 공식의 수학적 기반
공식의 기본 형태와, 왜 산술 평균이 아닌 기하 평균을 최대화하는지를 함께 이해해야 켈리 공식의 본질이 드러납니다.
켈리 공식의 기본 형태
가장 단순한 이진 결과 상황에서 켈리 공식은 성공 확률과 보상 비율의 곱에서 실패 확률을 뺀 값을 보상 비율로 나눈 비율로 표현됩니다. 성공 확률이 60%이고 1대1 보상 구조라면 켈리 비율은 자본의 20%가 되며, 이는 매 기회마다 가용 자본의 20%를 투입하는 것이 장기 성장률을 최대화한다는 의미입니다. 켈리 공식의 수학적 도출은 로그 효용 함수의 기댓값을 최대화하는 최적화 문제로부터 시작되며, 그 해가 단순한 대수적 형태로 떨어지는 우아한 결과입니다. 로그 효용을 선택하는 이유는 자본의 곱셈적 성장이 로그 변환 시 덧셈으로 단순화되기 때문이며, 이 변환이 장기 성장률 최대화 문제를 분석 가능한 형태로 만듭니다.
왜 기하 평균인가
켈리 공식이 산술 평균이 아닌 기하 평균을 최대화하는 이유는 자본 수익이 곱셈적으로 누적되기 때문입니다. 1억 원에서 50% 손실 후 50% 이익이 발생하면 최종 자본은 7천5백만 원으로 감소하며, 이는 산술 평균이 아닌 기하 평균이 자본의 장기 성장을 결정한다는 사실을 보여줍니다. 변동성이 높을수록 산술 평균과 기하 평균의 격차는 벌어지며, 이 격차를 변동성 항력이라고 부릅니다. 변동성 항력은 자산 운용의 장기 성과를 결정하는 숨은 비용이며, 산술 평균이 아무리 매력적이어도 변동성 항력이 그 평균을 잠식하면 실현되는 장기 성과는 훨씬 낮습니다.
켈리 공식의 실무 적용
켈리 공식은 이론적으로 우아하지만, 실제 자산 운용에서는 몇 가지 중요한 조정이 필요합니다. 이론적 최적이 실제 운영의 최적과 다를 수 있다는 점은 모든 최적화 모델의 공통적 한계이며, 켈리 공식도 예외가 아닙니다.
확률 추정 오류의 증폭
켈리 공식의 가장 큰 약점은 입력값에 매우 민감하다는 점입니다. 성공 확률을 60%로 추정했지만 실제로는 55%였다면, 투입 비율은 큰 폭으로 과대 설정되어 장기 성장률이 오히려 음수로 전환될 수 있습니다. 실증 연구에 따르면 확률 추정 오차가 5%포인트만 발생해도 켈리 비율의 적정값은 절반 이하로 떨어집니다. 이 민감성 때문에 실무에서는 켈리 100%가 아닌 하프 켈리 또는 쿼터 켈리를 사용하는 것이 일반적입니다. McNair의 기댓값 사고 분석에서 다룬 확률 추정의 보수성 원칙이 켈리 공식 적용에도 동일하게 작용합니다. 추정의 불확실성이 클수록 실제 사용할 투입 비율은 이론값에서 더 멀리 떨어진 보수적 값이 되어야 하며, 이것이 입력 불확실성을 출력에 반영하는 표준 절차입니다.
다중 자산의 상관관계
여러 자산에 동시에 자본을 배분할 때는 자산 간 상관관계를 반영해야 합니다. 독립적인 자산들의 켈리 비율은 단순 합산이 가능하지만, 상관관계가 있는 자산들은 동시 손실의 가능성이 누적되므로 합산 비율이 더 작아져야 합니다. 양의 상관관계가 강한 자산을 독립으로 가정하면 실질 위험은 산술적 합산값을 훨씬 초과하며, 이는 포트폴리오의 동시 손실 가능성을 과소평가하는 구조적 오류로 이어집니다. 현대 포트폴리오 이론의 분산 투자 효과는 본질적으로 상관관계가 낮은 자산들의 결합이 동일 기대수익에서 변동성을 낮춘다는 관찰에 기반하며, 이 통찰은 켈리 공식의 다중 자산 확장에도 동일하게 적용됩니다.
자본 소진 확률과 기댓값의 분리
켈리 공식이 최대화하는 것은 장기 기하 성장률이지 자본 소진 회피가 아닙니다. 켈리 100%로 운영되는 시스템에서도 일정 확률로 일시적인 큰 낙폭이 발생하며, 이 낙폭이 심리적으로 또는 운영적으로 견디기 어려운 수준이라면 실질적인 시스템 붕괴로 이어집니다. 자본 소진 정리는 기댓값이 양인 시스템에서도 투입 크기가 잘못 설정되면 장기 생존 확률이 0으로 수렴할 수 있음을 수학적으로 증명하며, 이 사실은 수학적 최적이 행동적 최적과 같지 않다는 점을 명확히 합니다. 의사결정자가 큰 낙폭을 견디지 못하면 시스템에서 이탈하게 되며, 이탈한 시점이 회복 직전이라도 결과는 영구 손실로 확정됩니다.
보수적 변형의 일반화
실무에서 가장 널리 쓰이는 변형은 켈리 비율을 0.25에서 0.5 사이로 축소 적용하는 것입니다. 이 변형은 장기 성장률을 켈리 100%의 75%에서 94% 수준으로 유지하면서 최대 낙폭을 절반 이하로 축소시킵니다. 성장률의 소폭 감소를 변동성의 큰 감소로 교환하는 셈이며, 이는 변동성이 의사결정자의 지속 가능성에 미치는 영향을 명시적으로 반영한 조정입니다. McNair의 변동성 분석에서 다룬 변동성 조정 수익의 관점이 켈리 변형 사용의 근거가 됩니다. 이론적으로 차선인 선택이 실제로는 최선이 되는 이유는, 운영 환경에 입력 추정 오차와 심리적 한계가 존재하기 때문입니다.
동적 사이징의 필요성
켈리 비율은 한번 정해진 후 그대로 유지되는 정적 변수가 아니라, 새로운 정보가 들어올 때마다 갱신되어야 하는 동적 변수입니다. 시스템의 성공 확률이 점진적으로 변화하거나, 변동성이 시간에 따라 달라지면 켈리 비율도 함께 조정되어야 합니다. 켈리 공식의 실무 적용 사례는 자산 관리에서 동적 갱신이 정적 비율 운용보다 일관되게 우위에 있음을 정량적으로 보여줍니다. 정적 비율을 고집하면 변화한 환경에서 과대 또는 과소 배분이 발생하며, 무너져버리는결과로이어집니다