본문 바로가기

전체 글484

[통계학 기본 10] 편향과 분산 — 틀린 추정량이 이기는 순간 CH 10 통계학 기본 · Part 2 표집분포와 추정편향과 분산 — 틀린 추정량이 이기는 순간7장은 "평균적으로 맞는" 추정량을 만들었다. 이 장은 그 목표 자체를 의심한다. 정규 모집단에서 분산을 추정할 때 MSE 가 가장 작은 것은 교과서의 ÷(n−1) 이 아니라 ÷(n+1) 이었다 — n=3 에서 16.1104 → 8.0086, 50% 개선. diabetes 실데이터에서도 훈련표본이 20개뿐일 때 리지 축소가 40.2% 이겼지만, 350개가 되자 이득은 0.1% 로 사라졌다. 편향은 결함이 아니라 지불할 수 있는 값이다.01 직관02 수식 읽는 법03 손으로 풀기04 코드05 시각화약어 및 기호 정의편향 (bias)E[θ̂] − θ. 표집분포의 중심이 참값에서 밀린 거리. 반복해도 사라지지 않는다.. 2026. 9. 1.
[통계학 기본 09] 부트스트랩 — 공식이 없어도 흔들림을 잴 수 있다 CH 09 통계학 기본 · Part 2 표집분포와 추정부트스트랩표준오차 공식이 없는 통계량은 어떻게 하나. 표본을 모집단인 척하고 복원추출로 다시 뽑아 흔들림을 직접 만든다. 다섯 통계량에서 부트스트랩 SE 는 참 SE 의 0.950~1.091 배로 옳았고, engel 데이터의 지니계수 0.2548 에도 [0.2253, 0.2844] 라는 CI 가 붙었다. 그런데 최댓값 추정에서는 포함률이 0.0000 — 한 번도 맞히지 못했다.01 직관02 수식 읽는 법03 손으로 풀기04 코드05 시각화약어 및 기호 정의부트스트랩 (bootstrap)원표본에서 복원추출로 크기 n 의 재표본을 B 번 만들어, 통계량의 흔들림을 표본 자체로부터 추정하는 방법. 이름은 "제 신발끈을 당겨 스스로를 들어 올린다"는 관용구에.. 2026. 9. 1.
[통계학 기본 08] 구간추정 — 95% 신뢰구간은 정말 95%를 담는가 CH 08 통계학 기본 · Part 2 표집분포와 추정구간추정 — '95%'를 직접 세어 본다7장의 점추정은 값 하나를 내놓고 끝났다. 이 장은 거기에 폭을 붙인다. 그리고 그 폭에 붙은 '95%'라는 라벨이 진짜인지 10,000번 만들어 세어 확인한다. 정규 모집단 n=3 에서 z 를 쓴 구간의 포함률은 0.8134, t 를 쓰면 0.9490 이었다. 비율에서는 더 심하다 — n=50, p=0.02 의 Wald 구간은 포함률 0.6286. 스무 번 중 한 번이 아니라 일곱 번 놓친다.01 직관02 수식 읽는 법03 손으로 풀기04 코드05 시각화약어 및 기호 정의신뢰구간 CI (confidence interval)표본에서 계산한 두 개의 수. 참값을 담고 있기를 기대하는 범위다. 표본이 바뀌면 이 두 .. 2026. 9. 1.
[통계학 기본 07] 점추정: 적률법과 MLE — n−1 의 정체를 실측한다 CH 07 통계학 기본 · Part 2 표집분포와 추정점추정: 적률법과 MLE1장부터 계속 미뤄 온 질문 — 왜 n−1 로 나누나 — 을 이 장에서 실측으로 끝낸다. 참 σ²=4 인 모집단에서 n=2 로 20,000번 뽑아 보니 ÷n 은 평균 1.9869 였다. 참값의 절반이다. 그 모자란 양은 정확히 σ²/n 이다. 그런데 분산을 고쳐도 표준편차 s 는 여전히 편향이다(n=2 에서 E[s]=1.5820). 감마분포에서 MLE 는 적률법보다 k̂ 의 흔들림이 16% 작았다.01 직관02 수식 읽는 법03 손으로 풀기04 코드05 시각화약어 및 기호 정의점추정 (point estimation)모수를 숫자 하나로 답하는 일. 구간으로 답하는 것은 8장이다추정량 vs 추정값추정량(estimator)은 "데이터.. 2026. 9. 1.
[통계학 기본 06] 표집분포 — 통계량마다 다른 흔들림의 모양 CH 06 통계학 기본 · Part 2 표집분포와 추정표집분포 — 통계량마다 흔들림이 다르다1장에서 잰 것은 표본평균 하나의 흔들림이었다. 그런데 같은 표본에서 중앙값을 계산하면 흔들림이 달라지고, 표준편차를 계산하면 또 달라진다. 정규 모집단(σ=10, n=25)에서 10,000번 재표본해 채점했더니 평균 1.9937(공식 2.0000), 중앙값 2.4591(공식 2.5066), 표준편차 1.4277(공식 1.4434) 로 세 공식이 다 맞았다. 최댓값만 5.0885 인데 붙일 공식이 없다. 이 장은 그 지도를 그린다.01 직관02 수식 읽는 법03 손으로 풀기04 코드05 시각화약어 및 기호 정의표집분포 (sampling distribution)어떤 통계량을 같은 방식으로 무한히 반복 계산했을 때 그.. 2026. 9. 1.
[통계학 기본 05] 큰 수의 법칙과 CLT, 그리고 코시라는 예외 CH 05 통계학 기본 · Part 1 확률과 분포큰 수의 법칙과 CLT — 그리고 예외표본을 늘리면 평균이 참값으로 가고, 그 흔들림은 정규 모양이 된다. 이 장은 그 두 문장이 언제 깨지는지를 잰다. 균등·지수·로그정규의 표본평균은 n 이 커질수록 정규와의 KS 거리가 줄어드는데(로그정규 0.2325 → 0.0331), 코시만 n=200 에서도 0.3730 으로 요지부동이다. 그리고 "n≥30이면 정규로 봐도 된다"는 규칙은 로그정규에서 실제 포함률 0.8738 — 명목 0.95 에 한참 못 미친다.01 직관02 수식 읽는 법03 손으로 풀기04 코드05 시각화약어 및 기호 정의큰 수의 법칙 (LLN)law of large numbers. n → ∞ 이면 표본평균 X̄ₙ 이 모평균 μ 로 수렴한다. .. 2026. 9. 1.