확률과 통계 시리즈
확률론부터 통계적 추론과 응용 통계까지, ML/DL의 수학적 기반. 18편을 읽는 순서대로 정리했습니다.
확률의 기초: 표본공간, 사건, 확률 공리부터 셈 원리까지
머신러닝의 수학적 기반인 확률론을 처음부터 다진다. 표본공간, 확률 공리, 셈 원리(순열·조합)까지 Python 시뮬레이션과 함께 직관적으로 이해하는 확률 입문 가이드.
확률과 통계
조건부 확률과 베이즈 정리: 사전 정보를 업데이트하는 방법
조건부 확률의 정의부터 베이즈 정리까지, ML의 핵심 도구인 확률 업데이트 메커니즘을 Monty Hall 시뮬레이션과 의료 검사 예제로 완전 이해하는 가이드.
확률과 통계
확률변수와 기댓값: PMF, PDF, CDF, 기댓값, 분산의 핵심 원리
사건의 확률을 숫자로 변환하는 확률변수 개념부터 PMF, PDF, CDF, 기댓값, 분산, 공분산까지, ML 모델링의 수학적 언어를 Python 코드와 시각화로 완전 이 해한다.
확률과 통계
이산확률분포 총정리: 베르누이, 이항, 포아송, 기하, 초기하
ML에서 가장 자주 만나는 이산확률분포 5가지(베르누이, 이항, 포아송, 기하, 초기하)의 수학적 원리와 분포 간 관계를 scipy.stats 실습으로 정리한다.
확률과 통계
연속확률분포 총정리: 균일, 정규, 지수, 감마, 베타 분포
ML의 핵심 가정인 정규분포를 포함한 연속확률분포 5가지(균일, 정규, 지수, 감마, 베타)의 PDF, 기댓값, 분산, 분포 간 관계를 scipy.stats로 정리한다.
확률과 통계
큰 수의 법칙과 중심극한정리: 통계학이 작동하는 이유
표본 평균이 모평균에 수렴하는 큰 수의 법칙과, 어떤 분포든 표본 평균이 정규분포를 따르는 중심극한정리. 통계학과 ML이 작동하는 수학적 근거를 시뮬레이션으로 체감한다.
확률과 통계
정보이론으로 보는 DL 손실함수: 엔트로피, KL 발산, 교차 엔트로피
분류 모델의 Cross-Entropy Loss와 LLM의 Perplexity는 같은 뿌리에서 나왔다. 엔트로피에서 KL 발산을 거쳐 교차 엔트로피에 이르는 한 줄기를 따라가며 손실 함수의 수학적 기반을 정리한다.
확률과 통계
점추정(Point Estimation): 데이터에서 모수를 추정하는 첫 번째 원리
통계적 추론의 출발점인 점추정의 핵심 원리를 정리한다. 추정량과 추정값의 차이, 비편향성과 일치성과 효율성, MSE의 편향-분산 분해, 그리고 베셀 보정까지 시뮬레이션으로 확인한다.
확률과 통계
최대우도추정(MLE)과 적률법(MoM): 추정량을 체계적으로 찾는 두 가지 방법
임의의 분포에서 모수 추정량을 체계적으로 구성하는 두 방법을 비교한다. 적률법의 직관적 접근과 MLE의 최적성, 피셔 정보량과 점근 성질을 유도와 시뮬레이션으로 확인한다.
확률과 통계
신뢰구간(Confidence Interval): 추정의 불확실성을 수량화하는 방법
점추정의 불확실성을 정량화하는 신뢰구간의 정의, 정규·t·비율·분산 CI 구성법, 표본 크기 설계까지 Python 시뮬레이션과 함께 이해한다.
확률과 통계
가설검정(Hypothesis Testing): 데이터로 주장을 검증하는 체계적 프레임워크
귀무가설과 대립가설, p-value의 정확한 의미, 1종·2종 오류와 검정력까지. 가설검정의 논리 구조를 수학과 Python 코드로 완전히 이해한다.
확률과 통계
t-검정, ANOVA, 카이제곱 검정: 상황별 검정 방법 선택 가이드
데이터 유형과 집단 수에 따라 적절한 검정 방법을 선택하는 플로차트. t-검정, ANOVA, 카이제곱 검정, 비모수 검정까지 Python 예제와 함께 완전 정리한다.
확률과 통계
부트스트랩(Bootstrap): 분포를 모를 때, 데이터가 스스로 답한다
분포 가정 없이 표본에서 통계량의 분포를 근사하는 부트스트랩의 원리, 신뢰구간 3종 비교, Python 구현과 ML 배깅 연결까지 정리한다.
확률과 통계
베이지안 추론(Bayesian Inference): 사전 지식과 데이터를 결합하는 통계적 사고
빈도주의와 베이지안 패러다임을 비교하고, 사전분포·우도·사후분포의 관계부터 켤레 사전분포와 MCMC 샘플링까지 베이지안 추론의 이론과 Python 실습을 정리한다.
확률과 통계
기술통계와 EDA(Descriptive Statistics & EDA): 데이터를 모델에 넣기 전에 할 일
평균·분산부터 왜도·첨도, 시각화 도구 선택, 타이타닉 데이터셋 실습까지 모델링 이전에 반드시 거쳐야 할 EDA의 체계적 절차를 정리한다.
확률과 통계
표본 추출과 편향(Sampling and Bias): 240만 명이 틀리고 5만 명이 맞은 이유
확률/비확률적 표본 추출법, 선택·생존자·응답 편향의 실제 사례, 표본 크기 결정 공식과 Python 시뮬레이션으로 편향된 표본의 위험성을 직접 확인한다.
확률과 통계
A/B 테스트 설계와 분석: 가설 수립부터 의사결정까지
A/B 테스트의 가설 수립, 표본 크기 설계, 비율·연속형 지표 분석, 조기 종료 함정까지 실험 설계와 통계 분석의 전 과정을 Python으로 구현한다.
확률과 통계
통계적 함정: 다중 검정, p-hacking, 심슨의 역설, 상관 ≠ 인과
다중 검정, p-hacking, 심슨의 역설, 상관≠인과, 기저율 무시까지 데이터를 다룰 때 반드시 알아야 할 통계적 함정과 방어법을 Python 시뮬레이션으로 총정리한다.
확률과 통계