통계적 의미 대중의 지혜 (어떠한 문제에 대해) 무작위로 선택한 대중의 대답을 모은것이 전문가의 답보다 낫다 (는 이론). 통계측면에서는 "하나의 정확한 모델"(=A) 보다 "여러개의 부정확한 모델"(=B)의 평균이 더 낫다. 개별 B 의 편향은 더 높지만, 평균을 내면 A 와 비슷해진다. 개별 B 의 분산은 A 와 비슷하지만, 평균을 내면 A 에 비해 월등히 감소한다. 따라서 A 와 B 의 편향은 비슷하지만, B 의 분산이 월등히 줄어든다. 대중의 지혜를 모사한 예측기를 앙상블이라 한다. 큰수의 법칙 하나의 문제에 대해 여러개의 약한 학습기 (= 랜덤 추측보다 조금 더 나은 성능을 가지는 부실한 분류기) 를 이용해 예측을 한다. 단일 강한 학습기 보다 상대적으로 좋은 결론이 나온다. 큰수의 법칙 : 양..