확률의 시작17세기에서 18세기에 걸쳐서 프랑스에서는 파스칼, 페르마, 드 무아브르, 라플라스 등에 의하여 확률론이 발달하였다. 우연으로 보이는 현상을 수학적으로 관찰, 처리하는 방법이 발달하게 된 것이다. 우연에 대한 이러한 연구는 복잡하게 보이는 사회 상황을 계통적으로 기술하여 어떤 규칙을 찾아내는 길을 열게 되었다.
그 당시는 인구도 늘고, 무역도 활발해지던 시기였다. 대서양을 횡단하는 무역상들은 배를 타고 떠나기 전에 보험을 들었다. 보험을 드는 사람은 당연히 불입액은 적으면서 사고가 났을 때는 많은 금액을 타는 보험을 원한다. 반면에 보험회사의 입장에서는 사고로 지출하는 돈보다 들어오는 불입액이 더 많아야 한다. 보험은 18세기에 들어서 성행하기 시작하였는데 이때는 이미 확률론에 기초한 통계가 발달하였던 것이다.
그러면 어떤 기준으로 불입액과 보험금을 정할까?
영국의 그랜트(Graunt, 1620~1674)는 상인으로, 1662년 「사망표에 관한 자연적 및 지역적 관찰」에서 교회의 기록에 의거하여 처음으로 사망표를 작성하였다. 남녀의 출생아 수, 결혼의 상황 등에 대하여 기록, 정리, 비교하여 각각의 수량에 대하여 관찰하였다. 그 관찰에 입각하여 사회 현상 중에 있는 어떤 규칙성을 알아 내려고 하였다. 페티(Pdtty, 1623~1687)는 그랜트의 연구를 발전시켜 인구 통계표를 만들고 전 지구상의 인구를 3.6억이라고 또, 천문학자 핼리(Halley, 1656~1742)도 인구 통계표를 작성하였는데, 핼리의 사망표에 의하여 보험료를 산출하는 새로운 보험 회사가 18세기 중엽에 생겨났다.
18세기에는 유럽 각국에서 통계학이 발달하였는데, 확률론에 입각하여 통계학을 과학으로 체계화한 학자는 벨기에의 케틀레(Quetelet, 1796~1874)이다. 그는 확률의 이론을 사회 현상의 통계적 연구에 적용하여 업적을 남겼다.
이와 같은 연구들에 힘입어 보험을 출발로 하여 통계학은 발달하기 시작한 것이다.
20세기에 들어서면서 추측 통계학이 연구되기 시작하였다. 즉 대상이 되는 모든 자료를 조사하지 않고 일정한 양의 자료만(이것을 표본이라고 한다.) 조사하여 전체에 대한 추측을 하는 것이다. 예를 들면, 공장에서 만드는 바지의 허리 사이즈를 정할 때, 모든 국민의 허리 사이즈를 재지 않고 적절한 인원수의 사람(표본)에 대한 허리 사이즈만을 조사하여 전국민의 허리 사이즈를 추측하는 것이다.
이와같이 어떤 자료에 대한 통계를 낼 때, 전체를 대상으로 하는 경우와 일정한 표본을 대상으로 하는 경우가 있다. 인구 센서스같은 조사는 전체를 대상으로 하는 것이고, 여론조사 등은 일부를 대상으로 하는 것이다.
알고자 하는 내용을 가장 정확하게 파악하려면 대상 전체에 대하여 조사하면 된다. 그러나 그 대상 전체가 몹시 클 때는 정확성을 대가로 감당할 수 없는 일이 일어나게 된다.
예를 들어 보자. 대통령 선거가 한 달이 남았는데 여론 조사를 하려고 한다. 이때, 전국민을 대상으로 여론조사를 한다면 어떤 일이 벌어질까? 물론 선거를 직접하는 것 만큼이나 정확한 여론 조사는 가능하다. 그런데 전국민을 대상으로 하는 여론조사는 얼마나 걸릴까? 여론조사는 일일이 조사원이 다니면서, 혹은 전화로 해야 하므로 선거처럼 하루에 끝나지 않는다. 따라서 여론 조사가 끝났을 때는 이미 선거도 끝났을 수 있다.
또, 자동차를 만드는 공장에서 자동차가 충격에 얼마나 견디는지 알아보기 위해 실험을 할 때, 생산된 모든 자동차에 대하여 이런 실험을 하면 어떻게 될까? 결과는 정확하게 나올지 몰라도 팔 수 있는 자동차는 한 대도 없을 것이다.
이와같이 추측통계학에서는 적당한 수의 표본을 대상으로 조사한 후 어떤 오차의 범위 내에서 결과를 분석하는 것이 몹시 중요해진다.
