Xuất phát điểm của Lý thuyết xác suất là tung đồng tiền, đánh bạc hay
các trò chơi may rủi.
Nhiều nghịch lý được phát hiện dẫn đến những tranh cãi kịch liệt ở thế
kỷ 19, dẫn đến luồng quan điểm coi lý thuyết xác suất là “khoa học ngây thơ”.
Do nhu cầu phát triển như vuc bão của khoa học ở đầu thế kỷ 20, do
đòi hỏi của vật lý, thiên văn, sinh học…, dựa trên lý thuyết tập hợp và lý thuyết
độ đo đã rất phát triển, Kolmogrov, nhà bác học Nga hàng đầu đã đưa ra hệ tiên
đề của LTXS, làm cơ sở toán học vững chắc cho ngành toán học này. Lý thuyết
XS là cơ sở của thống kê toán, một ngành của toán học được ứng dụng rộng rãi
nhất hiện nay.