Quelques noms qui ont marqué la pensée statistique

  Grand mathématicien et physicien, Laplace s'est notamment illustré, parmi de nombreux autres faits d'armes scientifiques, en montrant pour la première fois la stabilité du système solaire et sa conformité aux prédictions newtoniennes. Laplace nous intéresse ici pour plusieurs raisons : par sa position déterministe ferme et par son invention de la « fonction d'erreur ».

Laplace introduit ainsi l'idée d'un intellect capable d'exploiter ce qu'il croyait être la nature déterministe du monde, le fameux « démon de Laplace » :

Toutefois, il convient de prendre garde à ne pas prendre Laplace pour un déterministe naïf. Sur un plan technique, Laplace avait bien remarqué que malgré sa croyance ferme en un ordre déterministe du monde, et malgré des lois physiques qu'il pensait largement connues, certains faits semblaient toujours échapper à la prévision la plus rigoureuse. Il introduit donc dans ses modèles une « fonction d'erreur » permettant de représenter toutes les sources d'imprévu. Par exemple l'erreur humaine dans la mesure ou encore l'imprécision des instruments. Ainsi Laplace a imaginé de décomposer la mesure en une partie prédite par le modèle mathématique juste et une partie attribuable à de l'erreur.

C'est aussi Laplace qui le premier a décrit la distribution en cloche, souvent improprement appelée « Courbe de Gauss ».

C'est lui à qui Napoléon avait signalé « Votre travail est excellent, mais il n'y a pas de trace de Dieu dans votre ouvrage ». À quoi Laplace aurait répondu : « Sire, je n'ai pas eu besoin de cette hypothèse  ».

Loin de penser que l'intellect humain était capable des prouesses de son démon éponyme, Laplace s'est intéressé de près à la théorie des probabilités dont il était persuadé qu'elle était la voie permettant de compenser notre ignorance partielle.

« Nous devons donc envisager l'état présent de l'univers comme l'effetde son état antérieur et comme la cause de delui qui va suivre. Une intelligence qui, pour un instant donné, connaîtrait toutes lesforces dont la nature est animée et la situation respective des êtresqui la composent, si d'ailleurs elle était assez vaste pour soumettreces données à l'analyse, embrasserait dans la même formule lesmouvements des plus grands corps de l'univers et ceux du plus légeratome : rien ne serait incertain pour elle, et l'avenir, comme lepassé, serait présent à ses yeux (...).
L'esprit humain offre, dans la perfection qu'il a su donner àl'Astronomie, une faible esquisse de cette intelligence. Sesdécouvertes en Mécanique et en Géometrie, jointes à celles de lapesanteur universelle, l'ont mis à portée de comprendre dans les mêmesexpressions analytiques les états passés et futurs du Système du monde.En appliquant la même méthode à quelques autres objets de sesconnaissances, il est parvenu à ramener à des lois génerales lesphénomènes observés et à prévoir ceux que des circonstances donnéesdoivent fair éclore. Tout ses efforts dans la recherche de la véritétendent à le rapprocher sans cesse de l'intelligence que nous venons deconcevoir, mais dont il restera toujours infiniment éloigné. (...)
La probabilité est relative en partie à cette ignorance, en partie à nos connaissances.  (...)

« La théorie des hasards consiste à réduire tous les événements du mêmegenre à un certain nombre de cas également possibles, c'est-à-dire telsque nous soyons également indécis sur leur existence, et à déterminerle nombre de cas favorables à l'événement dont on cherche laprobabilité. Le rapport de ce nombre à celui de tous les cas possiblesest la mesure de cette probabilité, qui n'est ainsi qu'une fractiondont le numérateur est le nombre des cas favorables, et dont ledénominateur est le nombre de tous les cas possibles » . 
               in Laplace, P.-S., Théorie Analytique des Probabilités, 3rd ed., Paris: Courcier, 1820.
               in volume 7 des Oeuvres Complètes,Paris: Gauthier-Villars, 1886. pp. vi-ix.