Stel, dat bij een experiment o.a. de grootheid x moet worden bepaald.
Het streven is dan de werkelijke waarde van x te achterhalen
.
Dat kan echter alleen als er oneindig veel waarnemingen aan x worden
verricht. Het rekenkundig gemiddelde van deze waarnemingen zal dan gelijk
zijn aan
(als er tenminste geen systematischefout gemaakt wordt)
In de praktijk moeten we ons natuurlijk tevreden stellen met een
eindig aantal waarnemingen zodat het vinden van
principieel
onmogelijk is.
Als er n waarnemingen aan x gedaan worden, geven we het rekenkundig
gemiddelde
op als de beste waarde voor
met:
Als maat voor de spreiding in de waarnemingsreeks gebruiken we de standaardafwijking s volgens:
na enige herleiding ontstaat de meer hanteerbare uitdrukking:
met
is het gemiddelde kwadraat en
is het
kwadraat van het gemiddelde.
Deze s is (voor
) niet afhankelijk van n, maar wel van de
nauwkeurigheid van de meetmethode; hoe nauwkeuriger de methode, hoe kleiner s.
Wanneer de reeks van n waarnemingen een aantal malen als geheel zou
worden herhaald, zou dat evenveel waarden voor
opleveren
die onderling ook weer een spreiding vertonen. Als maat voor deze spreiding
bestaat de standaardafwijking van het gemiddelde of middelbare fout
.
Tussen s en
bestaat het verband:
Aangezien we
opgeven is
een maat voor de fout van
(de afwijking ten opzichte van
).
We geven nu een interval op volgens
waarbij
de fout van x wordt genoemd en waarvan de grootte
bepaald wordt door
.
Om nu een kans van 95 procent te hebben,dat x in het opgegeven interval ligt,
nemen we
. (zie Statistiek).
Op deze manier kunnen voor alle grootheden, die bij het experiment
gemeten moeten worden (
) de fouten
(
) berekend worden.
Om
volgens formule 1.4 te berekenen is nogal wat
rekenwerk vereist, maar er bestaat een benadering die voor de foutberekening
goed voldoet.
We gaan hierbij uit van:
Uit de statistiek blijkt nu, dat met goede benadering voor
geldt:
Als het nodig is, kan hieruit overeenkomstige uitdrukking voor s
worden afgeleid volgens
:
In plaats van formule 1.4 kan dus de minder rekenwerk vragende uitdrukking 1.6 gebruikt worden.
Voor gevallen, dat er maar één waarneming wordt gedaan (n = 1) gaat het bovenstaande niet meer op en moet de fout van de waarneming geschat worden, zoals, b.v. bij éénmalige aflezing van een wijzerstand langs een schaalverdeling. Hierbij kunnen constructieve problemen als de zogenaamde parallax een rol spelen, waarop hier niet nader wordt ingegaan. Vaak geeft de fabrikant van het betreffende apparaat de fout op in de begeleidende documentatie.