The effect of rounding off in samples

M. E. Wise

Statistica Neerlandica, 1954, vol. 8, issue 3‐4, 169-173

Abstract: Dit artikel bevat een elementaire behandeling van afrondingseffecten in steekproeven. Zoals men verwacht, neemt de variantie van het steekproefgermddelde door af ronding der waarnemingen toe met een factor 1 +b2/12σx2, waarbij b het afrondings‐ interval enσx2de stamvariantie is, in analogie met de bekende correcties van Sheppard. Verder wordt het effect van afronding op de variantie van de steek‐proefvariantie onderzocht. Er wordt op gewezen, dat de afrondingsfout ε in één steekproef gecorreleerd is met de afwijking van de nauwkeurige — d.w.z. niet afgeronde — stochastische variabele x van zijn gemiddelde μ, hoewel deze correlatie gemiddeld nul is. Het gevolg is, dat de variantie van de steekproefvariantie toeneemt. Bij “gewone” waarschijnlijkheidsverdelingen, die continue naar nul gaan bij x →, is deze toename gelijk aan 1/n(1/3b2σx2+ 1/180b4) waarbij n de grootte van de steekproef is. Bij normale verdelingen is het effect ongeveer twee maal zo groot als de toename volgens de Sheppard's correctie van de afgeronde variantie.

Date: 1954
References: Add references at CitEc
Citations:

Downloads: (external link)
https://doi.org/10.1111/j.1467-9574.1954.tb00448.x

Related works:
This item may be available elsewhere in EconPapers: Search for items with the same title.

Export reference: BibTeX RIS (EndNote, ProCite, RefMan) HTML/Text

Persistent link: https://EconPapers.repec.org/RePEc:bla:stanee:v:8:y:1954:i:3-4:p:169-173

Ordering information: This journal article can be ordered from
http://www.blackwell ... bs.asp?ref=0039-0402

Access Statistics for this article

Statistica Neerlandica is currently edited by Miroslav Ristic, Marijtje van Duijn and Nan van Geloven

More articles in Statistica Neerlandica from Netherlands Society for Statistics and Operations Research
Bibliographic data for series maintained by Wiley Content Delivery ().