Ono s tou přesností - u digitálu (mikrokontroleru) se dá přesně určit každá hladina i u osmibitového kvantování třeba na 6 platných desetinných míst. Ovšem jednak jeden kvantizační krok bude něco málo pod procento, druhak se na poslední bit dá obvykle pramálo spoléhat. Takže můžeme sice vyčíslit nějakou veličinu v daném bodě teoreticky přesně, ale tolerance bude mnohem, mnohem vyšší a tudíž to nemá smysl...
Třeba u digitálních multimetrů se běžně udává přesnost z rozsahu (chyba děliče + přesnost reference) a +/- pár digitů (třeba 4), což je zase kvantizační zkreslení/šum převodníku. Z napětí 1,273 V na rozsahu 2 volty pak reálná hodnota může ležet při chybě 0,5% +/- 4 dig v rozsahu 1,259 V až 1,287 V.
Ten hokej v tom až tolik není, jen je tam spousta různých "standardů" a doporučení, pod kterými si ještě každý představí něco jiného a tak je snadné v tom ztratit přehled.
Hlalvně dB je relativní jednotka, jen za určitých případů je reference součástí (dBu, dBV) a pak jde po absolutní veličinu. Navíc zde ještě máme nejednoznačnost střídavých signálů s jejich rozdílnou hodnotou kvaziRMS, true RMS, střední, špičkovou, činitelem výkyvu a pod..... A to jsou zatím jen prkotiny
