On 05/16/2013 05:32 PM, Gregor Szaktilla wrote:
> Hallo Josef,
>
> Am 16.05.2013 17:19, schrieb Josef Moellers:
>> Nicht nur das: auch das ᅵberschlagsrechnen, um welche *Grᅵᅵenordnung* es
>> sich wohl handeln muᅵ, wird geᅵbt!
>
> das meinte ich ungefᅵhr, als ich das von den Nachkommastellen schrieb.
> Computerei und Taschenrechner mit 10 Stellen haben in meiner Denke dazu
> gefᅵhrt, dass ich geglaubt habe, es kᅵme immer darauf an, es ganz genau
> zu nehmen. Das stimmt aber nur fᅵr die ziemlich begrenzte Welt des
> Computers.
Ich meinte eher: sind es nun 5m, 50m, 500m oder 5km? Der Rechenschieber
gibt ja nur die Mantisse, den Exponenten muᅵ man durch
ᅵberschlagsrechnung bestimmen.
Was Du meinst ist die Genauigkeit: Manch einer denkt, wenn er zwei
Messungen macht und bei der einen zeigt das Instrument 5,5V und bei der
anderen 5,6V an, daᅵ dann die Spannung *exakt* 5,55V betrᅵgt!
Tatsᅵchlich gilt doch (ich hofe, ich blamiere micht jetzt nicht vᅵllig,
diese Fehlerrechnung ist schon ein paar Tage her ...):
V1 = 5,55 +- 0,05
V2 = 5,65 +- 0,05
V = 5,60V +- 0.05V
Josef