Aclaracion sobre excel

Visto 5 veces
Saltar al primer mensaje no leído

ARM

no leída,
11 ene 2002 13:28:1611/1/02
a
Hola,
me gustaria saber cual es el motivo (y a ser posible la solucion) para que
al hacer una operacion sencilla en excel, por ejemplo restar dos celdas de
contenido 600.04 y 600 respectivamente, el resultado sea "aparentemente"
igual a 0.04.
Digo aparentemente porque si mostramos el resultado con 16 cifras decimales
nos dice que es igual a 0,0399999999999636.
Cuando utilizamos formulas como ENTERO o REDONDEAR.MENOS esto es una puñeta,
pues no aplica la formula correctamente.

Pregunto:
¿Por que al restar dos celdas de contenido 3.02 y 3 respectivamente, el
resultado es = 0,0200000000000000 y sin embargo 3.07 - 3 =
0,0699999999999998?
Resulta que REDONDEAR.MENOS (3.07 - 3), con 2 numeros decimales, segun
entiendo yo deberia ser 0.07 (eso creo), pero en la celda aparece 0.06
(¡aunque en formato de celdas estemos trabajando con 2 decimales!).
Si utilizamos la misma formula para 3.02 - 3 , resulta que aqui el resultado
si es 0.02.

Supongo que sera algo sencillo y de clara explicacion, pero no consigo
solucionarlo.

Un saludo,

Mariano.


Juan Pablo Gonzalez

no leída,
11 ene 2002 12:57:3211/1/02
a
El problema radica básicamente, en que el computador funciona con números
binarios (1's y 0's) que no son muy "aptos" para manejar decimales. Aunque
este problema no es muy grave para la mayoría de la gente, hay casos en que
este nivel de precisión es muy necesario.

Una solución que encontré es, por ejemplo multiplicar las dos cifras por 100
(Dos decimales), restarlas y dividir el resultado por 100. No es lo mejor
pero funciona.

--
Juan Pablo González
MrExcel.com Consulting

ARM <no...@tiempo.es> escribió en el mensaje de noticias
#PH3MWsmBHA.2444@tkmsftngp03...

Juan Pablo Gonzalez

no leída,
11 ene 2002 13:09:2211/1/02
a
Aquí adjunto un concurso hecho en Abril de 1999 en MrExcel.com al respecto.
 
April 1999 Challenge: This month, I return to a more subjective question. In the figure at left, I entered 2045.2 in cell A1. I entered 2036.1 in cell A2. In cell A3, I entered =A1-A2. Rather than the correct result of 9.1, Excel returns 9.10000000000014.
 
 
OK, we all know this is because computers are binary creatures, and there isn't a great way to deal with tenths in the binary world. No, it is not a big deal, but to quote our correspondent Fred, "While the tenth or fourteenth decimal place won't bother my checking balance, it might mean I miss Mars with my Space Shuttle."
 
So, for those of you who *do* have to hit Mars with your space shuttle, how do you deal with this inaccuracy problem in Excel? Do you go through the hassle of rounding every result off to the nearest millionth? Share your methods.
 
Thanks to Brad Smith and Russell Goldsworthy who suggested to do the work in whole numbers. In this example, multiply both figures by 10, do the subtraction, then multiply everything by 0.1.

--
Juan Pablo González
MrExcel.com Consulting
Juan Pablo Gonzalez <please...@to.newsgroup> escribió en el mensaje de noticias eqcSRksmBHA.1756@tkmsftngp07...
Responder a todos
Responder al autor
Reenviar
0 mensajes nuevos