matemáticas

Precisión

Esta nota está “impulsada” por algunos comentarios a mi post anterior con respecto al Bug de Excel 2007, el primero es un enlace a una discusión en Kriptópolis sobre la precisión numérica de javascript. El segundo es para preguntarme si sabía que Visual Basic rendondea hacia abajo. La verdad es que no sé cómo redondea Visual basic, porque afortunadamente nunca he tenido que programar en ese lenguaje ;). Pero lo que me sorprende es leer otros comentarios que demuestran una ignorancia sobre la precisión de los computadores que es sorprendente en profesionales de la informática.

Errores de Redondeo

Aunque el bug de Excel 2007 ha tenido mucha cobertura, no es primer error de redondeo de la historia, y tampoco el más catastrófico. Y aunque todavía no sabemos que consecuencas pueda tener este nuevo bug de Excel, por lo menos todavía muere nadie por este error. Pero durante la primera guerra del golfo hubo un error de similar origen, que le costó la vida a 28 marines norteramericanos. El origen del bug de excel y del error que mató a los marines es el mismo.

¿giga o gibi bytes?

Si ejecuto el comando df en mi notebook actual me informa que tengo 141+81 Giga Filesystem Size Used Avail Use% Mounted on c: 141G 62G 80G 44% /cygdrive/c d: 8.1G 6.1G 2.0G 76% /cygdrive/d Eso da 149.1 gigabytes, bastante menos que los 160GB que declara la descripción de mi equipo. Pero la verdad es que los fabricantes de discos duros usan correctamente el prefijo Giga, que corresponde a 10 elevado a 9, mil millones, o en cifras 1.