SoftMaker.de

Deutschsprachiges Diskussionsforum
Aktuelle Zeit: 26.05.2013 02:04:00

Alle Zeiten sind UTC + 1 Stunde




Ein neues Thema erstellen Auf das Thema antworten  [ 4 Beiträge ] 
Autor Nachricht
 Betreff des Beitrags: Rechenfehler
BeitragVerfasst: 07.02.2010 11:11:45 
Offline
SoftMaker Volunteers
SoftMaker Volunteers

Registriert: 23.04.2008 23:02:12
Beiträge: 1463
Habe mal den Rechenversuch hier gemacht:

http://www.spiegel.de/netzwelt/web/0,1518,563637,00.html

Es geht um die Multiplikation von 29513736 mit 92842033.

EXCEL liefert das Ergebnis 2740115251665290.

PlanMaker liefert das Ergebnis 2740115251665280.

Richtig wäre 2740115251665288.

Das ist etwas peinlich. Ansonsten rechnet PlanMaker aber bemerkenswert korrekt. Verschiedene "Standard"-Testrechnungen, bei denen so manche Anwendung (auch von MS) versagt, liefert das genaue Ergebnis. Dies gilt auch für den Test hier: http://www.spiegel.de/netzwelt/web/0,1518,563637-5,00.html.


Nach oben
 Profil  
 
 Betreff des Beitrags: Re: Rechenfehler
BeitragVerfasst: 07.02.2010 15:49:57 
Offline
SoftMaker Volunteers
SoftMaker Volunteers
Benutzeravatar

Registriert: 03.10.2007 12:58:39
Beiträge: 1854
Panosis hat geschrieben:
Habe mal den Rechenversuch hier gemacht:
http://www.spiegel.de/netzwelt/web/0,1518,563637,00.html
Es geht um die Multiplikation von 29513736 mit 92842033.
EXCEL liefert das Ergebnis 2740115251665290.
PlanMaker liefert das Ergebnis 2740115251665280.
Richtig wäre 2740115251665288. ....

Also wenn ich Dein richtiges Ergebnis als Zahl in PM (Format Standard) eingebe, wandelt PM die Zahl in die wissenschaftliche Schreibweise um: 2,740115251665288E+015.
Formatiere ich die Zelle nun als "Zahl" erhalte ich 2740115251665280.
Gebe ich Deine Zahl (2740115251665288) in eine auf "Zahl" formatierte Zelle ein, wandelt PM sie in 2740115251665280 um. Und genau das macht Excel 2007 auch: die letzte 8 in der Zahl wird zu einer 0.
PM scheint ja (an der wissenschaftlichen Schreibweise erkennbar) richtig zu rechnen, nur in der Formatierung irgendwie zu patzen. Excel hingegen bleibt auch in seiner wissenschaftlichen Schreibweise seinem Fehler treu und schreibt:2,740115251665290E+015.


Nach oben
 Profil  
 
 Betreff des Beitrags: Re: Rechenfehler
BeitragVerfasst: 08.02.2010 09:16:38 
Offline
SoftMaker Team
SoftMaker Team

Registriert: 09.04.2008 08:50:06
Beiträge: 6316
Wohnort: Nürnberg
Vielen Dank für den Hinweis! Das Problem wurde zur Überprüfung an die Entwickler weitergeleitet.

_________________
Sven Leßmann
SoftMaker Software GmbH


Nach oben
 Profil  
 
 Betreff des Beitrags: Re: Rechenfehler
BeitragVerfasst: 08.02.2010 10:03:49 
Offline
SoftMaker Team
SoftMaker Team

Registriert: 09.04.2008 08:50:06
Beiträge: 6316
Wohnort: Nürnberg
Hier liegt laut Entwicklern kein Rechenfehler vor. Das ist die normale Rechengenauigkeit.

Fließkommazahlen haben eine Genauigkeit von 52 bit, das entspricht etwa 15,6 signifikanten Stellen. Bei einer 16-stelligen Zahl ist also die letzte Ziffer unsicher.

Mehr zu dem Thema:
http://de.wikipedia.org/wiki/IEEE_754

_________________
Sven Leßmann
SoftMaker Software GmbH


Nach oben
 Profil  
 
Beiträge der letzten Zeit anzeigen:  Sortiere nach  
Ein neues Thema erstellen Auf das Thema antworten  [ 4 Beiträge ] 

Alle Zeiten sind UTC + 1 Stunde


Wer ist online?

Mitglieder in diesem Forum: 0 Mitglieder und 1 Gast


Sie dürfen keine neuen Themen in diesem Forum erstellen.
Sie dürfen keine Antworten zu Themen in diesem Forum erstellen.
Sie dürfen Ihre Beiträge in diesem Forum nicht ändern.
Sie dürfen Ihre Beiträge in diesem Forum nicht löschen.
Sie dürfen keine Dateianhänge in diesem Forum erstellen.

Suche nach:
Gehe zu:  
cron
Powered by phpBB® Forum Software © phpBB Group
Deutsche Übersetzung durch phpBB.de