Willkommen, Gast

THEMA:

falsches Ergebnis? 20 Dez 2021 11:10 #1

AbsoluteFosback3
Offline
Gold Boarder
Beiträge: 209
Dank erhalten: 117

Moin

Untenstehendes Pgm liefert als Ergebnis unter cX4 6 und unter cX5 0 und ich komme nicht dahinter wieso dem so ist. Das Ergebnis von 6 wäre das Richtige.
Setzt man [J]=21 dann kommt bei cX4 und bei cX5 das Gleiche heraus nähmlich korrekt 5, bei [J]=23 ist cX4=0 und bei cX5=1 wobei 0 korrekt wäre

Fosback

 cX4Web Code

Was ist das?
1  Setze in [J]: '22'

2  Setze in [N]: '([J] + ([J]\4)) °7' , berechnen'

3  Meldung '[N]', Titel 'Titel', Buttons 'OK, Abbrechen', Symbol 'Information'
cX4Web Code: Einfach anklicken zum Kopieren und in click.EXE 5.0 einfügen
			
**cx5AR-LC AAAAAAABAC zCU4uyiwos ePlUlCwcS7 NKSktSrVLS bXRh7EhEvm 5uYl5KcVgH oKvAKVDKgt SbZWCU0vCE osyE5NyUpU UYCxbJS8lo LK8ktS8Els lIyMlBV-gw ZlAtbZKSgr 65Bjoh2SgR rRXrIK2Aoi KMdHUVDi0w Rwom5iTXJq TWAJUa0jID t_U4uLEdKD 5IakVQPOi_ WJhOoBBgPC 1jT40nADe3 mCNMAEAAA= ==*
  (3 Zeilen, cX 5.0.8.5)

Folgende Benutzer bedankten sich: Soko

Bitte Anmelden oder Registrieren um der Konversation beizutreten.

falsches Ergebnis? 20 Dez 2021 15:36 #2

Stefan
Offline
Administrator
Beiträge: 1270
Dank erhalten: 1792

Hallo, Fosback!

Der Unterschied zwischen cX4 und cX5 ist bei das Ganzzahl-Division "\".
Wird 22 durch 4 geteilt, ist das Ergebnis 5,5. Dieses rundet cX5 mathematisch so, dass die nächstgrößere Zahl genommen wird (also 6), während cX4 dabei abrundet (bzw. die Nachkommastellen einfach kappt) und 5 liefert.

Was von beiden "richtig" ist, darüber streiten sich die Mathematiker dieser Welt. Ich halte die Lösung 6 für richtiger (habe das so auch gelernt), also rechnet cX4 da scheinbar "falsch".

Sorry, wenn dadurch dein Programm anders rechnet - da musst du wohl die Formel anpassen...
Ich werde das aber in die Doku aufnehmen.

Danke für den Hinweis!

Liebe Grüße
Stefan

Folgende Benutzer bedankten sich: Soko, daywalker

Bitte Anmelden oder Registrieren um der Konversation beizutreten.

Forum

click.EXE 5.0

Themen zur Laufzeit

falsches Ergebnis?

THEMA:

falsches Ergebnis? 20 Dez 2021 11:10 #1

falsches Ergebnis? 20 Dez 2021 15:36 #2

Community

Anmelden