mnożenie w m128

djjagi · Postautor: **djjagi** » 5 cze 2005, o 06:42

Mnożąc zmienną typu WORD przez stałą CONST wychodzi niedokładny wynik.

Np:
WORD = 200
x
CONST = 0.0025
=
SINGLE = 0.499999933.

Symulując wszystko jest o`k ale w procku cos szwankuje. Co może być przyczyną?
?

LucASWw · Postautor: **LucASWw** » 5 cze 2005, o 12:09

Pewne ograniczenia BASCOM'a, oraz brak FPU w ATMEGA.

djjagi · Postautor: **djjagi** » 5 cze 2005, o 15:38

Dzieki. Choć nie pocieszyła mnie twoja odpowiedź. Ale przynajmniej bede wiedział, że to nie mój błąd.

małysz · Postautor: **małysz** » 5 cze 2005, o 21:14

Witam!
Jeśli to naprawde wina BASCOM'a to spróbuj dorzucić wstawkę w asemblerze, to naprawde nie jest trudne. Przy akazji pozwala lepiej zrozumieć co się w tym mikrokontrolerze dzieje.

yyy2 · Postautor: **yyy2** » 6 cze 2005, o 12:02

sprubuj zaokraglic to przez FUSING
wynik = fusing(zaokraglana , #.####)
wpisujesz ile chcesz miejsc po przecinku i dzialac powinno
wynik to chyba string * liczba - ( liczba - ile ma buc cyfr po zaokragleniu )
zajrzyj do helpa tam to jest na pewno

mnożenie w m128

mnożenie w m128

Kto jest online