Przekroczenie wartości na liczbę
B
Mam tak� sytuacj� �e w danych pomiarowych kt�rych warto�ci powinny
znajdowa� si� mi�dzy 0 a 0xffff pojawiaj� si� liczby ujemne. Wydaje mi
si�, �e w zmiennej jest jeszcze zaszyty bit znaku, kt�ry jest zazwyczaj
jest 0 ale gdy pomiar przekroczy dozwolony zakres to ten bit jest
r�wnie� nadpisywany. Jak wydoby� z takiej liczy ujemnej prawdziwa warto��.
Plik z danymi to plik tekstowy z warto�ciami w systemie dziesi�tnym.
B.
Jaytee
Miedzy 0 - 0xffff to dziesietnie 0 - 65535.
1. Czy Twoje wartosci w pliku tekstowym przekraczaja 65535 lub sa
mniejsze niz 0?
2. W jakiej zmiennej trzymasz te wartosci? Jakiego typu? I na jakiej
maszynie?
Na moim 32bitowym komputerze te dwa bajty mieszcza sie w typie short C++
W takim przypadku wartosc 0xffff to rzeczywiscie jest dziesietnie -1
unsigned short oczywiscie zalatwia sprawe. To czy wartosc jest ujemna
czy jest wartoscia dodatnia to kwestia interpreatacji jednego bitu :)
Pozdrawiam!
Jaytee
Jacek Czerwinski
Mo�esz jeszcze raz to da� po polsku?
Grzegorz Niemirowski
A do jakiej zmiennej wczytujesz te warto�ci? Wczytuj do zmiennej typu
unsigned (bez znaku) albo do zmiennej o wi�kszym zakresie.
W jaki w og�le spos�b wczytujesz, �e dziesi�tne warto�ci dodatnie robi� Ci
si� ujemne? Jak to jest konwertowane? Jaki j�zyk programowania?
--
Grzegorz Niemirowski
http://www.grzegorz.net/
OE PowerTool i aktualno�ci ze �wiata Outlook Express: grzegorz.net/oe
Uptime: 1 day, 2 hours, 10 minutes and 26 seconds
B
> B pisze:
>> Witam,
>> Mam tak� sytuacj� �e w danych pomiarowych kt�rych warto�ci powinny
>> znajdowa� si� mi�dzy 0 a 0xffff pojawiaj� si� liczby ujemne. Wydaje mi
>> si�, �e w zmiennej jest jeszcze zaszyty bit znaku, kt�ry jest
>> zazwyczaj jest 0 ale gdy pomiar przekroczy dozwolony zakres to ten bit
>> jest r�wnie� nadpisywany. Jak wydoby� z takiej liczy ujemnej prawdziwa
>> warto��.
>> Plik z danymi to plik tekstowy z warto�ciami w systemie dziesi�tnym.
>>
>> B.
>
> Miedzy 0 - 0xffff to dziesietnie 0 - 65535.
> 1. Czy Twoje wartosci w pliku tekstowym przekraczaja 65535 lub sa
> mniejsze niz 0?
nie przekraczajďż˝ 65535 ale sďż˝ mniejsze niďż˝ zero.
> 2. W jakiej zmiennej trzymasz te wartosci? Jakiego typu? I na jakiej
> maszynie?
tego nie wiem. Nie ja pisa�em ten program co takie dane podaje. Ja chce
z nich odczyta� poprawne warto�ci.
B
to jest po polsku ale jak dla pana �opat�:
1. sďż˝ sobie dane w formacie binarnym (nie znam go)
2. jest program co konwertuje te dane na format tekstowy
3. program �w robi to �le, bo z za�o�enia pomiary maj� by� mi�dzy 0 a
0xffff. A sďż˝ ujemne.
4. wnioskuj�, �e konwertuj�cy program wczytuje warto�� dwu bajtow� bez
znaku do zmiennej ze znakiem i st�d przy bardzo du�ych warto�ciach
zamiast poprawnych liczb dostaj� warto�ci ujemne.
5. pytanie jak policzy� jaka jest poprawna warto�� pomiaru.
B.
Stachu 'Dozzie' K.
A zg�osi�e� b��d dostawcy programu? Bo to si� w ten spos�b za�atwia.
--
Stanislaw Klekot
Grzegorz Niemirowski
> 5. pytanie jak policzy� jaka jest poprawna warto�� pomiaru.
Jak jest ujemna to dodaj jďż˝ do 65536.
--
Grzegorz Niemirowski
http://www.grzegorz.net/
OE PowerTool i aktualno�ci ze �wiata Outlook Express: grzegorz.net/oe
Uptime: 2 days, 9 hours, 53 minutes and 41 seconds
B
> On 15.11.2009, B wrote:
>
> A zg�osi�e� b��d dostawcy programu? Bo to si� w ten spos�b za�atwia.
>
doktorant/magistrant. Ju� go nie ma, �r�de� te� nie ma.
Mogďż˝ napisaďż˝ go od nowa ale rozpracowanie formatu binarnego jest
trudniejsze, wi�c my�la�em, �e to da sie �atwo przerobi�.
B.
Michal Schulz
> Stachu 'Dozzie' K. pisze:
>> On 15.11.2009, B wrote:
>>
>> A zgłosiłeś błąd dostawcy programu? Bo to się w ten sposób załatwia.
>>
> Aparatura miernicza na uczelni, program napisał jakiś dawny
> doktorant/magistrant. Już go nie ma, źródeł też nie ma.
>
> Mogę napisać go od nowa ale rozpracowanie formatu binarnego jest
> trudniejsze, więc myślałem, że to da sie łatwo przerobić.
Da sie. Grzegorz Niemirowski podal ci odpowiedz.
--
Michal Schulz