Jak cię złapią, to znaczy, że oszukiwałeś. Jak nie, to znaczy, że posłużyłeś się odpowiednią taktyką.
liczba 123456789, zostanie zapisana jako
0.1234568E9}, d - t - 1 = 7, Cmax = - Cmin = 27 - 1 = 127, ∼ 2-128 ≤ | L | FL < 2+127, zakres reprezentacji liczb Standard REAL. 20 AM, Gdynia Dr inż. Janusz Żółkiewicz, Wykład: Dane numeryczne b. Double precision REAL Dane: n = 64 bity, d = 63 bity, t = 53 bity, 2-t = 2-53 = 0.00000000000000001(10), błąd braku reprezentacji danych typu REAL, błąd na „siedemnastym miejscu” d - t - 1 = 9, Cmax = -Cmin = 29 - 1 = 511, ∼ 2-512≤ | L | FL < 2+511, zakres reprezentacji liczb Double Precision REAL. 21 AM, Gdynia Dr inż. Janusz Żółkiewicz, Wykład: Dane numeryczne Przetwarzanie danych numerycznych Przetwarzanie danych numerycznych sprowadza się do dwóch grup czynności: operacji arytmetycznych (operatory arytmetyczne: + - * / ), ( 2+5)/18 operacji logicznych relacji (operatory logiczne relacji: > , czy 2>9? <, czy 3<6? >=, czy 17>=22? <=, czy 64<=33? =, czy 10=50? <>, czy 5<>9? ) Należy przy tym mieć świadomość, że algorytmy operacji arytmetycznych na danych numerycznych cechują następujące fakty: liczby są prezentowane w systemie pozycyjnym, są więc wielomianami, operacje na liczbach to operacje na wielomianach, liczby typu INTEGER są prezentowane dokładnie; arytmetyka ich jest dokładna; zagrożenia przy przetwarzaniu to: dzielenie oraz nadmiar i niedomiar, liczby typu REAL są prezentowane na ogół niedokładnie, arytmetyka ich jest z przybliżona: + + ** − − ~ a b ⇒ a~ b , F L F L * * / / Uwaga! Gwiazdki ** przy działaniach arytmetycznych oznaczają, że arytmetyka liczb typu REAL (algorytmy), też wprowadza zakłócenia (jest też niedokładna). Algorytmy operacji na liczbach REAL są inne od tych, których używamy codziennie; liczby REAL są bowiem w postaci wykładniczej: aFL + bFL=ma* E(Ca) + mb* E(Cb)=[ma + mb*E(-d)]*E(Ca), aFL * bFL=ma*E(Ca) * mb * E(Cb)=[ma* mb] * E(Ca+Cb), gdzie: d=Ca - Cb , dla Ca > Cb. 22
|
Wątki
|