|
Namazu for hns による簡易全文検索 詳しくは 詳細指定/ヘルプを参照して下さい |
||||||||||||||||||||||||||||||||||||||||||||||||||
2006年04月19日(水) 旧暦 [n年日記] [更新:"2006/04/20 07:37:45"]#1 [Emacs] lisp で足算(+ 62.106 186.2) 248.30599999999998 (+ 62.106 186.1) 248.206 (+ 62.106 186.0) 248.106 (+ 62.206 186.1) 248.30599999999998 (+ 248.0 0.306) 248.306 (+ 61.106 187.2) 248.30599999999998 (+ 248.106 0.2) 248.30599999999998 (+ 248.01 0.296) 248.30599999999998 (+ 248.1 0.206) 248.30599999999998 (+ 62.106 186.3) 248.406 (+ 148.1 0.206) 148.30599999999998 0.306 が特殊な数 ?以上は何も考えないと、結構不思議な結果。 bc を使って 0.306 ってどのような数か確める ttyp2:makoto@st4200 19:44:28/060419(~)> bc ibase = 2 0.010011100101011000000100000110001001001101 .305999999999812644091434776782989501953125上の入力は 48 bit くらい。 でも、次はどう説明する ? (+ 0.1 0.206) 0.306次のようにする方が簡単か。 ttyp3:makoto@st4200 5:59:16/060420(~)> bc obase = 2 0.306 .0100111001 ( つっこみ )
|
最近の日記 2025年02月13日 ・dvipdfmx ICC profile format spec. version 4.3.0 2025年01月29日 ・ham/wsjtx 2025年01月27日 ・wip/wsjtx 5.4.2 2025年01月25日 ・ham/wsjtx 2025年01月15日 ・今更 advent calendar | ||