|
Namazu for hns による簡易全文検索 詳しくは 詳細指定/ヘルプを参照して下さい |
||||||||||||||||||||||||||||||||||||||||||||||||||
2006年04月19日(水) 旧暦 [n年日記] [更新:"2006/04/20 07:37:45"]#1 [Emacs] lisp で足算(+ 62.106 186.2) 248.30599999999998 (+ 62.106 186.1) 248.206 (+ 62.106 186.0) 248.106 (+ 62.206 186.1) 248.30599999999998 (+ 248.0 0.306) 248.306 (+ 61.106 187.2) 248.30599999999998 (+ 248.106 0.2) 248.30599999999998 (+ 248.01 0.296) 248.30599999999998 (+ 248.1 0.206) 248.30599999999998 (+ 62.106 186.3) 248.406 (+ 148.1 0.206) 148.30599999999998 0.306 が特殊な数 ?以上は何も考えないと、結構不思議な結果。 bc を使って 0.306 ってどのような数か確める ttyp2:makoto@st4200 19:44:28/060419(~)> bc ibase = 2 0.010011100101011000000100000110001001001101 .305999999999812644091434776782989501953125上の入力は 48 bit くらい。 でも、次はどう説明する ? (+ 0.1 0.206) 0.306次のようにする方が簡単か。 ttyp3:makoto@st4200 5:59:16/060420(~)> bc obase = 2 0.306 .0100111001 ( つっこみ )
|
最近の日記 2024年07月03日 ・kicad oddity 2024年05月08日 ・comparison on ./buildsh tools 2024年05月06日 ・py-setuptools (python 3.11.9) ・make release took 1 hours and 10 min ・qemu invocation for 10.99.10 2024年05月05日 ・Windows 10 version ・serial connection ・bc bench 2024年05月04日 ・Trial on 10.99.10 ・another version (later trial) to succeed | ||