10進数0.857を16進数に変換すると何?
■ このスレッドは過去ログ倉庫に格納されています
D × 16^(-1) + 7 × 16^(-2) + 0 × 16^(-3) + A × 16^(-4) + 3 × 16^(-5) = 13 × 16^(-1) + 7 × 16^(-2) + 0 × 16^(-3) + 10 × 16^(-4) + 3 × 16^(-5)
≈ 13/16 + 7/256 + 0 + 10/65536 + 3/1048576
≈ 0.8125 + 0.02734375 + 0.00015258789
≈ 0.84088134766 ■ このスレッドは過去ログ倉庫に格納されています