X



10進数0.857を16進数に変換すると何?
■ このスレッドは過去ログ倉庫に格納されています
0001風吹けば名無し
垢版 |
2023/07/21(金) 14:03:39.35ID:pX/OANWRp
おしえて
0002風吹けば名無し
垢版 |
2023/07/21(金) 14:05:10.25ID:a56fL4Xza
0.D70A3
0003風吹けば名無し
垢版 |
2023/07/21(金) 14:07:40.18ID:pX/OANWRp
>>2
どうやって計算したの
0004風吹けば名無し
垢版 |
2023/07/21(金) 14:09:13.36ID:ku+qXb2l0
夏休みやな
答えは0.721やで
0005風吹けば名無し
垢版 |
2023/07/21(金) 14:10:26.43ID:RAzSD2Qr0
0.8101919やで
0006風吹けば名無し
垢版 |
2023/07/21(金) 14:13:32.82ID:DNmbEGdUd
(0.1)10=(0.0625)16
0007風吹けば名無し
垢版 |
2023/07/21(金) 14:13:44.46ID:a56fL4Xza
D × 16^(-1) + 7 × 16^(-2) + 0 × 16^(-3) + A × 16^(-4) + 3 × 16^(-5) = 13 × 16^(-1) + 7 × 16^(-2) + 0 × 16^(-3) + 10 × 16^(-4) + 3 × 16^(-5)
≈ 13/16 + 7/256 + 0 + 10/65536 + 3/1048576
≈ 0.8125 + 0.02734375 + 0.00015258789
≈ 0.84088134766
0008風吹けば名無し
垢版 |
2023/07/21(金) 14:14:06.57ID:seGHUwej0
とりま16
0009風吹けば名無し
垢版 |
2023/07/21(金) 14:15:26.79ID:DNmbEGdUd
関数電卓使えばよくね?
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況