数学ナビゲーター掲示板
(現在 過去ログ4 を表示中)

HOME HELP 新規作成 新着記事 トピック表示 発言ランク ファイル一覧 検索 過去ログ

[ 最新記事及び返信フォームをトピックトップへ ]

■37290 / inTopicNo.1)  浮動小数点
  
□投稿者/ 海 一般人(1回)-(2009/01/05(Mon) 20:25:38)
    浮動小数点計算で5桁まで求める計算があるのですが次の問題がよくわかりません。

    6.001*2.5*10^3

    これの答えって15002.5で四捨五入して15003ですよね?
    でも教科書見ると15002になっていました。
    四捨五入はしないのですか?
引用返信/返信 [メール受信/OFF] 削除キー/



トピック内ページ移動 / << 0 >>

このトピックに書きこむ

過去ログには書き込み不可

Mode/  Pass/

HOME HELP 新規作成 新着記事 トピック表示 発言ランク ファイル一覧 検索 過去ログ

- Child Tree -
Edit By 数学ナビゲーター