ようこそ ゲスト さん、新規登録（無料）して気になる疑問を解決しませんか？
はじめての方へ｜ヘルプ｜FAQ

質問
質問者：taka198810 Dを含む数値について
困り度：
  • すぐに回答を！
 統計ソフトtspを使って計算した結果で
-4.76837D-07
といった数値が出てきました
-07はおそらく10の-7乗という意味なのではと思っているのですが、Dの意味がわからないこともあり、はっきりしません
どなたかご教授の程よろしくお願いします
質問投稿日時：08/05/05 00:05
質問番号：3998082
この質問に対する回答は締め切られました。
最新から表示｜回答順に表示｜良回答のみ表示

回答

良回答20pt
回答者：at9_am 和合・伴『TSPによる経済データの分析』
のP227によれば

3.数値に関するルール
(d)1つのDまたはEがその後ろに符号のある、またはない1桁または2桁の整数値を伴って現れても良い。これは10を底とする指数表現です。例：1E2=100

です。
種類：回答
どんな人：一般人
自信：参考意見
回答日時：08/05/06 06:43
回答番号：No.2
この回答へのお礼ありがとうございます
その本も探して参考にしたいと思います

回答

良回答10pt
回答者：oldperson 倍精度浮動小数点数(double precision)の意味。
単精度の場合はEを使用。
種類：アドバイス
どんな人：一般人
自信：参考意見
回答日時：08/05/05 17:29
回答番号：No.1
この回答への補足早速の回答ありがとうございます
倍数度浮動小数点数のことについて調べたのですが、64ビットがどうこうというコンピューターのプログラミング関係の説明しかでてこないためいまいち読み方がわかりません
単純に
-4.76837D-07
はどのように読めばいいのでしょうか？
また、よろしければ64ビットどうこうについて噛み砕いて説明していただけないでしょうか？
この回答へのお礼この回答にお礼をつける(質問者のみ)
 
最新から表示｜回答順に表示｜良回答のみ表示
このページのトップへ