lacknumber 2023年05月13日 カード10 いいね0
広告

単語カード

  • 123.45を1.2345×10²のように表す表現方法

    浮動小数点表現

  • 1.2345の部分のこと

    仮数部

  • ²の部分

    指数部

  • コンピュータが扱える最大の桁数

    有効桁数

  • 絶対値が大きく異なる2数の加減算の際に、有効桁数の制限により数値の下桁の情報が失われるために起こること

    情報落ち

  • 非常に近い数値の減算を行った場合に、有効桁数の制限により数値の下桁の情報が失われるために起こること

    桁落ち

  • 2点の中点を次々計算することにより、正しい値を求めていく手法。

    二分法

  • 問題を解く手順を正確に示したもの

    アルゴリズム

  • 使い回しされるひとかたまりの処理のこと

    サブルーチン(副プログラム)

  • サブルーチンを利用するおおもとのプログラム

    メインプログラム(主プログラム)

広告

コメント