-
各桁の重み付けの基本となる数基数
-
ある進数で表現された数値を別の進数で表現すること奇数変換
-
2進数から8進数、2進数から16進数への奇数変換8進数は3桁、16進数は4桁で区切り変換する
-
小数点の位置を決められた場所に固定して表現する形式固定小数点
-
連立方程式を行列で解く場合の基本操作3つ①ある行にゼロでない数をかける②ある行に他の行の定数倍をかける③ある行と他の行を入れ替える
-
行と列が同じ数になっている行列正方行列
-
左上からの対角線の成分が１、それ以外の成分がゼロである正方行列単位行列
-
線形代数における縦のまとまりと横のまとまりの名称横＝行、縦＝列
-
行列同士の乗算の方法行と列ごとに掛け算してその和を出す
-
線形代数における大きさを表す数値スカラー
-
数値を縦または横に一列に並べたものベクトル
-
ベクトルを構成する要素一つ一つ成分
-
10進数を2進数に変換する際、有限桁数で表せない場合の呼び方無限小数
-
補数の活用方法減算処理の際に負数を表すために用いる
-
nの補数、n−1の補数の作り方n−1の補数はビットを反転する、nの補数はn−1の補数に1を加える
-
固定小数点の欠点大きな数は表せない
-
小数部分を含む実数を扱う場合に使用する形式浮動小数点
-
浮動小数点における桁移動正規化
-
浮動小数点の形式 32ビットのものIEEE754
-
実際の数値に一定の数値を加えることバイアス
-
演算結果が、コンピューターの表現できる範囲を超えることで発生する誤差桁あふれ誤差
-
演算結果がコンピューターの表現できる範囲を超えることオーバフロー
-
浮動小数点において演算結果が限りなくゼロに近づいて表現できなくなることアンダフロー
-
演算結果を切捨て、切り上げ、四捨五入することによって発生する誤差丸め誤差
-
絶対値がほぼ等しい数値の間で、同符号の減算や異符号の加算をしたときに有効桁数が減ることで発生する誤差桁落ち誤差
ログイン
オンライン単語帳
このページを利用するにはログインする必要があります。ログインするとAnkilotをより便利にご利用いただけます。