-
2通りの進数
2進数
-
8通りの進数
8進数
-
16通りの進数
16進数
-
8ビットをバイトで表す。
1バイト
-
N^N-1,N^2,N^1,N^0 .(小数点) N^-1,N^-2,N^-N より重みをかけると10進数に変換可能
小数点の進数
-
2進数を反転、その桁数の最大値
1の補数
-
2進数を反転して(+1)、桁が繰り上がる最大値
2の補数
-
足すと桁が1つ上がる数のうち最も小さい数
基数の補数
-
ビット列のどの位置に小数点があるかを暗黙的に了解として扱う表現です。
固定小数点
-
0 ~ 2^n - 1
固定小数点(符号なし)
-
- 2^(n - 1) ~ 2^(n - 1) - 1
固定小数点(符号あり)
-
指数部と仮数部を用いた指数表記
浮動小数点
-
±
符号
-
0.25
仮数
-
10
基数
-
^-3
指数
-
より多くの有効桁を多くとれるようにと小数点位置を調整して、仮数部の最上位桁を0以外の数値にする作業
正規化
-
符号=S=1ビット、指数部=E=7ビット、仮数部=M=24ビット
32ビット形式の浮動小数点
-
符号=S=1ビット、指数部=E=8ビット、仮数部=M=23ビット
IEEE754という浮動小数点形式
-
符号を考慮せずに行うシフト
論理シフト
-
2^n倍
左論理シフト
-
1/2^n倍
右論理シフト
-
シフト演算のうち、符号を考慮して行うシフト操作
算術シフト
-
あらわせる数の限界を越えてしまう現象
あふれ(オーバーフロー)
-
「1」がはみ出した場合、オーバーフロー
左論理シフトのあふれ
-
符号ビットとことなる数がはみ出した場合、オーバーフロー
左算術シフトのあふれ
-
割り切れるときは「0」、割り切れない場合はその余りがはみ出してくる。割り算した結果のあまり。
右シフトのはみ出し
-
有限の桁数であらわすことのできる数
有限小数
-
有限の桁数で表すことができない数
無限小数
-
同じ数が延々繰り返される数
循環小数
-
直線状で0を基準にどれだけ離れているかの距離
絶対値
-
演算した結果が、コンピュータの扱える最大値や最小値を越えることによって生じる誤差
けたあふれ誤差
-
最小値を越える事
アンダーフロー
-
最大値を超える事
オーバーフロー
-
表現できる桁数を越えてしまったが為に、最小桁より小さい部分について、四捨五入や切り上げ、切り捨てなどを行うことによって生じる誤差
丸め誤差
-
計算処理を、完了するまで待たずに途中で打ち切る事によって生じる誤差
打切り誤差
-
絶対値がほぼ等しい数値の差を求めた時に、有効なけた数がおおきるなることによって生じる誤差
けた落ち
-
絶対値の大きな値と絶対値の小さな値の加減算を行ったときに、絶対値の小さな値が計算結果に反映されないことによって生じる誤差
情報落ち
-
集合に属するひとつひとつの事。
要素
-
ある集合に含まれる集合
部分集合
-
要素が0で何も含まれない集合
空集合
-
2つある集合の、両方に合致する集合「AかつB」
∧(積集合)
-
2つある集合の、いずれかに合致する集合です。2つの集合を合わせたもの、集合の足し算と言えます。「AまたはB」
∨(和集合)
-
集合の否定を指す集合です。「Aではない」
ー(補集合)
-
2つある集合の、片方からもう片方に合致する要素を除いた集合です。「AだけれどもBではない」
AーB(差集合)
-
2つある集合の、いずれかに合致する集合から、両方に合致する集合を除いた集合。「AまたはBだけれどもAB両方ではない」
△(対象差集合)
-
ド・モルガンの法則
-
XOR ⊕
排他的論理和
-
各条件に対する真偽値と、それに対する演算結果をまとめた表
真理値表
-
0 0 = 0 , 0 1 = 0 , 1 0 = 0 , 1 1 = 1 ,
論理積(AND)
-
0 0 = 0 , 0 1 = 1 , 1 0 = 1 , 1 1 = 1 ,
論理和(OR)
-
0 0 = 0 , 0 1 = 1 , 1 0 = 1 , 1 1 = 0 ,
排他的論理和(XOR)
-
論理式において、各校の論理変数がとり得る値を表にまとめて視覚化したもの。
カルノー図法
-
Aというブール演算とBというブール演算があるとする。あるオペランドに対してAという演算の結果が同じオペランドに対するBという演算に対して否定の関係である場合、AとB
相補演算
-
割る数(3)より、割られる数(1)が小さい場合は答えは0になり、あまりは割られる数(1)になります。
0...1
-
割る数(5)より、割られる数(3)が小さい場合は答えは0になり、あまりは割られる数(3)になります。
0...3
-
割る数(5)より、割られる数(256)が小さい場合は答えは0になり、あまりは割られる数(256)になります。
0...256
-
基礎理論(離散数学)