-
2通りの進数2進数
-
8通りの進数8進数
-
16通りの進数16進数
-
8ビットをバイトで表す。1バイト
-
N^N-1,N^2,N^1,N^0 .(小数点) N^-1,N^-2,N^-N より重みをかけると10進数に変換可能小数点の進数
-
2進数を反転、その桁数の最大値1の補数
-
2進数を反転して(+1)、桁が繰り上がる最大値2の補数
-
足すと桁が1つ上がる数のうち最も小さい数基数の補数
-
ビット列のどの位置に小数点があるかを暗黙的に了解として扱う表現です。固定小数点
-
0 ~ 2^n - 1固定小数点(符号なし)
-
- 2^(n - 1) ~ 2^(n - 1) - 1固定小数点(符号あり)
-
指数部と仮数部を用いた指数表記浮動小数点
-
±符号
-
0.25仮数
-
10基数
-
^-3指数
-
より多くの有効桁を多くとれるようにと小数点位置を調整して、仮数部の最上位桁を0以外の数値にする作業正規化
-
符号=S=1ビット、指数部=E=7ビット、仮数部=M=24ビット32ビット形式の浮動小数点
-
符号=S=1ビット、指数部=E=8ビット、仮数部=M=23ビットIEEE754という浮動小数点形式
-
符号を考慮せずに行うシフト論理シフト
-
2^n倍左論理シフト
-
1/2^n倍右論理シフト
-
シフト演算のうち、符号を考慮して行うシフト操作算術シフト
-
あらわせる数の限界を越えてしまう現象あふれ(オーバーフロー)
-
「1」がはみ出した場合、オーバーフロー左論理シフトのあふれ
-
符号ビットとことなる数がはみ出した場合、オーバーフロー左算術シフトのあふれ
-
割り切れるときは「0」、割り切れない場合はその余りがはみ出してくる。割り算した結果のあまり。右シフトのはみ出し
-
有限の桁数であらわすことのできる数有限小数
-
有限の桁数で表すことができない数無限小数
-
同じ数が延々繰り返される数循環小数
-
直線状で0を基準にどれだけ離れているかの距離絶対値
-
演算した結果が、コンピュータの扱える最大値や最小値を越えることによって生じる誤差けたあふれ誤差
-
最小値を越える事アンダーフロー
-
最大値を超える事オーバーフロー
-
表現できる桁数を越えてしまったが為に、最小桁より小さい部分について、四捨五入や切り上げ、切り捨てなどを行うことによって生じる誤差丸め誤差
-
計算処理を、完了するまで待たずに途中で打ち切る事によって生じる誤差打切り誤差
-
絶対値がほぼ等しい数値の差を求めた時に、有効なけた数がおおきるなることによって生じる誤差けた落ち
-
絶対値の大きな値と絶対値の小さな値の加減算を行ったときに、絶対値の小さな値が計算結果に反映されないことによって生じる誤差情報落ち
-
集合に属するひとつひとつの事。要素
-
ある集合に含まれる集合部分集合
-
要素が0で何も含まれない集合空集合
-
2つある集合の、両方に合致する集合「AかつB」∧(積集合)
-
2つある集合の、いずれかに合致する集合です。2つの集合を合わせたもの、集合の足し算と言えます。「AまたはB」∨(和集合)
-
集合の否定を指す集合です。「Aではない」ー(補集合)
-
2つある集合の、片方からもう片方に合致する要素を除いた集合です。「AだけれどもBではない」AーB(差集合)
-
2つある集合の、いずれかに合致する集合から、両方に合致する集合を除いた集合。「AまたはBだけれどもAB両方ではない」△(対象差集合)
-
ド・モルガンの法則
-
XOR ⊕排他的論理和
-
各条件に対する真偽値と、それに対する演算結果をまとめた表真理値表
-
0 0 = 0 , 0 1 = 0 , 1 0 = 0 , 1 1 = 1 ,論理積(AND)
-
0 0 = 0 , 0 1 = 1 , 1 0 = 1 , 1 1 = 1 ,論理和(OR)
-
0 0 = 0 , 0 1 = 1 , 1 0 = 1 , 1 1 = 0 ,排他的論理和(XOR)
-
論理式において、各校の論理変数がとり得る値を表にまとめて視覚化したもの。カルノー図法
-
Aというブール演算とBというブール演算があるとする。あるオペランドに対してAという演算の結果が同じオペランドに対するBという演算に対して否定の関係である場合、AとB相補演算
-
割る数(3)より、割られる数(1)が小さい場合は答えは0になり、あまりは割られる数(1)になります。0...1
-
割る数(5)より、割られる数(3)が小さい場合は答えは0になり、あまりは割られる数(3)になります。0...3
-
割る数(5)より、割られる数(256)が小さい場合は答えは0になり、あまりは割られる数(256)になります。0...256
ログイン