1. 離散数学 3. 算術演算と精度 1. 表現可能な数値の範囲 1.1 8bit(符号なし整数) 8bitを2進数で表現すると \(0000\) \(0000\) 〜 \(1111\) \(1111\) が表現可能となります。 これを10進数で表現すると \(0\) 〜 ... 2023.09.22 1. 離散数学
1. 離散数学 2. 数値の表現 1. 負の数 負の数の表現方式には 絶対値表現 補数表現 の2種類があります。 1.1 絶対値表現 絶対値表現は、負の数を表す方法の一つです。この方法では、数の絶対値とその符号を別々に表します。 例えば、8ビットの数を考えてみましょう。... 2023.09.22 1. 離散数学
1. 離散数学 1. 基数 1 基数と進数 1.1 基数と進数制度 進数制度において、「基数」はその数制度の「基本となる数」をさします。この「基数」が、各桁での値の計算に用いられ、その進数制度の「精度」や「表現範囲」に影響を与えます。 例えば、10進数の場合、基数... 2023.09.14 1. 離散数学
IT用語研究室 補数とは何か 補数の定義 まず補数(と関係する数)の定義をJISで確認してみましょう。 補数(complement)は、「与えられた数を、ある決められた数から引くことによって得られる数」(JIS X0005)です。 基数の補数(radix comp... 2023.09.07 IT用語研究室
技術解説 2進数の理解が必要 2進数がはじまり 電子的なマシンと情報交換をするためには電子的信号を送る必要があります。 その最も基本となる信号はオン(on)かオフ(off)かで表現します。これは0と1で表現され、2進数(binary number)とよびます。 個... 2023.09.03 技術解説
IT用語研究室 BCD BCDとは BCDは、Binary-Coded Decimalの略で、10進数を2進数で表す方法の一つです。通常、10進数の各桁は、0から9までの10種類の数字で表されますが、BCDでは、各10進数の桁を4ビットの2進数で表します。 例... 2023.09.03 IT用語研究室
IT用語研究室 ASCII ASCIIとは ASCII(アメリカ標準情報交換コード:American Standard Code for Information Interchange)は、コンピューターと通信デバイスで文字を表現するための標準的な文字エンコーディン... 2023.09.02 IT用語研究室
IT用語研究室 EBCDIC EBCDICとは EBCDIC (Extended Binary Coded Decimal Interchange Code) は、IBMが1960年代に開発した8ビットの文字コードです。このコードは、IBMのメインフレームやミッドレン... 2023.09.02 IT用語研究室
技術解説 丸め誤差と打ち切り誤差の違いを理解する 丸め誤差と打ち切り誤差について先生と確認しながら理解を深めていきましょう。 生徒 丸め誤差と打ち切り誤差の違いについて詳しく教えていただけないでしょうか? 先生 丸め誤差と打ち切り誤差は、数値計算における誤差の一種で、それぞれ異なる原因と特... 2023.08.25 技術解説