[정보처리산업기사] 부동 소수점 수의 연산 방법

2019. 4. 8. 22:00IT

덧셈, 뺼셈

<문제> 0.652 * 10^4 + 0.2134 * 10^2

 

-> 지수가 작은 쪽 보다 큰 쪽에 맞춰야함.

sol)

 

1. 0인지 판별

2. 지수의 비교, 소수점 이동

0.652 * 10^4 + 0.002134 * 10^4

 

3. 0.652 * 10^4 + 0.002134 * 10^4 = 0.654134 * 10^4

 

4. 정규화

 

곱셈

<문제> (0.36*10^5) * (0.14*10^3)을 계산하시오

 

1. 0인지 판별

2. 지수 더하기 10^5 + 10^3 = 10^8

3. 가수 곱하기 0.36 * 0.14 = 0.0504

4. 정규화 0.0504 * 10^8 -> 0.504 * 10^9

 

나눗셈

<문제> (0.36*10^5) * (0.16*10^3)을 계산하시오.

 

1. 0인지 판별

2. 지수 (0.036 * 10^6) / (0.16&10^3)

3. 지수의 뺄셈 10^6 - 3 = 10^3

4. 가수의 나눗셈 0.036/0.16 = 0.225

5. 0.225 * 10^3