[정보처리산업기사] 부동 소수점 수의 연산 방법
2019. 4. 8. 22:00ㆍIT
덧셈, 뺼셈
<문제> 0.652 * 10^4 + 0.2134 * 10^2
-> 지수가 작은 쪽 보다 큰 쪽에 맞춰야함.
sol)
1. 0인지 판별
2. 지수의 비교, 소수점 이동
0.652 * 10^4 + 0.002134 * 10^4
3. 0.652 * 10^4 + 0.002134 * 10^4 = 0.654134 * 10^4
4. 정규화
곱셈
<문제> (0.36*10^5) * (0.14*10^3)을 계산하시오
1. 0인지 판별
2. 지수 더하기 10^5 + 10^3 = 10^8
3. 가수 곱하기 0.36 * 0.14 = 0.0504
4. 정규화 0.0504 * 10^8 -> 0.504 * 10^9
나눗셈
<문제> (0.36*10^5) * (0.16*10^3)을 계산하시오.
1. 0인지 판별
2. 지수 (0.036 * 10^6) / (0.16&10^3)
3. 지수의 뺄셈 10^6 - 3 = 10^3
4. 가수의 나눗셈 0.036/0.16 = 0.225
5. 0.225 * 10^3
'IT' 카테고리의 다른 글
[정보처리산업기사] 명령어의 구성 (0) | 2019.04.09 |
---|---|
[정보처리산업기사] 자료 표현 코드(BCD 코드) (0) | 2019.04.08 |
[VirtuallBox] window10 해상도 적용하기 (0) | 2019.03.26 |
[주요 정렬 알고리즘의 이해] 정보처리산업기사 자격증 (0) | 2019.03.20 |
[트리 운헹법] 정보처리 산업기사 (0) | 2019.03.19 |