부호 비트는 0이면 양수, 1이면 음수입니다. 지수부는 실제 지수에 편향값(127)을 더해 저장해 음수 지수도 양수로 표현합니다. 가수부는 소수점 이하 자릿수를 저장하며, 정규화된 수는 맨 앞 1비트가 항상 1이어서 생략(hidden bit)합니다. 덕분에 23비트로 실질적으로 24비트 정밀도를 얻습니다.

예를 들어 13.5를 64비트 double로 저장하면:

• 13.5 = 1101.1(이진수) = 1.1011 × 2³
• 부호: 0 (양수)
• 지수: 3 + 1023(편향) = 1026 = 10000000010(이진수)
• 가수: 1011 뒤에 0을 채워 52비트

이진수로 정확히 표현되는 소수는 0.5, 0.25, 0.125처럼 2의 음수 거듭제곱으로 딱 떨어지는 수뿐입니다. 0.1은 이진수로 0.0001100110011...처럼 무한 반복이라 잘라서 저장합니다.

Python에서 확인하면:

>>> 0.1 + 0.2
0.30000000000000004
>>> 0.1 + 0.2 == 0.3
False

0.1은 실제로 0.1000000000000000055511151231257827021181583404541015625로 저장됩니다. 두 근삿값의 합이 0.3의 근삿값과 다릅니다.

해결 방법은 목적에 따라 다릅니다. 비교할 때는 epsilon(허용 오차)을 써서 차이가 충분히 작으면 같다고 봅니다. 돈 계산처럼 정확도가 중요하면 Python의 decimal 모듈이나 정수 연산(원 단위를 정수로)을 씁니다.

from decimal import Decimal
Decimal('0.1') + Decimal('0.2')  # Decimal('0.3')
 
# 또는 epsilon 비교
abs(0.1 + 0.2 - 0.3) < 1e-9  # True

정수의 오버플로우는 숫자가 갑자기 음수로 바뀌지만, 부동소수점은 Inf(무한대)나 NaN(Not a Number)으로 처리됩니다. 계산이 이어져도 Inf나 NaN이 전파됩니다.

>>> float('inf') + 1
inf
>>> float('inf') - float('inf')
nan
>>> 0.0 / 0.0
# ZeroDivisionError (Python은 예외 처리)

언더플로우는 매우 작은 수를 계산할 때 정밀도가 0까지 줄어드는 현상입니다. 딥러닝에서 gradient가 너무 작아지면 언더플로우로 학습이 멈추는 문제가 생기는데, 이를 vanishing gradient라고 합니다. mixed precision training(float16/bfloat16)이나 gradient clipping으로 완화합니다.

a = 0.1 + 0.2
b = 0.3
 
# 잘못된 비교
a == b  # False
 
# 올바른 비교
abs(a - b) < 1e-9  # True
 
# Python 내장
import math
math.isclose(a, b)  # True

math.isclose는 상대 오차와 절대 오차를 모두 고려합니다. 두 수의 크기가 크면 허용 오차도 커지고, 0에 가까울 때는 절대 오차를 씁니다.

1 Byte짜리 실수는 없습니다. IEEE 754 최소 단위는 16비트(반정밀도)입니다. 면접에서 "1 Byte 실수 두 개를 비교하라"고 하면 정수나 고정소수점 표현으로 보고 비트 패턴을 직접 비교하거나 epsilon 방식으로 접근하면 됩니다.