샘플링·양자화·부호화

1. 개요

샘플링·양자화·부호화는 시간과 크기가 연속적인 아날로그 신호를 0과 1로 저장할 수 있는 디지털 정보로 바꾸는 세 단계다. 샘플링은 ‘언제 측정할지’, 양자화는 ‘어느 크기 단계로 나타낼지’, 부호화는 ‘그 단계를 어떤 비트열로 쓸지’를 정한다. 각 단계를 많이·촘촘하게 할수록 원 신호를 세밀하게 나타낼 수 있지만 데이터량도 커진다.

2. 상세

2.1. 시간축을 고르는 샘플링

아날로그 신호는 모든 시점에서 연속적으로 달라진다. 디지털 장치는 무한히 많은 시점을 저장할 수 없으므로 일정한 간격으로 신호의 크기를 읽는다. 이때 측정한 한 점이 표본이고, 단위 시간에 표본을 뽑는 횟수가 샘플링률이다.¹

간격이 짧으면 빠른 변화까지 더 많이 포착하지만 같은 시간 동안 저장할 표본 수도 늘어난다. 간격이 너무 길면 측정 사이에서 일어난 변화를 놓쳐 서로 다른 원 신호가 비슷한 표본열로 나타날 수 있다.² 따라서 신호 변화 속도와 필요한 재현 수준을 고려해 샘플링 조건을 정한다.

2.2. 크기축을 나누는 양자화

샘플링한 값도 높이가 연속적인 실수일 수 있다. 양자화는 가능한 크기 범위를 여러 구간으로 나누고 각 표본을 가까운 대표 단계에 대응시킨다. 실제 높이와 선택된 단계 사이에는 양자화 오차가 생긴다.³

단계 수가 많으면 오차를 작게 만들 수 있지만 각 단계를 구별할 더 많은 비트가 필요하다. 예를 들어 2비트는 네 단계, 3비트는 여덟 단계를 표현할 수 있다. 이 관계는 이진수와 정보 표현의 n비트 → 2ⁿ개 상태 원리와 같다.

2.3. 비트열로 쓰는 부호화

부호화는 양자화된 각 단계에 0과 1의 조합을 부여한다. 수신자가 어디까지가 한 코드인지 혼동하지 않고 각 단계를 되찾을 수 있도록 코드 규칙을 정해야 한다.⁴ 전송 중 오류를 찾아내거나 고치려면 원 정보 외에 검사 비트를 덧붙일 수 있으며, 이는 데이터량을 늘리는 대신 복원 가능성을 높인다.

데이터 압축은 이렇게 얻은 비트열의 중복이나 덜 중요한 정보를 줄이는 후속 처리와 연결된다. 그러나 압축과 디지털 변환은 같은 단계가 아니다. 샘플링·양자화·부호화가 표현 형식을 만들고, 압축은 그 표현을 더 적은 데이터로 다루려 한다.

2.4. 세 축의 trade-off

총 데이터량은 대체로 초당 표본 수, 표본 하나를 나타내는 비트 수, 기록 시간과 함께 커진다. 샘플링률을 올리면 시간 방향이, 양자화 비트를 늘리면 크기 방향이 세밀해진다.⁵ 둘을 구분해야 어떤 조건 변화가 어떤 오차와 데이터량에 영향을 주는지 판단할 수 있다.

3. 수능에서는 이렇게 나온다

디지털 변환 지문에서는 시간축과 크기축을 따로 표시한다. 표본 간격을 줄였다는 조건은 샘플링 수 증가와 관련되고, 양자화 구간을 늘렸다는 조건은 한 표본의 표현 단계 증가와 관련된다. 그 뒤 단계 번호를 비트열로 바꾸는 것이 부호화다.

조건 적용 문제에서는 한 요소만 변했다고 가정한 뒤 방향을 추적한다. 기록 시간이 같을 때 샘플링률이 커지면 표본 수가 늘고, 단계 수가 커지면 필요한 비트 수가 늘 수 있다. 더 세밀한 디지털 표현이 원 신호 자체를 바꾸거나 오차를 언제나 0으로 만든다고 해석하지 않는다.

4. 헷갈리기 쉬운 것들

단계	이산화하는 축	결과
샘플링	시간	측정할 시점들의 열
양자화	크기	각 표본이 속한 대표 단계
부호화	표현 기호	단계 번호에 대응하는 비트열
오류 제어 부호	전송 신뢰성	검사·복원용 추가 비트
압축	데이터의 중복·중요도	저장·전송량을 줄인 표현

5. 관련 개념

• 이진수와 정보 표현 — 비트 수와 표현 가능한 양자화 단계 수를 연결한다.
• 데이터 압축 — 만들어진 디지털 비트열의 저장·전송 부담을 줄인다.
• 데이터 무결성 검증 — 전송 뒤 비트열이 달라졌는지 검사한다.
• 가상현실(VR) — 연속적인 움직임과 감각을 디지털 값으로 측정해 처리한다.

각주

1. 샘플링은 신호의 시간축을 이산화하며 측정값의 높이를 단계로 바꾸지는 않는다. ↩

2. 저장된 표본만으로는 표본 사이의 모든 실제 변화를 자동으로 알 수 없다. ↩

3. 양자화 오차는 실제 표본값과 선택된 대표값의 차이다. ↩

4. 부호 규칙은 서로 다른 단계가 같은 비트열로 해석되지 않도록 구별 가능해야 한다. ↩

5. 시간 정밀도와 크기 정밀도는 서로 다른 축이며 모두 데이터량과 trade-off를 만든다. ↩