2000년 12월, 연세대학교 전기전자공학부 송홍엽
본 논문에서는 정보이론 혹은 수학적 통신이론의 관점에서 디지털 통신이론에 대한 범위와 고전적인 기본 개념을 소개한다. 디지털 통신 모뎀의 기본적인 블록도와 구성요소에 대해서 설명한다. 마지막으로, 디지털 통신이론 혹은 정보통신 분야와 정보화 혹은 정보기술에서 다루는 정보에 대한 개념적 차이점을 논한다. 디지털 통신이론을 공부하는 많은 전기전자공학도와 관련 연구분야 종사자에게 도움이 되길 바란다.
Copyright @ Hong-Yeop Song 2001 "No part
of this document can be reproduced, reposted, and recaptured without permission
from the author.
본 논문은 개인적인 목적으로만 카피/다운로드 가능합니다. 수업목적으로 사용하기 위해서는 반드시 공식적인 허락을 받아야 합니다. - 송홍엽 hysong@yonsei.ac.kr
III. Channel Encoding/Decoding
IV. Digital Modulation/Demodulation
디지털 통신이론은 그 분야가 너무 광범위하여 이를 이해하는 개념이 조금 혼란스러운 것이 사실이다. 인터넷의 콘텐츠를 다루는 분야도 정보통신의 분야이고 이동전화기의 프로세서 칩을 설계하는 하드웨어 엔지니어도 정보통신분야에 종사한다고 한다. 본 논문에서는 그림 1의 블록도를 기준으로 디지털통신이론과 디지털 통신시스템 관련 분야를 정보이론의 관점에서 정리하고자 한다.[3,5,13,15] 또한, 정보화 혹은 정보기술과 디지털 통신이론 혹은 정보통신에서 다루는 "정보"에 대한 개념적 차이점을 논한다.
그림 1. Basic Block Diagram of Digital Communication Modem
디지털 통신 시스템의 송신기는 신호를 받아들여 첫째 블록의 원천부호화기(Source Encoder)에 입력한다. 여기에서는 기본적으로 포맷팅(Formatting)과 압축(Compression)이 행해진다. 보내고자 하는 신호가 아날로그 신호이면 샘플링과 PCM을 거쳐서 디지털 비트열(bit stream)로 변형되고, 압축과정을 거쳐서 정보의 중복성(Redundancy)을 제거한다. 다시 말하면 A/D 변환과 압축이 일어나는 곳이다. 보내고자 하는 신호가 원천적으로 디지털 비트열이면 압축만 행해진다. 기본적으로 압축을 반드시 해야 하는 건 아니다. 음성신호나 영상신호는 이를 PCM방식을 사용하여 비트열로 변환하면 쓸데없는 부분이 많이 존재한다. 그래서 포맷팅과 압축이 순서대로 행해지는 것이 아니라 대개는 동시에 복합적으로 수행된다. JPEG, MPEG, vocoder, MP3 등의 기술이 이를 수행하는 기술이다.
예를 들어 Run-length encoding이 있다. 흰색과 검정 색으로 이루어진 영상신호에서 흰색의 면적이 거의 대부분이고 검정 색의 면적이 아주 작다면 매 화소(pixel)마다 독립적인 비트로 변환시키기보다, 흰색의 연속적인 출현의 길이만을 표시해도 나중에 완벽하게 복구해낼 수 있다. 예를 들어 송신하고자 하는 영상신호가 100,000개의 화소로 이루어졌고, 흰색은 0으로 검정 색은 1로 표현한다고 가정하자. 그러면 약 100,000개 정도의 화소를 표현하는데 약 100,000개 비트를 처리해야한다. 만일 평균적인 특성이 화소 1,000개에 검정색 화소는 한 개씩 있다고 가정하자. 나머지는 흰색 화소이다. 그러면 Run-length encoding에서는 연속적인 흰색화소의 길이(run)를 숫자로 표현한다. 길이는 평균적으로 1,000일 것이고 길어야 10,000을 넘기기 힘들 것이므로 기껏해야 15 비트 정도면 충분해지는데, 흰색 화소의 길이를 표시하는데 13 비트를 사용하고 나머지 2개 비트는 검정 색 화소의 길이를 표현하는데 사용하자. 수신기에서는 매 15 비트 씩 끊어서 읽은 후, 앞의 13 비트가 지정하는 길이 만큼의 흰색 화소를, 뒤의 2 비트가 지정하는 만큼의 검정색 화소를 채워 넣으면 완벽한 복구가 가능하다. 확률적인 가정이 그러하므로 위의 bit 수로 모자라는 경우엔 적절히 끊어서 처리 가능하며, 대략적으로 1,000대 15 정도의 압축효과를 얻는다. 이러한 방식의 예를 그림 2에 표시한다.
그림 2. Run-length Encoding
압축방식에는 무손실(lossless) 압축과 손실(lossy) 압축이 있다. 전자의 경우는 한 개의 bit라도 어긋남 없이 입력신호를 그대로 복원해낼 수 있는 압축방식이다. 이는 디지털 데이터를 압축하는 경우에 많이 사용한다. 원래의 입력신호가 아날로그인 경우에는 응용의 목적에 따라서 입력신호를 100% 그대로 복원할 필요는 없는 경우도 많이 있다. 음성이나 영상신호가 그러한 경우이다. 일반적으로 인간의 감각에 의해 그 충실도가 판단되므로 사람이 보기에 만족할만한 정도면 충분한 복원이 되는 것이다. 이 경우에는 손실압축을 사용하며, 훨씬 더 고도의 압축을 행할 수 있다.
이러한 원천부호화 방식은 입력 신호의 통계적 특성에 전적으로 의존한다. 실제로는 입력신호의 통계적인 특성을 미리 알 수 없으므로 적응적(adaptive)방식을 사용한다. 즉, 현재 입력신호 통계적 특성을 스스로 관찰하여 다음 입력신호의 특성으로 유추하여 사용한다는 뜻이다. 어느 경우이든지, 입력신호의 통계적 특성에 영향을 받는데, 이에 관한 가장 기본적인 정리가 바로 약 50여년 전에 발표된 C. E. Shannon의 제1정리, 혹은 "Source Coding Theorem"이라고 한다. 이 정리에 의하면, 입력신호의 통계적인 특성에 따라서 그 신호의 "정보량"이 결정되는데, 이를 엔트로피(Entropy)라고 한다. 정확히 말하면 신호의 정보량이 아니고 그 신호를 구성하는 심볼집합의 확률분포에 대한 정보량을 뜻한다. 같은 이진 비트열로 이루어진 신호라도 하나의 신호에는 0과 1의 수가 평균적으로 같고 또 다른 신호에는 1의 수가 훨씬 많다면, 후자의 정보량이 훨씬 작아지게 된다. 정보량의 단위는 bit를 가장 많이 사용하며, 이 경우 1 bit의 정보량은 이진 심볼 0과 1의 분포가 50 대 50으로 같다는 가정 하에서 한 개의 이진심볼을 관찰했을 때 얻어지는 정보량이다. 사실, "bit"라는 용어에는 이렇게 서로 다른 두 가지의 뜻이 있다. 하나는 이진심볼(binary digit)의 약어로서의 의미이고 또 다른 하나는 위에서 설명한 정보량의 의미이다. 이 두 가지는 구문적으로 판단가능하며 우리는 여기서 편의상 이진심볼을 비트라고 부르자. 정보량의 단위로 사용하는 경우에는 영문자 bit를 사용하기로 하자.
Shannon의 제1정리의 결론에 대하여 설명하면 다음과 같다. 입력신호를 구성하는 비트 0과 1의 확률분포가 결정되면, 관찰하는 비트열에서 1개의 평균정보량이 결정되고, 총 N개의 비트가 가지는 평균정보량의 총합이 결정되는데, 이를 M bit라 하자. 항상 M은 N보다 클 수 없다. M과 N이 같아지는 필요충분 조건은 입력신호의 통계적 특성이 0과 1의 분포가 50 대 50으로 같은 경우이다. 이때, N개의 입력 비트열을 손실 없이 압축할 수 있는 최저 비트의 수는 M 비트가 된다는 것이다. 이보다 더 작은 수의 비트로 압축하면 손실을 피할 수 없으며, 이 값에 한없이 가까워지는 비율로 무손실 압축 가능한 원천부호화 방식이 존재하는데 이를 허프만 부호화(Huffman Coding)라고 한다. 바꾸어 표현하면, M과 N의 값이 같은 입력신호는 무손실 압축이 불가능하다는 뜻이다. 이를 그림 3에 정리한다. 그림 1에서 원천 부/복호화기의 우측에 위치한 모든 기능을 한데 묶어서 원천부호채널(source coding channel)이라고도 한다. 이는 크게 말하면 이산부호채널(discrete coding channel)의 일종이지만 여기에서는 채널부호의 기능까지 한데 포함시키는 의미로 그렇게 부르기로 하겠다. 원천부호화기를 출력한 신호는 원천부호채널(source coding channel)을 통과하여 원천복호화기(source decoder)에서 복원이 이루어진다.
그림 3. Source Coding Theorem
원천부호채널 내부에서 맨 먼저 하는 일은 채널부호화(channel encoding)이다. 이는 그림 1의 전체 시스템에서 둘째 블록이다. 여기에서는 기본적으로 추가적인 일정량의 비트를 첨가한다. 이를 패리티 비트(parity bits)라고 하며, 이를 설명하기 위해서 이산부호채널(discrete coding channel)의 개념을 먼저 설명한다. 실제로 무선통신 시스템을 모델링 할 때 제일 중요한 채널은 아날로그 파형 채널(analog waveform channel)이며, 이에 관한 내용은 디지털 모뎀을 설명한 후에 할 예정이다. 우리가 채널부호에 관한 내용만을 다루고자 할 때, 혹은 이에 관한 효과만을 분석하고자 할 때에는 디지털 모뎀과 아날로그 파형 채널을 한데 묶어서 이산부호채널의 개념을 생각한다. 이 채널은 이산 심볼(discrete symbol) 집합을 송신 심볼로 사용하며 또 다른 이산 심볼 집합을 수신 가능한 심볼로 가지는 채널이다. 이 채널은 입력단의 심볼 집합에 속해있는 각각의 심볼의 발생확률과 이들이 수신단의 수신 심볼 각각으로 천이되는 천이확률로 특징지워진다. 간단한 무작위오류채널(random error channel)을 모델링 할 때는 송신심볼이 수신심볼로 천이될 확률들로 이루어지지만 연집오류채널(burst error channel) 등의 기억(memory) 특성을 모델링 하기 위해서는 마코프 과정(Markov Chain)을 이용해야한다. 전자의 경우를 이산 무기억 채널 (discrete memoryless channel) 이라고 하며, 송수신 심볼 집합이 이진 비트이며, 0이 1로 1이 0으로 수신될 천이확률이 p로 같으며, 0이 0으로 그리고 1이 1로 수신될 천이확률이 1-p로 같은 경우, 이를 이진대칭채널(binary symmetric channel, BSC)이라고 한다. 결국, BSC는 이산부호채널의 가장 간단한 모델이다. 이를 그림 4에 표시한다. 이 밖의 간단한 이산부호채널 모델에는 erasure channel, q-ary channel, Z-channel 등이 있다.
그림 4. Binary Symmetric Channel, Repetition code, Encoding
다시 채널부호화기의 역할에 대하여 설명해보자. 이 목적은 통신 채널에서 발생하는
오류를 수신단에서 확인하고 이를 수정 가능케 하기 위함이다. 예를 들어 k개의 입력
비트에 r개의 패리티 비트를 추가한다. 총 길이 k+r을 n이라 두면, 이는 
개의 이진벡터
중에서 오직 
개의 이진벡터 만을 사용하는 것과 동일한 개념이다. 구체적으로 예를
들어, 매 두 비트마다 한 비트의 패리티 비트를 추가하여 총 세 비트에 존재하는
1의 수를 짝수로 만든다고 하자. 그러면 000, 001, 010, 등등, 8개의 이진벡터 중에서
오직 000, 011, 101, 110, 이렇게 4개만을 송신하게 되며, 이 네 개의 벡터가 아닌
다른 이진벡터를 수신하면 오류를 검출할 수 있게 된다. 이를 1-error-detecting
부호라고 한다. 송신된 벡터는 이산부호채널을 통과하여 수신하게 되는데, 이는 이후에
설명할 디지털 변복조기(digital modulator/demodulator)와 아날로그 파형 채널(analog
waveform channel)의 기능을 한데 묶어서 생각하는 채널이다. 예를 들어 111을 수신하면
이는 송신기에서 보내어진 단어가 아닌 것이 확실하다. 좀더 복잡한 방법으로 많은
수의 패리티비트를 추가하면 오류의 수와 위치까지도 파악할 수 있게 되며, 이러한
기술을 채널부호기술이라고 한다. 그림 4에 또 한 가지의 채널부호방식을 설명한다.
그림 5에는 그림 4의 반복부호에 대한 심볼오류확률을 비교한다.
그림 5. Performance of Repetition Code
우리는 위에서 일정량의 패리티비트를 첨가하여 오류를 검출 및 정정할 수 있다고 하였다. 그러면, 항상 이 방식을 써야 할 것인가 ? 이렇게 좋아지는 면이 있으면 손해 보는 면도 반드시 있게 되는데, 그것은 바로 전송속도이다. 그림 4의 1-오류-정정 부호에서는 한 개의 비트만을 처리하여 전송하면 충분함에도 세 개의 비트를 전송하고 있다. 2/3의 손실이다. 그 나머지 1/3을 부호율(code rate)이라고 하는데, 부호율이 높아지면 오류조절능력이 약해지지만 전송속도에 있어서 많이 손해 보지는 않는다. 강력한 오류조절능력을 갖추기 원한다면 낮은 부호율의 방식을 사용해야하며, 이 경우에 전송속도에서 많은 손해를 보게 된다. 이는 우리의 직관과도 일치하는 면이 있다. 즉, 하루에 한 비트씩 전송하는 통신시스템은 적당히 만들어도 오류가 발생하지 않는다. 채널상황이 아무리 열악해도 이를 쉽게 극복할 수 있기 때문이다. 문제는, 1초당 백만 비트씩 전송하고 싶기 때문에 발생한다. 우리가 흔히 1 Mbps라고 부르는 전송속도가 예를 들어 그러하다. 이러한 개념은 C. E. Shannon시대까지의 거의 모든 통신전문가가 믿고 있던 사실이었다. 즉, 비트열을 전송함에 있어서 오류를 한없이 줄이기 위해서는 전송속도를 그에 따라서 한없이 줄여야만 한다는 것이다.
그러나 Shannon은 이를 수정하여 놀라운 결과를 발표하였다. 즉, 전송속도를 한없이 줄여갈 필요는 없다는 뜻이다. 채널의 특성에 따라서만 결정되는 일정한 값이 존재하고 전송속도를 이 값까지만 줄이고 더 이상 줄이지 않아도, 어떤 방법이 있어서 이를 사용하면 오류를 한없이 줄일 수 있다는 결과가 바로 Shannon의 제2정리, 혹은 "Channel Coding Theorem"의 기본적인 내용이다. 여기에서 채널의 특성에 의해서만 결정되는 값을 채널용량(channel capacity)이라고 하며, 전송속도를 더 이상 줄이지 않고 오류를 한없이 줄일 수 있다는 어떤 방법이란 바로 채널부호방법이다. 결론적으로, 한없이 작은 오류의 완벽한 전송시스템을 구성하기 위해서, 전송속도를 한없이 줄일 필요는 없으며, 채널의 특성에만 의존하는 일정량의 전송속도를 유지해도 적절한 채널코딩방식을 사용하면 가능하다는 뜻이다. 그는 그러나 그러한 적절한 채널코딩방식이 구체적으로 어떠한 방법인지 밝히지는 못했으며, 단순히 그러한 방식이 반드시 존재한다는 사실을 논리적으로 증명했다는데 있다. 그 이후로 많은 통신공학자들에 의해서 이를 뒷받침할 수 있는 수많은 채널부호방식이 연구되어 왔고, 오늘날 눈부신 발전을 이룩하게 되었다. 그림 6에 Shannon의 제2정리를 요약한다.
그림 6. Channel Coding Theorem
오늘날 채널부호기술은 오류를 최대한 줄이고자 사용하지는 않는다. 명세서가 지정하는 오류확률을 지키는 범위에서 안테나 송신출력의 크기를 줄이는 목적으로 더 많이 사용한다. 이렇게 채널부호기술을 사용함으로서 줄일 수 있는 송신출력의 크기를 부호이득(coding gain)이라고 한다. 송신 안테나 출력단의 전력량이 넉넉한 경우에는 큰 문제가 되지 않지만, 그렇지 않은 경우, 즉, 출력을 더 높이고 싶어도 불가능한 경우에는 반드시 채널부호를 사용해야 한다. 물론 전송속도의 저하 혹은 그렇지 않으면 시스템 대역폭의 증가를 감수해야한다. 시스템 성능을 높이기 위해서는 안테나의 성능 개선을 위한 노력을 그 이전에 하는 것이 보통의 접근방법이기도 하다. 최근에는 대역폭을 증가시키지 않고서 부호이득을 얻을 수 있는 부호화변조방식이 큰 관심을 받아왔으며, 극히 최근에는 간단한 길쌈부호 몇 개를 병렬 연결하여 부호이득을 크게 증가시킬 수 있음이 발표되어 주목받고 있다. 이를 터보부호(turbo code)라 한다.
※ 채널코딩 기술의 과거와 현재 상황에 대한 좀 더 자세한 내용이 궁금하다면 여기를 클릭하세요. 채널코딩의 발전 과정 및 현재 상황 (tutorial article, 2009) ***
그림 1의 셋째 블록은 디지털 변조를 수행한다. 이는 기본적으로 디지털 비트열을 파형열(waveform stream)에 대응시키는 역할을 한다. 그 파형이 고주파 성분일수도 있고 저주파 성분일수도 있으며 반송파 없이 단순히 기저대역의 파형일수도 있다. 이렇게 대응시키는 방식은 몇 개의 비트씩 묶어서 대응시키는가에 따라 이진신호방식(binary signaling), 4진신호방식, 혹은 8-ary, 16-ary, 등등으로 부른다. 예를 들어 이진신호방식에서는 입력의 비트열에 따라서 매 비트에 한 개의 파형(waveform)을 대응시킨다. 그러면 입력으로 들어오는 비트에는 0과 1이 있으므로 두 개의 서로 다른 파형이 필요하게 된다. 어떻게 서로 다른지, 얼마다 서로 다른지, 여기에서 서로 다르다는 뜻이 무엇인지 등등에 관한 내용은 잠시 미루고, 지금은 다음 사실에 주목해보자. 오직 두 개의 서로 다른 파형이 미리 준비되어 있으며, 입력 0에는 그중 한 개의 파형을, 입력 1에는 나머지 한 개의 파형을 대응시켜 출력하는 기능이 바로 디지털 변조기의 기본적인 업무이다. 시스템 설계시 과연 어떠한 두 개의 파형을 미리 선택해서 준비해야 하는가의 문제가 중요하게 된다. 좋은 선택이라 함은 수신기의 복조기에서 관찰한 (수신한) 파형에 대해서 이 둘 중에 어떤 것을 송신하였는지 쉽고도 확실하게 판단할 수 있는 능력을 부여할 수 있어야 한다. 개념적으로, 가장 "서로 다른" 두 개의 파형을 선택해야 한다는 뜻이다. 그러나 반드시 매 비트 당 대응시킬 필요는 없다. 또 다른 방식은 매 2 비트 당 한 개의 파형을 대응시키는 것이다. 이 경우에는 4 개의 서로 다른 파형을 준비해야 하며, 이를 quaternary signaling이라고 한다. 혹은, 매 3 비트 당 한 개의 파형을, 더 나아가서 매 4 비트 당 한 개의 파형을 대응시키는 방식을 생각할 수 있다. 이런 경우에는 8개 혹은 16개의 서로 다른 파형의 집합을 미리 준비해야 하며 이를 각각 8-ary 또는 16-ary 신호방식이라고 한다. 일반적으로 의 관계에 있다면, 매 k 개의 비트 당 M 개의 미리 준비한 파형 중에 한 개를 대응시킬 때 이를 M-ary 신호방식(signaling)이라고 한다.
이제 여기에서 디지털 통신 시스템이 아날로그 통신시스템과 근본적으로 다른 점 몇 가지를 강조하고자 한다. 당연한 내용이지만 디지털 통신 시스템이 디지털 비트열을 안테나를 통하여 내보내지는 않는다. 아날로그 통신 시스템과 마찬가지로 전자파형을 송수신 한다. 그러나 기본적으로 다음과 같은 차이가 있다. 아래에서 우리는 이진신호방식을 가정한다.
첫째, 가장 중요한 차이점은 다음과 같다. 디지털 통신시스템의 수신 복조기는 수신한 파형을 근거로 하여 오직 둘 중에서 어느 한 파형이라고 결정한다는 점이다. 그 결정이 올바를 결정이라면, 수신기는 오류 없이 완벽한 송신 파형을 복원해낸 셈이 되며, 이에 대응되는 비트 0 혹은 1을 복원해낼 수 있다. 반면에 아날로그 통신 시스템의 수신기는 이러한 보기(alternatives) 없이 문제를 풀어야한다. 즉, 아날로그 통신시스템의 수신기는 주관식 문제를 풀어야 하고, 디지털 통신시스템의 수신기는 객관식 문제를 푼다는 뜻이다. 이를 그림 7에 정리한다. 이는 아날로그신호와 디지털신호의 근본적인 차이이며, 어느 방식이 일반적으로 더 우수한 성능을 발휘할지는 이점에서 명확해진다.
그림 7. Digital Modulation and Demodulation
둘째 차이점은 다음과 같다. 디지털 통신 시스템의 수신기는 이처럼 객관식의 한정된 보기 중의 하나로 결정하기 때문에 결정이 잘못되는 경우에는 0을 1로 혹은 1을 0으로 "완벽하게" 잘못 수신하는 결과를 초래한다. 이를 수신 비트오류 혹은 오류비트라고 한다. 아날로그 통신시스템 수신기 성능평가는 송신신호와 비교하여 얼마나 충실히 수신신호를 복원해내는가에 있는 반면, 디지털 통신시스템 수신기 성능평가는 평균적으로 몇 개의 비트마다 이러한 잘못된 결정을 내리는가에 있다. 아날로그 수신기의 평가척도는 수신신호를 송신신호와 비교한 "충실도"이며 디지털수신기의 평가척도는 수신 비트를 송신 비트와 비교한 "비트오율"이다.
셋째는 통신 시스템의 성능을 개선하기 위한 방편의 차이이다. 아날로그 통신시스템의 수신기의 성능을 개선하기 위하여 제일 먼저 시도해야하는 것은 송수신 신호의 크기를 잡음의 크기보다도 훨씬 더 크게 늘려야 한다. 즉, 시끄러운 환경에서 서로 간에 주고받는 말을 명확히 전달하기 위해서는 좀더 큰 소리로 이야기해야 한다는 비유가 적절하겠다. 송수신 신호의 크기와 잡음의 크기는 절대적인 값이 중요한 것이 아니라 상대적인 크기의 비(SNR, Signal-to-Noise Ratio)가 중요하다. 이를 나타내는 데에는 평균 신호전력 대 잡음전력의 비를 사용하며, 이 값의 log 값을 취하고 이를 10배하여 데시벨 혹은 dB라는 단위를 사용하여 나타낸다. 예를 들어 3 dB는 약 두 배의 차이를 나타낸다. 반면에 디지털 시스템의 성능을 개선하기 위해서 SNR을 증가시킴은 큰 의미를 갖지 못한다. 왜냐하면 SNR은 파형의 전력에 대비한 잡음의 전력의 비이기는 하지만 몇 비트에 해당하는지에 대한 내용이 포함되어있지 않기 때문이다. 디지털 수신기의 비트오율을 줄이기 위해서는 비트 당 SNR을 증가 시켜야 한다. 이를 표현하기 위해서 잡음의 크기에 대비한 한 비트 구간의 신호의 크기를 사용해야한다. 이를 Bit Energy to Noise Power Spectral Density Ratio라고 부르며, 흔히 Eb/N0를 사용한다. 이 값 역시 log를 취하고 10배하여 dB 단위로 표시하며, 비트 당 평균 SNR을 나타낸다.
마지막으로, 디지털 통신시스템의 수신기는 훨씬 더 복잡해진다는 점이다. 많은 이유가 있겠지만, 가장 중요한 이유를 든다면 아날로그 시스템에서보다 훨씬 더 정밀한 동기과정(synchronization)이 필요하기 때문이다. 사실 이 점은 모든 디지털 수신기의 가장 해결하기 어려운 부분이다. 그림 7에서도 설명하고 있듯이 디지털복조기의 역할이란 수신된 파형으로부터 이것이 0에 대응되는 파형인지 아니면 1에 대응되는 파형인지를 결정하는 것이다. 이 결정을 하는 과정에서 가장 중요한 요소는 시간 축의 어디서부터 어디까지가 한 비트에 대응되어 수신한 파형인지를 알아야한다. 그림 7은 이를 알고 있다고 가정한 설명이다. 실제로는 매 비트에 대응되는 파형을 수신할 때마다 비트 시간 구간을 먼저 결정하고 이 구간에 수신한 파형에 대하여 0 혹은 1이라고 판정하게 된다. 이를 비트시간동기이라고 한다. 이 외에도 다양한 수준의 동기과정을 필요로 하며, 이를 위한 부가적인 회로가 필요하고 이들의 동작특성이 전체 수신기의 성능에 매우 중요하게 영향을 끼친다. 이로 인한 복잡도의 증가는 무시할 수 없으며, 이로 인한 시간지연도 시스템 설계에서 반드시 고려해야 한다.
디지털 M-ary 신호방식에서 M값이 증가할수록 여러 가지 특성이 변화한다. 일반적으로 비트오율은 증가할 수도 있으나 큰 변화가 없을 수도 있다. 전송속도는 크게 변화하지 않는다. 송수신 신호가 점유하는 대역폭은 일반적으로 늘어날 수도 있으며, 일정한 대역폭을 유지할 수도 있다. 이러한 특성은 M개의 미리 선택하여 준비한 파형의 특성에 전적으로 달린 문제이다. 그러므로 M개의 신호집합을 어떠한 것들로 구성하느냐 하는 문제는 디지털 통신시스템 성능에 관한 여러 가지 면을 결정하는 가장 중요한 사항이다.
아날로그 파형으로 변환된 디지털 변조기의 출력은 증폭기를 거쳐서 아날로그 파형 채널을 통과하게 된다. 구체적으로 파형을 유도하는 매질이 존재하는가에 따라서 유선채널 혹은 무선 채널로 구분한다. 동축케이블 혹은 광섬유 등은 유선채널의 대표적인 예이고, 우주통신과 인공위성통신, 무선휴대전화기에 사용되는 채널은 대표적인 무선채널이다. 또 다른 방식의 분류는 파형의 주파수 성분에 따른 분류이다. 아래에서부터 이야기하면, 기저대역(baseband) 신호를 이용해도 충분한 채널이 있으며, 이는 유선 채널이 대표적이다. 이는 주로 유선 통신망에서 주로 사용하며, 컴퓨터와 프린터 등의 극히 근거리 데이터 통신에서 주로 사용하며, 원거리 통신을 위해서는 반복중계기가 사용된다.
고주파의 반송파를 수반하는 신호를 이용하는 채널도 있으며 여기에는 유선과 무선 모두 활발히 적용되고 있다. 유선채널에는 일반 PC의 전화모뎀에 연결된 공중 전화망의 선로가 대표적이며, 무선 채널에는 TV 혹은 라디오 방송을 위한 공중 채널이 대표적이다. 사실, 라디오라는 용어도 Radio Frequency라는 뜻에서 이를 줄여서 사용하게 된 것이다. 이러한 채널을 흔히 RF 채널이라고 하며 크기에 따라서 LF, HF, VHF, UHF, 등등의 이름이 있다. 더욱 올라가면, 밀리미터웨이브 혹은 마이크로웨이브 채널이 있고, 광 신호를 전송하는 광섬유 채널이 있다. 전자는 무선채널의 대표적인 예로서 지상파 채널과 인공위선의 통신채널이 있으며, 후자는 유선채널의 대표적인 예이다. 그밖에도, 적외선 통신을 위한 공중 채널이 있는데 이는 반드시 line-of-sight를 가져야 하며 가전제품의 리모콘, 혹은 무선 키보드와 PC 본체와의 통신 등 극히 근거리에서 사용한다.
반면에 이와는 전혀 다른 종류의 채널도 있다. 저장시스템의 기록 채널이 바로 그것이다. 디지털 데이터를 기록하였다가 이후에 재생해내는 저장시스템은 큰 의미의 디지털 통신시스템으로 간주할 수 있다. 이는 전송하고자하는 신호를 현재에서 나중의 시점으로 "전송"한다고 보는 관점이다. 이러한 기록채널은 전송채널과는 상이한 통계적 특성을 가지며 이에 따라 신호집합의 설계도 많은 차이가 있다.
다음은 아날로그 파형 채널의 모델링에 관한 내용이다. 우수한 통신시스템을 설계하기 위해서 주어진 채널을 해석적으로 정확히 모델링 해야 함은 가장 기본이 되는 사항이다. 잘못 설정된 채널모델을 가정하고 설계된 시스템의 성능이 만족할만한 수준일 수는 없다. 그러므로 가능한 실제 상황과 비슷하면서도 해석이 용이한 채널모델이 필요하다. 그런데, 이 두 가지의 요구조건은 서로 대립하는 조건이다. 즉, 실제와 가까이 모델링하기 위해서는 몹시 복잡해져서 해석이 용이하지 않으며, 해석을 용이하게 하기 위해서는 너무도 간단해져서 실제 상황을 잘 묘사하기 어렵기 때문이다. 간단하면서도 유용한 채널 모델에는 그림 7에 나타낸 채널 모델이 있다. 이를 단순 가산 채널(simple additive channel)이라 한다. 크기의 변화도 없고, 시간 지연도 없으며, 송신신호를 그대로 통과시키되 오직 잡음신호를 단순히 더하기만 하는 채널이다. 송신 신호를 s(t)라 하고 잡음을 n(t)라 하면 수신신호는 r(t)=s(t)+n(t)로 표현되고, 이를 그림 8에 표시한다.
그림 8. Simple Additive Channel Model
여기에 시간 지연 
와 크기의 변화 
를 추가하면 수신신호는 다음과 같이 표현된다.
좀 더 복잡한 모델에서는 시간 지연 
, 그리고 크기감쇄상수 
의 값이 시간에 따라서 변화할 수도 있다. 이를 페이딩(fading) 채널이라고 한다.
페이딩채널 모델은 복잡한 도시환경에서 이동전화 송수신을 위한 채널모델로 중요하게
이용된다. 여기에서는 주로 반사파 등에 의한 다중경로(multi-path) 송수신이 이루어지고,
송신기를 떠날 때는 의 신호이지만 수신기에 도달하는 신호는 원래의 신호뿐만
아니라 다양한 시간지연과 또 다양한 감쇄를 겪은 신호의 합이 되기 때문이다. 시간축에서
변화속도와 주파수축에서의 감쇄범위에 따라 각각 fast fading / slow fading
그리고 frequency non-selective(혹은 flat) fading / frequency selective
fading이라고 한다.
채널을 통과하는 신호의 비트 열에 오류가 발생하는 형태에 따라서 무작위오류채널(random error channel)과 연집오류채널(burst error channel)로 구분하기도 한다. 전자는 연속적인 비트열의 어느 비트에 오류가 발생할 확률이라도 서로 독립적으로 상관없는 채널이며, 후자는 한번 오류가 발생하면 일정한 길이의 비트 모두에 오류가 발생하는 채널이다. 전자는 line-of-sight가 형성된 무선채널의 모델링에 주로 사용되며 후자는 여러 개의 경로가 형성된 채널 혹은 fading 채널 모델링에 사용된다. 특히, 저장시스템의 저장채널은 연집오류채널로 모델링 할 수 있다. 기록을 읽어내는 자기헤드나 광 검출기의 기계적인 부분의 오류는 무작위오류 보다 연집오류에 훨씬 더 가까운 특성을 나타내기 때문이다.
다시 돌아와, 단순 가산 채널 모델에서 더해지는 잡음에 대하여 생각해보자. 이러한 잡음은 실제로 채널이 더해주는 잡음이라기보다 수신기의 전자부품에서 발생하는 열 잡음을 모델링 한다. 해석을 용이하게 하기 위하여 수신기에서 발생하는 모든 잡음신호를 채널에 이관하여 고려하고 수신기의 동작은 이상적 무잡음 동작이라고 여기는 것이다. 이러한 잡음은 결정신호(deterministic signal)가 아니고 전혀 예측할 수 없는 행태를 보이는 신호이며, 랜덤프로세스(random process)라고 한다. 이러한 신호는 어떤 특정한 시각에 어떤 값을 가지는지 전혀 알 수 없으며 오직 평균적인 특성을 이야기할 수 있을 뿐이다. 이를 통계적인 해석이라고 한다. 즉, 신호의 통계적인 특성을 이해할 수 있을 뿐 실제의 값을 해석적으로 예측할 수 없다는 뜻이다. 랜덤프로세스 잡음의 한 예를 그림 9에 나타낸다.
그림 9. Statistical Properties of Random Noise Signal
그림 9에서 굵은 선은 시간에 따른 잡음신호의 평균값의 변화이다. 이 그림에서는 어느 한 시점을 끊어서 생각할 때 정규분포의 확률분포를 가지는 것으로 도시하였다. 시간의 변화에 따라 확률분포의 모양이 변화할 수도 있으며, 반대로 시간이 바뀌어도 이 분포가 변화하지 않는 경우에 이를 stationary process라고 한다. 어느 시각이라도 그 확률분포가 동일한 정규분포인 잡음신호를 Gaussian Noise Process라고 한다. 실제로 정규분포 모델링이 상당히 많은 경우에 사용되는데 이는 수신기의 열 잡음의 특성을 고려하면 상당히 합당한 모델이다. 전자부품의 동작특성이 이상적이지 않기 때문에 발생하는 열 잡음은 여러 가지 요인으로 발생하는 각종 잡음의 합의 형태로 영향을 끼친다. 각각의 잡음이 어떠한 분포를 가지든지, 우리는 Central Limit Theorem에 의하여 이를 정규분포의 특성으로 충분히 근사화 할 수 있다. 정규분포함수는 평균과 분산이라는 오직 두 개의 상수로 결정되는 확률밀도함수이다. 이를 그림 10에 표시한다.
그림 10. Gaussian Probability Density Function
잡음에 대한 마지막 해석으로 주파수 영역의 특성을 고려해야 한다. 가장 이상적인 단순한 모델은 백색잡음이다. 그 용어가 의미하듯이 백색잡음이란 주파수 영역에서 볼 때 모든 주파수 성분이 동일한 크기를 가지는 잡음이다. 여기에서 우리는 시간영역과 주파수영역을 1-1대응으로 변환과 역변환하는 개념에 대하여 설명하겠다. 시간 영역과 주파수 영역을 오갈 때 흔히 결정신호(deterministic signal)에 취하는 퓨리에 변환(Fourier Transform)과 역변환을 단순히 적용하는 방법은 랜덤프로세스의 잡음신호에 해당되지 않는다. 사실, 의미가 없다고 이야기하는 편이 정확할 것이다. 그 이유는, 다시 반복하지만, 시간영역에서 결정적으로 정의되어 있지 않기 때문이다. 그래서 사용하는 방법이 랜덤신호의 상관함수(Correlation Function)를 먼저 계산하고 이 함수의 퓨리에 변환을 취하여 주파수 영역의 전력밀도함수(Power Spectral Density)를 얻는다. 다시 돌아가는 역변환을 취하면 상관함수를 얻게 된다. 상관함수는 엄밀히 말해서 시간의 함수가 아니고 시간차의 함수이다. 이러한 상관함수가 의미를 가지기 위해서는 랜덤신호가 몇 가지 부가적인 특성을 가지고 있다고 가정해야한다. 첫째는 Ergodicity이다. 이는 전체 시간구간에서의 평균값이 전체 확률공간에서의 평균값과 일치함을 의미한다. 둘째는 Stationarity이다. 이는 대략적으로 설명하여, 시각이 바뀌어도 확률분포가 변하지 않는다는 뜻이다. 이 모두를 만족하는 백색잡음신호는 주파수 영역에서 평탄한 상수함수로 표현되고 이를 역변환한 시간영역의 상관함수는 임펄스의 형태를 띠게 된다. 이를 그림 11에 표시한다.
그림 11. Correlation Function and Power Spectral Density of White Noise
자주 이용되는 채널 모델 중에서 비교적 간단하면서도 제법 현실적인 예가 지금까지 설명한 백색 가산 정규 잡음 (Additive White Gaussian Noise, AWGN) 채널이다. 어떠한 실제 채널에 응용되는 송수신 모뎀을 설계하든지, 일단 AWGN 채널에서의 성능을 먼저 조사하게 되는 것이 보통이며, 그러한 이유로 AWGN 채널에서의 성능을 기준(baseline) 성능이라고 하고, 모든 다른 경우의 성능을 비교 평가하는 기준으로 이용한다. 또 한 가지의 특징은 아날로그 파형 채널로서 AWGN 채널을 가정하는 경우, 이에 해당하는 이산부호채널은 이진대칭채널로 모델링 할 수 있다는 점이다. 이 두 가지의 채널모델이 가장 기본적이고 간단한 채널모델이다.
채널을 통과한 파형이 수신기의 안테나에 도달하여 여러 단의 증폭과정을 거치고 만일 고주파 성분이 있다면 중간주파수 대역으로 주파수 이동을 행한 후에 디지털 변조기에 입력된다. 앞서 설명한 바와 같이 여기에서는 비트 시간구간 동기를 획득해야하는 복잡한 회로를 부가적으로 이용하여 복조기에 입력하고, 복조기는 이를 이용하여 개의 파형 중에서 한 가지를 결정하며 이는 곧 개의 비트를 수신한 결과가 된다. 예를 들어 이진신호방식에서는 한 개의 비트를 수신한 셈이 되며, 이러한 결정에 대한 오류확률이 바로 비트오율이다. M > 2인 경우에는 이를 "심볼오율"이라고도 하며, 이로부터 비트오율을 정확히 계산하기는 복잡한 과정을 거쳐야하며 그나마 대부분의 경우에 깔끔한 계산은 불가능하기 때문에 컴퓨터 모의실험이나 근사식을 사용한다.
채널 부/복호화기를 사용하지 않는 경우에는 복조기의 출력이 곧바로 원천복호화기를 거쳐서 원하는 신호로 다시 재생된다. 그러므로 채널부호를 사용하지 않는다면 디지털 복조기는 반드시 어떤 비트 열을 수신하였는지 결정을 해야 한다. 이와는 달리 채널부호을 사용하는 경우에는 두 가지의 선택이 있다. 첫째는 복조기가 나름대로의 결정을 내리고 이를 채널복호화기에 입력시켜서 오류비트를 찾아내는 방법이다. 이때 복조기의 출력을 경판정(hard-decision) 출력이라고 한다. 최종목적은 채널 복호화기 이후에 송신 비트 열을 결정하게 되므로 복조기에서 채널 복호화기를 도와주는 정보를 전해줄 수도 있다. 즉, 1은 1인데 자신있게 결정한 1이라든지, 아니면 1인 것 같은데 약간 자신 없는 결정이라든지 하는 사항이다. 이러한 부가적인 정보는 채널 복호화기로 하여금 입력 비트열의 1과 0에 대한 신뢰도를 가지게 하며, 이러한 복조기의 출력을 연판정(soft-decision) 이라고 한다. 결국 채널 부호를 사용하면 채널 복호화기의 출력단에서 계산한 비트오율이 그 시스템의 성능을 결정하는 최종 비트오율이 된다. 이는 채널 복호화기의 입력단, 즉, 디지털 복조기의 출력단에서의 비트오율과 어떤 종류의 채널부호를 사용하며 복호방식은 무엇인지에 달려있다.
지금까지 우리는 디지털 통신 시스템의 기본적인 요소에 관해서 알아보았다. 요즈음 "정보통신"이라는 용어가 자주 사용되며, "통신공학"의 영역도 많이 모호해졌다. 마지막으로 이에 관한 몇 가지 사항을 정리해보자. 통신공학의 영역을 논하는 경우에 위의 기본적인 블록도를 사용하면 편리하다. 흔히 통신공학자의 기본 영역에는 어떠한 채널에 관심 있는가로 분류하기도 한다.
첫째, 디지털 모뎀, 통신 신호처리, 혹은 디지털 통신이론이라 하는 분야는 그림 1에서 디지털 변조기와 복조기 그리고 동기 부분에 관심이 있다는 뜻이다.[3,5,13,15] 주파수로는 라디오 주파수 대역을 사용하는 아날로그 파형 채널의 특성과 모델링에 관심이 있다.
둘째, 마이크로웨이브 공학 또는 초고주파 공학은 아날로그 파형 채널 중에서 마이크로웨이브에 해당하는 반송파 주파수 대역의 송수신과 전파전파 특성에 관심 있다는 뜻이며 이를 위한 안테나 이론과 설계/해석에도 깊은 관계가 있다.[12] 이 분야의 전문가를 RF 전문가라고도 부른다.
셋째, 광통신 분야는 변/복조에 관한 내용과 아울러 광 신호를 발생/검출하는 부품에 관한 내용이 포함되며, 이를 전송하는 광섬유 개발기술과 전송모드에 관한 내용이 주를 이룬다.[1,7,10]
넷째로는 통신망(network)과 관련된 분야이다.[2,16] 오늘날 무선 휴대전화의 발달로 무선통신 시스템의 통신망 기술이 많이 발달하고 있지만, 그래도 통신기술의 역사는 유선 통신망기술 발달의 역사이다. 이 분야에서는 일대일 통신에 관한 내용보다는 여러 사용자가 통신망을 구성하고 있는 경우, 정보 비트의 흐름을 제어하는 방법과 고장수리방법 등 실로 난해한 문제들이 산적해 있는 분야이다. 주로 기저대역 신호를 사용하여 디지털 변/복조가 행해지며, 전체 사용자가 가능한 통신자원을 효과적으로 이용하게 하기 위한 기술 등, 통신 프로토콜의 설계와 성능분석이 주를 이룬다. 무선 통신망과 유선 통신망은 해석을 위한 접근방법에도 큰 차이가 있다.
여기까지 정리하고 보면, 결국, 그림 1에서 이산부호채널이라고 표시한 영역이 디지털 통신시스템의 주된 분야임을 알 수 있다. 이를 단순화 시켜 하나의 채널로 두고서 전송시스템에 관한 고민을 하는 분야가 다섯째로 들 수 있는 채널부호(Channel Coding) 분야이다.[11,18] 경판정/연판정을 고려해야 하며 아날로그 파형 채널에 해당되는 이산채널(Discrete Channel)을 모델링 해야 하므로 디지털 변/복조기와 아날로그 파형 채널로부터 완전히 자유로울 수는 없다.
여섯째, 원천부호(Source Coding)를 다루는 분야까지도 통신공학의 분야로 생각할 수 있다. 대표적으로 음성신호와 정지영상 및 동영상의 전송을 위한 포맷팅과 압축 기술을 다루는 분야이다. 그러나 일반적으로 여기서부터는 통신공학의 세부분야로 분류하기보다는 신호처리(Signal Processing)라고 부르는 독립적인 분야로 분류하기도 한다.[4,6,8,14] 그 이유는 음성과 영상신호를 처리하는 목적은 전송과 더불어 기록 저장 및 보존 그리고 재생에 더 많은 용도가 있으며, 사실 역사적으로 볼 때 이러한 목적이 주도적으로 작용한 점과도 무관하지 않다. 신호처리 분야에는 그 밖에도 레이다 시스템이나 수중음향 시스템(sonar system)을 다루는 분야도 포함되며, 이를 위한 안테나 기술과도 관계가 깊다.
일곱째로, 이러한 개별적 기능을 수행하는 블록을 구성하는 전자부품에 관한 분야이다. 오늘날 반도체 제조 공정의 획기적인 발달로 인하여 집적회로(Integrated Circuits) 기술은 놀라운 향상을 거듭해왔다. 특히 주문형 반도체(ASIC) 기술과 system-on-chip 기술의 발달은 과거에 상상할 수 없었던 초소형 통신기기의 출현을 가능케 하고 있다. 다양한 목적의 필터 설계와 디지털/아날로그 전자회로 설계분야와 검증 분야, 프로세서 설계 분야 등이 있다. 이들 분야도 일반적으로 독립적인 전자공학의 분야들이지만 통신시스템 구성에 목적을 둔다면 통신공학의 중요한 분야이다.[9,17]
이들 분야의 관계를 그림 12에 나타낸다. 이 모든 분야를 일반적으로 통신공학분야라고도 부른다.
그림 12. 그림 12. Various Area of Communication Engineering
마지막으로, 디지털 통신 시스템에서 다루는 "정보통신분야"와 오늘날 "정보기술" 혹은 "정보화"라고 이야기 할 때 의미하는 "정보"의 차이점에 대하여 간략히 설명하고자 한다. 가장 기본적인 차이는 정보의 내용에 관심이 있는가 혹은 없는가에 있다. 정보통신분야 혹은 디지털 통신분야에서 정보를 다룰 때는 정보의 전송에 주관심을 둔다. 이를 정보이론, 혹은, 수학적 통신이론이라고도 한다. 이를 위하여 정보의 공학적 특성이 무엇인지, 예를 들면 아날로그 정보인지 디지털 정보인지에 관심이 있다. 즉, 효율적인 시스템 설계를 위하여 원천정보가 음성인지 영상인지 아니면 숫자 등의 데이터인지를 구분하는 정도이다. 또한 통계적 특성이 어떠한지, 예를 들면 0과 1의 발생과정이 독립적 무작위적으로 이루어지는지 아니면 앞뒤의 비트들이 서로 밀접한 상관관계를 가지고 발생하는지 등등에 주된 관심이 있다. 예를 들어 영상신호라 할 때, 이 영상이 교육용 영상자료인지, 홍보용 영상자료인지에는 관심이 없다는 뜻이다. 데이터도 마찬가지이다. 일반인의 편지문서인지, 공증을 받아 둔 법적 효능이 있는 증거자료인지에 전혀 관심이 없는 것이다.
반면에 정보화를 위한 정보기술 분야에서 정보를 다룰 때는 정보의 내용에 주된 관심을 두며, 정보의 주제에 따라서 처리방법이 달라지기도 한다. 이러한 분야의 연구는 컴퓨터과학의 한 분야로 분류할 수 있다. 전자상거래, 암호/인증, 전자화폐, 등의 분야가 포함될 수 있다. 오늘날 인터넷의 발달로 많은 사람들이 "정보"를 다루고 있지만, 이러한 개념적 차이를 명확하게 이해하기는 쉽지 않다. 다시 말해서, 인터넷을 통하여 정보의 전송을 다루는 분야인지, 인터넷을 통하여 오가고 있는 정보의 내용을 다루는 분야인지 잘 구분해야 한다는 뜻이다.