Communication Signal Design Lab.

한국어

송홍엽 교수의 잡글

DMS와 정보량

2004.04.04 02:48

송홍엽 조회 수:3430 추천:178

Discrete Memoryless Source의 앞글자입니다.
DMS는 통신이론의 중요한 개념입니다. DMS는 유한한 symbol집합 S와 S의 원소 각각에 대한 a priori probabilities
P[output=s]=p_s 로서 정의됩니다. 이전에 발생시킨 심볼이 무엇이었는지에 관계없이 항상 동일한 확률분포(a priori probabilities)에 따라서 출력 심볼을 발생시킵니다...

예를 들어 봅시다.

DMS1:
어떤 binary DMS는 출력 심볼로 0혹은 1을 발생시키고 각각은 1/2과 1/2을 발생확률로 가집니다.
오랜기간 출력 심볼의 수열을 관찰하면 대략 0의 수와 1의 수가 비슷할것입니다.

DMS2:
또 어떤 binary DMS는 출력 심볼로 a와 b를 발생시키고 각각은 1/3과 2/3을 발생확률로 가집니다.

DMS3:
세번째는 출력심볼로 0과 1을 발생시키고 각각의 심볼은 1/3과 2/3을 발생확률로 가집니다.

이러한 어떤 DMS의 출력심볼 한 개를 관찰하여 얻을 수 있는 평균 정보량은 얼마나 될까요?
각각의 심볼을 관찰했을때 얻는 각각의 정보량은 얼마나 될까요?

이러한 정보량을 과연 "정의"할 수 있을까요?

다음 글부터는 이를 천천히 논의해봅시다...
번호 제목 글쓴이 날짜 조회 수
공지 논문에 영어작문 주의사항 몇 가지 송홍엽 2008.05.22 8438
공지 젊은 학부생 여러분에게... 송홍엽 2008.11.20 5821
공지 우리학과 대학원생 모두에게 (특히, 박사과정들에게) 하고싶은 말입니다. 송홍엽 2014.01.20 5784
88 basis란.. (and Online-HW2) 송홍엽 2003.10.06 20646
87 Outlook Express Backup [1] 송홍엽 2006.03.04 18434
86 [교양상식] 메르센 소수--Mersenne Prime 송홍엽 2004.04.13 14046
85 [펌]Turbo code에 대한 글 송홍엽 2004.04.13 13619
84 funny story 송홍엽 2004.04.01 11381
83 하다마드 행렬에 대해서 (part 1) [1] 송홍엽 2003.10.06 10015
82 Dr. Shannon 송홍엽 2003.12.07 8668
81 SHANNON : CRACKING THE CHANNEL file 송홍엽 2004.04.13 8626
80 대학원생 생활 가이드 [퍼온글] 송홍엽 2007.10.11 8219
79 수학사 바로잡기 (2) 송홍엽 2008.06.03 7681
78 [펀글] 추장의 선언 [1] 송홍엽 2008.02.22 7287
77 교재준비작업(1) 송홍엽 2004.10.03 7272
76 유클리디안 n차원 벡터공간 (and Online-HW1) 송홍엽 2003.10.06 7226
75 아날로그 신호와 디지털 신호 송홍엽 2004.08.06 7133
74 글 잘 쓰는 이공계가 성공한다 송홍엽 2008.05.22 6659
73 수학사 바로잡기 (1) - 오일러의 36명 장교문제와 조선시대 최석정 (수정본 - 일부 오류 수정) [1] file 송홍엽 2008.06.03 6290
72 [펀글]수학의 open problems 모음. 송홍엽 2008.07.30 6242
71 [펀글] 전화기를 최초로 발명한 사람은 누구인가 송홍엽 2008.05.23 6185
70 [퍼온글] 우리전공의 학부생이 공부하면 좋을 수학과목 ?? 송홍엽 2003.03.23 6021