Communication Signal Design Lab.

한국어

송홍엽 교수의 잡글

DMS와 정보량

2004.04.04 02:48

송홍엽 조회 수:3430 추천:178

Discrete Memoryless Source의 앞글자입니다.
DMS는 통신이론의 중요한 개념입니다. DMS는 유한한 symbol집합 S와 S의 원소 각각에 대한 a priori probabilities
P[output=s]=p_s 로서 정의됩니다. 이전에 발생시킨 심볼이 무엇이었는지에 관계없이 항상 동일한 확률분포(a priori probabilities)에 따라서 출력 심볼을 발생시킵니다...

예를 들어 봅시다.

DMS1:
어떤 binary DMS는 출력 심볼로 0혹은 1을 발생시키고 각각은 1/2과 1/2을 발생확률로 가집니다.
오랜기간 출력 심볼의 수열을 관찰하면 대략 0의 수와 1의 수가 비슷할것입니다.

DMS2:
또 어떤 binary DMS는 출력 심볼로 a와 b를 발생시키고 각각은 1/3과 2/3을 발생확률로 가집니다.

DMS3:
세번째는 출력심볼로 0과 1을 발생시키고 각각의 심볼은 1/3과 2/3을 발생확률로 가집니다.

이러한 어떤 DMS의 출력심볼 한 개를 관찰하여 얻을 수 있는 평균 정보량은 얼마나 될까요?
각각의 심볼을 관찰했을때 얻는 각각의 정보량은 얼마나 될까요?

이러한 정보량을 과연 "정의"할 수 있을까요?

다음 글부터는 이를 천천히 논의해봅시다...
번호 제목 글쓴이 날짜 조회 수
공지 논문에 영어작문 주의사항 몇 가지 송홍엽 2008.05.22 8347
공지 젊은 학부생 여러분에게... 송홍엽 2008.11.20 5809
공지 우리학과 대학원생 모두에게 (특히, 박사과정들에게) 하고싶은 말입니다. 송홍엽 2014.01.20 5756
89 2013년 12월 31일 오후에 작성한 글: 새해는 시속 1400키로의 속도로 달려온다. file 송홍엽 2014.01.17 1698
88 학위논문 작성에 관한 조언 file 송홍엽 2014.01.25 1880
87 [펀글] 한겨레 2011.12.23. 정봉주 유죄판결은 법적 착시현상 송홍엽 2011.12.25 2240
86 [펀글] 왜 우린 이런거 못만드냐고... 송홍엽 2010.05.09 2784
85 [펀글]프로운동선수의 대학학업 병행하기 송홍엽 2009.12.17 2809
84 [펀글] 교육의 의미 송홍엽 2008.02.19 2892
83 [펀글] 조선일보 1월2일 사설: 교육개혁 송홍엽 2008.01.03 2900
82 암호이야기 송홍엽 2008.05.21 2917
81 [펀글] 한반도 운하 건설을 반대하며 송홍엽 2008.02.20 3209
80 디지털 이야기... 송홍엽 2003.10.06 3235
79 [소고] 수학이란.... 송홍엽 2004.04.13 3313
78 [펀글-조선일보] 대중적인 책 내면 ‘이단아’ 취급 송홍엽 2006.09.18 3322
77 Re..랜덤변수의 variance가 0이면? 김태환 2005.07.30 3361
76 손바닥/손등 게임 송홍엽 2005.09.30 3366
75 유명한 퍼즐1 송홍엽 2004.04.01 3384
» DMS와 정보량 송홍엽 2004.04.04 3430
73 [일반인을 위한 교양강좌] CDMA 통신기술 (2001.7) 송홍엽 2003.10.13 3467
72 수집합이란... 송홍엽 2004.04.13 3506
71 [교양상식] 정수와 암호 송홍엽 2004.04.13 3533
70 [퍼온글]독도대첩 송홍엽 2005.03.15 3534