Communication Signal Design Lab.

한국어

송홍엽 교수의 잡글

DMS와 정보량

2004.04.04 02:48

송홍엽 조회 수:3430 추천:178

Discrete Memoryless Source의 앞글자입니다.
DMS는 통신이론의 중요한 개념입니다. DMS는 유한한 symbol집합 S와 S의 원소 각각에 대한 a priori probabilities
P[output=s]=p_s 로서 정의됩니다. 이전에 발생시킨 심볼이 무엇이었는지에 관계없이 항상 동일한 확률분포(a priori probabilities)에 따라서 출력 심볼을 발생시킵니다...

예를 들어 봅시다.

DMS1:
어떤 binary DMS는 출력 심볼로 0혹은 1을 발생시키고 각각은 1/2과 1/2을 발생확률로 가집니다.
오랜기간 출력 심볼의 수열을 관찰하면 대략 0의 수와 1의 수가 비슷할것입니다.

DMS2:
또 어떤 binary DMS는 출력 심볼로 a와 b를 발생시키고 각각은 1/3과 2/3을 발생확률로 가집니다.

DMS3:
세번째는 출력심볼로 0과 1을 발생시키고 각각의 심볼은 1/3과 2/3을 발생확률로 가집니다.

이러한 어떤 DMS의 출력심볼 한 개를 관찰하여 얻을 수 있는 평균 정보량은 얼마나 될까요?
각각의 심볼을 관찰했을때 얻는 각각의 정보량은 얼마나 될까요?

이러한 정보량을 과연 "정의"할 수 있을까요?

다음 글부터는 이를 천천히 논의해봅시다...
번호 제목 글쓴이 날짜 조회 수
공지 논문에 영어작문 주의사항 몇 가지 송홍엽 2008.05.22 8448
공지 젊은 학부생 여러분에게... 송홍엽 2008.11.20 5822
공지 우리학과 대학원생 모두에게 (특히, 박사과정들에게) 하고싶은 말입니다. 송홍엽 2014.01.20 5787
87 학위논문 작성에 관한 조언 file 송홍엽 2014.01.25 1890
86 2013년 12월 31일 오후에 작성한 글: 새해는 시속 1400키로의 속도로 달려온다. file 송홍엽 2014.01.17 1700
85 [펀글] 한겨레 2011.12.23. 정봉주 유죄판결은 법적 착시현상 송홍엽 2011.12.25 2241
84 [퍼온글] 외국계 기업, `출신대 간판` 안 본다 송홍엽 2011.12.15 3631
83 [펀글] 영문이력서 작성법 송홍엽 2011.03.27 5299
82 [펀글] 왜 우린 이런거 못만드냐고... 송홍엽 2010.05.09 2786
81 [펀글] 프로그램 설계시 좋은 코딩 습관 송홍엽 2009.12.27 4801
80 [펀글]프로운동선수의 대학학업 병행하기 송홍엽 2009.12.17 2811
79 [퍼온글] 수학의 힘 -- 동아일보 컬럼 2008.12.18 송홍엽 2008.12.18 3625
78 [퍼온글] 해석학적 극한의 의미 송홍엽 2008.12.18 3899
77 [퍼온글] FM방식 개발한 암스트롱 송홍엽 2008.09.24 3826
76 움직이는 글자 태그 송홍엽 2008.09.04 3756
75 [펀글]수학의 open problems 모음. 송홍엽 2008.07.30 6243
74 김정한 교수의 '창의적 수학교육' [1] file 송홍엽 2008.06.20 5977
73 수학사 바로잡기 (3) - 월간 과학동아 2008년 7월호 강석기 기자의 글 송홍엽 2008.06.20 4160
72 수학사 바로잡기 (2) 송홍엽 2008.06.03 7681
71 수학사 바로잡기 (1) - 오일러의 36명 장교문제와 조선시대 최석정 (수정본 - 일부 오류 수정) [1] file 송홍엽 2008.06.03 6290
70 [펀글] 전화기를 최초로 발명한 사람은 누구인가 송홍엽 2008.05.23 6189