Communication Signal Design Lab.

한국어

송홍엽 교수의 잡글

DMS와 정보량

2004.04.04 02:48

송홍엽 조회 수:3430 추천:178

Discrete Memoryless Source의 앞글자입니다.
DMS는 통신이론의 중요한 개념입니다. DMS는 유한한 symbol집합 S와 S의 원소 각각에 대한 a priori probabilities
P[output=s]=p_s 로서 정의됩니다. 이전에 발생시킨 심볼이 무엇이었는지에 관계없이 항상 동일한 확률분포(a priori probabilities)에 따라서 출력 심볼을 발생시킵니다...

예를 들어 봅시다.

DMS1:
어떤 binary DMS는 출력 심볼로 0혹은 1을 발생시키고 각각은 1/2과 1/2을 발생확률로 가집니다.
오랜기간 출력 심볼의 수열을 관찰하면 대략 0의 수와 1의 수가 비슷할것입니다.

DMS2:
또 어떤 binary DMS는 출력 심볼로 a와 b를 발생시키고 각각은 1/3과 2/3을 발생확률로 가집니다.

DMS3:
세번째는 출력심볼로 0과 1을 발생시키고 각각의 심볼은 1/3과 2/3을 발생확률로 가집니다.

이러한 어떤 DMS의 출력심볼 한 개를 관찰하여 얻을 수 있는 평균 정보량은 얼마나 될까요?
각각의 심볼을 관찰했을때 얻는 각각의 정보량은 얼마나 될까요?

이러한 정보량을 과연 "정의"할 수 있을까요?

다음 글부터는 이를 천천히 논의해봅시다...
번호 제목 글쓴이 날짜 조회 수
공지 논문에 영어작문 주의사항 몇 가지 송홍엽 2008.05.22 8347
공지 젊은 학부생 여러분에게... 송홍엽 2008.11.20 5809
공지 우리학과 대학원생 모두에게 (특히, 박사과정들에게) 하고싶은 말입니다. 송홍엽 2014.01.20 5756
89 [퍼온글] 우리전공의 학부생이 공부하면 좋을 수학과목 ?? 송홍엽 2003.03.23 6003
88 지금 내 전공분야는 공부한던 시절엔 나에게 가장 힘든 분야였답니다... 송홍엽 2003.06.03 4770
87 벡터공간이란 무엇일까.. 송홍엽 2003.10.06 5543
86 유클리디안 n차원 벡터공간 (and Online-HW1) 송홍엽 2003.10.06 7087
85 basis란.. (and Online-HW2) 송홍엽 2003.10.06 16023
84 디지털 이야기... 송홍엽 2003.10.06 3235
83 하다마드 행렬에 대해서 (part 1) [1] 송홍엽 2003.10.06 9301
82 [일반인을 위한 교양강좌] CDMA 통신기술 (2001.7) 송홍엽 2003.10.13 3467
81 채널코딩에 관한 첫번째 이야기 송홍엽 2003.10.13 4407
80 쉬었다가는 페이지 file 송홍엽 2003.10.20 3628
79 채널코딩 둘째이야기... 송홍엽 2003.11.12 5704
78 채널코딩 세째 이야기 송홍엽 2003.11.13 4921
77 Dr. Shannon 송홍엽 2003.12.07 8635
76 [공지] 게시판을 열면서 송홍엽 2004.03.30 3691
75 funny story 송홍엽 2004.04.01 11347
74 [퍼온글] 달력의 유래 송홍엽 2004.04.01 5114
73 유명한 퍼즐1 송홍엽 2004.04.01 3384
72 Golomb-Puzzle 2003.12 file 송홍엽 2004.04.02 3549
» DMS와 정보량 송홍엽 2004.04.04 3430
70 수집합이란... 송홍엽 2004.04.13 3506