고등학교 시절 읽었던 "수학의 약점"이라는 책은 많은 감명을 주었다. 역사에 빛나는 천재적인 수학자도 자신이 이룩한 놀라운 업적에 만족하기보다는 그 이후에 초래되는 모순점으로 인하여 - 그 당시에는 미완의 이론이므로 - 고민과 갈등을 겪었으며, 시간이 흘러 다음세대에 또 다음세대에 이를 해결해 나가는 과정의 연속으로 수학이 발전해왔음을 설명하는 내용이었다. 한가지 예로, 피타고라스의 정리를 들 수 있다. 피타고라스는 이 정리를 증명하여 몹시 기뻐했지만 실수집합에 존재하는 무리수의 존재를 허락할 수 없었던 시대의 인물로서 모순에 빠지게 된다. 당시에는 유리수가 촘촘히 실수를 구성한다고 믿었기 때문이다. 공과대학에서 가장 어려운 수학을 다루는 분야가 전자공학이라는 이유로 전자공학과를 선택하였고, 이러한 인연은 유학시절과 전공선택, 그리고 지금까지도 이어지고 있다. 대개는 가장 자신있는 분야로 진로를 선택함이 보통이건만, 난 거의 항상 그 반대로 선택한 경험을 가지고 있다. 지금 생각해보면, 내 자신이 가장 이해하기 어려운 분야가 가장 나의 흥미을 돋우었고, 이를 이해해 가는 과정에 심취하여 물불 안 가리고 덤벼든 과정의 연속이었다.
내가 초등학교 5학년을 마감할 무렵, 부모님께서는 주위의 권유로 나의 서울 유학을 고심하기 시작하시더니, 급기야 실행에 옮겨졌다. 공무원이신 아버지의 잦은 지방 이사로 3번째 초등학교를 다닐 때 이야기다. 5학년을 마감하는 한 겨울의 2월에 나는 서울에 왔다. 외삼촌 둘과 이모 둘, 이렇게 4명이 대학에 다니는 집에서 서울유학을 시작했고 4번째 초등학교에서 졸업장을 받았다. 중고등학교 시절, 강단 위의 선생님에게서 큰 감명을 받았고, 대개의 사춘기 청소년이 주변의 어른들로부터 많은 영향을 받듯이, 학생들을 가르치는 일이야말로 즐거운 직업이라고 느꼈던 기억이 있다. 이는 대학으로 이어져 내가 대학교수를 직업으로 선택하고자 노력하는 중요한 계기가 된다. 일찍이 유학준비를 서둘렀고, 졸업 후에는 미국 Los Angeles에 위치한 USC(University of Southern California)에서 석사과정을 시작할 수 있었다.
여러 가지 과정을 거쳐서 박사 과정에 오르니 지도교수를 결정하는 일이 가장 중요하게 되었다. 대개의 경우 전공이 무엇인지, 얼마나 빨리 졸업을 할 수 있는지, 경제적인 도움은 받을 수 있는지, 얼마나 많은 연구과제를 수행하고 있는지 등을 고려하여 지도교수를 결정하는데, 나의 경우에는 그 이유가 조금 달랐다. 나의 지도교수인 Golomb박사는 당시에 수학과에도 겸임하고 계신 분으로, 그 강의 방법이 특출하여 이전까지 내가 들었던 그분의 3과목 모두에서 큰 감명을 받았는데 (선형대수학, 정보이론, 고급 부호이론), 다행히 나의 성적도 우수하여 평생의 인연을 맺게 되었다. 지금, 나도 강단에서 수없이 강의를 행하지만, 이 분의 강의방식을 생각하면 그 내용의 넓고도 깊음과 유려한 언변, 효과적인 칠판 사용의 방법 등, 내가 따라가기란 매우 힘들게 느껴진다.
석사장교 훈련으로 군 제대 이후 88년 6월경에 다시 USC에 도착하여 그 해 가을 학기에 학위논문 제안서를 제출하였고, 본격적으로 학위논문 연구 과정에 들어가는 Qualifying exam을 치렀다. 박사 과정 수업과목 중 5과목을 택하여 치르는 이 시험은 아침 9시경에 문제지를 받아서 내 책상이 있는 방에서 하루종일 치르는 open-book형식의 시험인데 당락에 큰 부담은 없지만 나는 오후 6시까지 꼬박 문제를 푸느라 점심 샌드위치가 목에서 넘어가지 않던 기억이 생생하다. 이후 3년간 나는 오직 한 가지 문제에 몰두하여 지루하고도 긴 시간을 보냈다. 나의 전공 분야는 지도교수의 분야를 따라 조합이론(Combinatorial Mathematics)을 정보이론(통신이론)에 응용하는 것으로 군 통신(military communication) 분야와도 밀접한 관계에 있기 때문에, 이는 나중에 졸업에 즈음하여 취업에 막대한 지장을 초래하였다. 90년대 초반의 미국 경제는 수렁의 늪으로 빠져들고 있었는데, 거의 모든 기업에서 대량으로 해고(lay-off)를 실시하여 실직률이 매년 기록을 갱신하던 때였다. 그나마 일부 기업들이 내 전공 분야의 사람을 뽑을 때는 반드시 미국 시민권자 이어야 한다는 조건을 달기 때문에 영주권도 없는 한국 유학생으로서는 참으로 막막한 일이었다.
학위논문 연구 과정 중에는 나의 인생관에 또 하나의 큰 영향을 끼친 Taylor박사를 만나게 되었는데, 그를 설명하자면 바둑 이야기를 뺄 수가 없다. 그는 50년대 Berkely대학에서 수학 석사를 취득하고 JPL(Jet Propulsion Laboratory)에 근무하던 중 나의 지도교수를 알게 되어 그 밑에서 70년대 말에 박사 학위를 취득하고 USC에 연구 교수로 재직하던 중이었다. 젊은 시절 일본 유학생 친구와 집에 불이 난지도 모르고 바둑을 두었을 정도로 문제풀이에 대한 집중력이 뛰어났다. 당시 그와 나는 약 두 달 간에 걸쳐 통신시스템에 직결되는 부호이론의 여러 가지 수학적 문제를 집중적으로 분석·해결하였는데 거의 매일 학교 내의 coffee shop에서 만나 하루종일 토론과 실험을 하였다. 내 전공 분야는 연필과 빈 종이 몇 장이면 몇 시간이고 같이 이야기하며 여러 가지 접근을 시도해 볼 수 있다는 장점이 있다. 후에 이 결과는 나의 첫 학술지 논문이 되어 수학 논문지에 실렸는데 실제로 약 7페이지의 논문을 작성하는 과정에서 그는 나에게 참으로 혹독한 연습을 시켜 주는 역할을 하였다. 내가 졸업에 즈음하여 그는 San Diego에 위치한 어느 연구소로 옮기게 되었고 나는 USC에 남아 Post-doc으로 일하게 되어 잠시 헤어지는 듯 하였지만, 정확히 2년 후, 내가 다시 San Diego에 소재한 이동통신 회사 Qualcomm에 취업하면서 우리는 다시 만날 수 있었다. 회사에 다니던 시절, 낮에는 회사 업무에 바빠도, 밤에는 Taylor박사와 수없이 많은 토론과 문제풀이와 즐거운 이야기로 밤을 지새웠다. 당시에 제출한 두 편의 논문은 지금도 가장 아끼는 나의 연구결과이다.
물론 미국에서 처음 경험하는 회사의 업무는 흥미와 스트레스의 긴박한 시간으로 채워졌다. 무선통신분야는 그 속성상 실제 시스템설계 경험을 하기가 매우 어렵다. 무선 통신시스템이라는 것이 실험실에서 공부를 목적으로 설계제작 하기에는 너무 크고 방대한 것이어서 대개는 이론적으로 접근하고 컴퓨터 모의실험으로 검증하는 과정을 거치는게 고작이다. 그러나 Qualcomm사의 경우는 좀 유별났다. 나는 표준화그룹에서 소위 CDMA 이동전화기를 위한 시스템설계와 관련하여 회사가 추진 중이던 표준안 작성을 위한 공학기술적 설계와 검토를 행하던 팀에서 일하였는데, 이 팀에서 만들어진 시스템은 한편으론 바로 회로설계와 반도체 칩(chip) 설계제작으로 이어지고, 또 한편으론 북 미주와 국제적인 통신사업자 회의에서 표준안으로 채택시키기 위하여 노력하는 와중이었다. 물론 한국의 유수 통신관련 회사에게 기술이전도 이루어지고 있었다. 수학적 통신이론만을 공부한 초급 공학박사에게 현실감 있는 통신시스템 설계라는 업무는 상당히 도전적인 과제였다. 졸업논문의 주제나 Post-doc시절의 연구내용과는 사뭇 달랐지만, 통신이론의 기본기 위에 주위의 동료와 상사의 도움으로 CDMA 이동전화 시스템의 최소 성능 평가안 작성에 기여할 수 있었다. 진정으로 공학도의 기쁨을 맛볼 수 있는 시기였다. 현재 우리나라가 상용화에 세계최초로 성공한 CDMA 이동전화기의 핵심기술인 무선접속부에 관한 전반적인 내용이 그 당시에 Qualcomm에서 완성되고 있었다.
전공분야를 좀더 자세히 들여다보자. 통신이론분야는 너무도 광범위하여 사실 전혀 다른 일을 하여도 통신이론이라는 이름으로 일괄적으로 분류되기 쉽다. 무선통신이론은 약 50년전 수학자이자 공학자인 Shannon에 의해 정보이론이라는 새로운 분야로 거듭 태어나게 되는데, 이는 그 이론적 바탕을 확률이론과 통계이론에 두기 때문이다. 정보이론에서는 통신시스템의 성능한계에 가장 큰 비중을 두고 이론을 전개한다. 인접분야인 통신신호처리분야에서 주어진 통신신호를 잘 처리하여 성능을 증대시키고자 노력하는 것과는 달리, 주어진 시스템의 최적화된 알고리듬을 바탕으로 도달할 수 있는 성능의 한계식을 결정하고자 노력하며, 더 중요한 목적은 (심지어 아직 개발되지도 않은 방법을 포함하여) 가능한 모든 방법을 동원하여도 도달할 수 없는 성능의 영역을 결정하고자 노력한다. 이는 반대로 뒤집어 보면 도달할 수 있는 영역에 대한 정점을 설명한다. 이를 위한 세부분야 중에서 "오류정정 부호이론"이 나의 전공 분야인데, 이는 크게 두 가지 관점으로 설명된다. 첫째는 잘 설계된 오류정정부호를 이용하여 통신시스템에 적용하고 그 성능의 향상을 도모하는 분야이다. 즉, 통신시스템에 어떤 오류정정부호를 사용할지와 이를 어떻게 변형하여 사용할지를 고민하는 일이다. 주로 통신 시스템 설계가 주요 목적인 기업에서는 많은 관심을 가진다. 둘째는 일반적인 오류정정부호의 특성을 정의하고 이에 관한 특성을 연구하는 일이다. 즉, 가상의 적용시스템을 가정하고 여기에 최적합한 새로운 오류정정부호를 찾는 일과 더불어, 이렇게 찾아진 오류정정부호의 다양한 특성을 규명하는 일이다. 물론 향후 적용 가능한 시스템이 나타나기를 기대할 수 있다. 이 분야는 암호이론과 관련하여 최근 응용수학자들 사이에서도 큰 관심이 되고 있으며, 대학이나 연구소에서 많은 관심을 가진다. 이미 널리 상용화된 음악CD와 음원파일에 사용되는 오류정정부호는 50년대 말에 Reed와 Solomon에 의해 처음 발표되었으며 70년대에 이르러서야 상용화되었고 현재 디지털 정보 저장 기기에 필수적으로 사용되는 핵심기술로 자리잡았다.
오류정정부호는 현재 대표적으로 다음의 6가지 분야에 응용되고 있다. (1) 우주 및 위성통신 시스템 (2) 유선 통신망의 데이터 전송 (3) 데이터 저장 기기 (4) 디지털 영상/음성 전송 (5) 디지털 이동전화 시스템 (6) 인터넷 파일전송. 디지털 정보처리가 더욱 중요해지는 요즈음의 세태를 바라보면 오류정정부호의 중요도는 더욱 증가할 것이다. 응용 면에서 통신이론에 기반을 두지만 오류정정부호의 이론적 토대는 대수학(Algebra)이 주류를 구성하며, 정수론(Number Theory), 조합론(Combinatorial Mathematics)등이 긴요하다. 본 연구분야의 어려움이 여기에 있다. 전자공학을 전공하는 경우 수학적 배경이 부족하고, 순수수학을 전공하는 경우 전자공학적 배경이 부족해진다. 이를 연결할 복합 학문적 접근이 필요한 분야이다.
길다면 긴 12년간의 미국생활을 정리하고 연세대학에 조교수로 부임한 초기에는 어려움도 많았지만, 이제는 아직 밝혀지지 않은 부호의 수학적 특성을 조사하고 그 내부에 존재하는 조화와 아름다움을 찾아내는 일이야말로 대학에 재직하면서 연구활동을 수행하는 큰 즐거움이다. 이제 돌이켜보면 수많은 선택의 기로에서 돌고 돌았던 기억은 아련한 추억으로 남아서 아름다와 보이지만, 당시에는 정말 어려운 결정들이었다. 몇 번의 기회가 있었고, 이 과정에서 내린 나의 결정에 후회는 없다. 요즈음도 몇몇 졸업생이 유학을 떠난다며 인사차 들리곤 한다. 주로 나는 "참 재미있을거다"라는 말로 흥미를 돋아준다. 나름대로 어려운 결정을 내린 것에 대해 칭찬도 아끼지 않는다.
선택의 방법에 대하여 이야기 해보자. 나의 경우 항상 나의 모자란 분야가 흥미를 돋우었다. 자신을 극복해가는 도전적 과정인 것이다. 처음 접할 때는 이해하기 어려운 내용지만, 그 분야의 진정한 전문가를 만나게 되고, 그들의 도움과 부단한 노력으로 그 맛을 느낄 때면 나 자신이 어느 경지에 이르렀음을 실감하게 된다. 나에게 이러한 도움을 준 많은 사람들에게 감사한다. 대학시절의 여러 교수님과 유학시절의 지도교수인 Golomb박사, Taylor박사, 그리고 Qualcomm사에서 근무할 당시 나의 상사이신 Tiedemann박사가 그러하다. 이렇게 좋은 사람들을 만날 수 있었던 것은 행운이었다. 전자공학과를 선택한 경위와 유학을 결정하면서 전공선택과 지도교수를 정하는 과정, 그리고 회사와 그 업무를 정하는 과정에서도 나는 당시 상황에서 내가 가장 힘들어하는 분야로 뛰어들었고, 많은 사람들의 도움과 스스로의 부단한 노력으로 그 분야를 나의 전공분야로 만들어갔다. 이는 그 어떤 보상이나 경제적 논리로 설명할 수 없으며, 오직 자신의 한계를 극복하는 과정과 성취의 기쁨에 기반을 둔 선택인 것이다. 이점이야말로 오늘날 많은 젊은 세대에게 하고픈 이야기의 핵심을 이룬다. 돈과 명예는 흘러가지만 자신이 성취한 일에 대한 보람과 기쁨은 의식이 살아 있는 한 계속되기 때문이다.
(오류정정부호의 응용에 관한 편집의 글: 2015년 한국통신학회 정보와 통신 6월호)
오류정정부호(Error Correcting Codes, ECC)는 약 65년전 Dr. C. E. Shannon이 완벽한 reliability를 가져다 줄 수 있으며 그러한 코드가 실제로 존재한다고 증명한 이후 많은 관심의 대상이었으며, 블록부호와 대수학적 복호방식과 컨벌루션 부호와 비터비 복호방식이 경쟁을 거듭하다가 종국에는 이 둘이 합성되어 많은 성과를 이루었는데, 최근에는 터보 부호와 LDPC 부호의 출현으로 사실상 Shannon이 예견한 코드가 찾아진 상황입니다. 오류정정부호는 시기를 막론하고 항상 차세대 통신시스템의 근간을 이루고 있지만, 오늘날 오류정정부호는 통신 채널의 reliability 뿐만 아니라 너무도 다양한 분야에서 응용되고 있습니다. 이번 호에는 이러한 다양한 분야를 간략히 소개하는 여섯 편의 논문을 모았습니다.
첫째 논문 “분산 저장 시스템을 위한 부분접속 복구부호”는 Big Data 시대에 다양한 저장 장치의 reliability를 높이는 방법에 관한 내용이며, 오래전 연구되었던 블록부호이론의 많은 부분을 사용합니다만, 적은 양의 패리티를 사용하여 빠르고 간단하게 복구하기 위한 추가의 노력이 필요한 연구분야 입니다. 둘째 논문 “오류정정부호를 이용한 실용적 분산 비디오 부호화 기술”은 비디오 부호화 분야의 새로운 패러다임을 개척하는 내용으로 여기에서 ECC는 채널의 오류정정이 아닌 비디오 정보의 전송량을 줄이는 역할을 수행합니다. 셋째 논문 “NAND Flash 메모리 저장 장치에서의 Error Control Code 응용”은 최근 화두가 되고 있는 NAND Flash 메모리 저장 장치의 reliability를 높이기 위한 방안으로서 ECC의 역할을 다루고 있습니다. 통신 채널과는 매우 다른 환경이기 때문에 이에 맞추어 전혀 다른 종류의 접근 방식을 사용하고 있습니다.
나머지 세 편의 논문은 암호이론 분야로의 응용을 다루고 있습니다. 넷째 논문 “부호 기반 McEliece 암호 체계와 안전성 분석”은 이제 양자 컴퓨터 시대에도 안전성이 유지될 것으로 예견되는 ECC 기반 암호체계에 대한 내용입니다. 다섯째 논문 “랜덤선형부호의 복호화 문제와 그의 암호학적 응용”은 기존의 간단한 블록부호에 임의로 오류를 주입하여 암호화 방식에 적용하는 문제를 다루고 있습니다. 주입하는 오류의 크기를 ECC가 해결할 수 있는 범위로 한정한다면 매우 우수한 암호화 프로토콜을 만들어낼 수 있다는 내용입니다. 여섯째 논문 “Error Correction Codes for Biometric Cryptosystem: An Overview”는 생체인식 암호화에 ECC가 사용되는 모습을 다루고 있습니다.
위의 여섯 편의 논문 각각은 통신채널의 reliability증대가 아닌 목적이지만 해당 분야의 기술을 가능케하는 수준의 핵심적 역할을 담당하는 오류정정부호의 역할을 소개하고 있습니다. 이 논문들이 부디 회원님의 연구 활동에 많은 도움이 되길 바라며, 지난 수개월 동안 수시로 독촉 이메일에 시달렸을 모든 저자에게 감사의 말씀을 드립니다.