독일군의 에니그마 암호기. 인문학 중심으로 암호를 해독하던 수백년의 전통을 단숨에 깨부셨다.
독일군의 에니그마 암호기. 인문학 중심으로 암호를 해독하던 수백년의 전통을 단숨에 깨부셨다.

 

아마 폴란드와 2차 대전 이야기가 나왔으니 짐작하실 분들이 계시겠지만, 폴란드가 2차 세계대전에 가장 크게 공헌한 것은 금속탐지기도, 잠망경도 아니다. 심지어 수십만 폴란드 망명 병사들의 고군분투도 아니었다. 물론 그들의 사투가 전쟁이 끼친 영향은 무시할 수 없겠지만, 그들의 희생 이상으로 큰 공헌을 한 것이 있다. 문자 그대로 2차 세계대전에서 누가 이기고 지는지를 좌우한, 어마어마한 발명은 폴란드가 아니었으면 훨씬 늦어졌을 것이다. 엄밀하게 따지면 하나의 물건을 발명한 것은 아니지만, 바로 “암호 해독”이다.

영화 “이미테이션 게임” 때문에 독일 에니그마 암호의 해독은 영국의 앨런 튜링이 다 한 것처럼 인식하는 사람들이 많지만, 막상 튜링 본인조차 그렇게 주장하지 않았다. 당장 영국에서도 엄청나게 많은 인력이 에니그마 암호기를 뚫기 위해 애썼다. 하지만 폴란드에서 미리 닦아놓은 바탕이 없었다면 훨씬 많은 시간과 노력이 있어야 가능했을 것이고, 최악의 경우 암호 해독 실패로 영국이 패망했을 가능성마저 아주 무시할 수는 없다.

폴란드는 이미 1919~1921년 사이에 소련과 전쟁을 벌이던 때 부터 암호해독의 중요성을 뼈저리게 깨달았다. 폴란드는 소련군의 무선 암호를 풀기 위해 언어학자나 고전학자등으로 구성된 암호 해독팀을 모았는데, 이들은 대성공을 거두었다. 소련군의 무선 암호문을 지속적으로 해독하는데 성공해 전세에 큰 영향을 끼친 것이다. 그리고 이 때의 교훈으로 폴란드는 국력에 비해 상당한 수준의 암호해독 능력을 유지하게 된다.

이들은 곧 또 다른 가상적국인 독일의 암호에도 시선을 돌린다. 처음에 이들의 암호 해독은 성공적이었다. 그러나 1920년대 중반부터 독일 해군에서 뭔가 이상한 암호 전문을 보내기 시작하면서 상황이 완전히 변했다.

독일 해군이 보낸 암호문은 기존의 방법으로는 도저히 해독할 수 없었다. 그도 그럴 것이 말 그대로 ‘사람이 아닌 것’이 만들었기 때문이다. 바로 에니그마 암호기의 등장이다. 기계의 힘으로 말도 안되는 막대한 경우의 수를 만들어 버리는 기계의 등장은 그야말로 ‘게임 체인저’였고, 언어나 문학등으로 ‘사람의 두뇌’를 읽으려 했던 기존의 암호해독 방법은 전혀 통하지 않았다.

마리안 레예프스키 (1905~1980). 에니그마 암호를 해독한 영광은 앨런 튜링보다 이 사람에게 돌아가는게 맞을 듯.
마리안 레예프스키 (1905~1980). 에니그마 암호를 해독한 영광은 앨런 튜링보다 이 사람에게 돌아가는게 맞을 듯.

 

폴란드군의 암호국은 곧 새로운 게임의 룰에 적응해야 함을 깨닫고 20명의 수학자들을 고용했다. 이미 ‘사람의 룰’이 아니라 ‘기계의 룰’을 따라야 하는 시대가 됐기 때문이다. 그 중에서도 ‘폴란드 3인방’으로 알려진 마리안 레예프스키, 헨리크 지칼스키, 예지 루지츠키의 세 명이 두각을 나타냈는데, 이들의 노력과 맞물려 큰 성과를 낸 것이 바로 프랑스의 노력이었다.

프랑스 정보당국의 방향은 정 반대, 즉 ‘고전파’였다. 그들은 독일군 관계자를 매수해 1932년 가을 무렵에는 독일군의 에니그마 사용 교범은 물론이고 일간 암호설정 초기값(일명 ‘열쇠’)등의 각종 정보를 입수할 수 있었고, 이런 정보들은 폴란드에도 전달되었다. ‘폴란드 3인방’을 위시한 폴란드 암호국의 전문가들은 밤낮없이 이런 저런 정보들에 매달린 끝에 마침내 독일군용 에니그마의 복제품을 만드는데까지 성공했다. 사실 에니그마는 민수용으로도 판매되는 물건이고 폴란드도 민수용을 진작에 입수했지만, 군용 에니그마는 민수용과는 또 달랐던 것이다. 폴란드 암호국은 이것을 실제 기기를 보지도 않고 추측과 계산을 통한 역설계로 거의 완벽하게 구조를 재현할 정도였다.

이렇게 해서 폴란드는 마침내 30년대 중반 무렵에는 에니그마 암호의 해독에 성공은 했다. 문제는 해독 그 자체가 아니라 시간이었다. 너무 시간이 걸려 해독이 끝날 무렵에는 이미 큰 의미가 없어질 경우가 비일비재했기 때문이다. 암호 해독이 그냥 해독 그 자체가 중요한게 아니라 타이밍 역시 중요하다는 점을 생각하면 이것은 큰 문제였다.

폴란드는 이 문제를 ‘기계와 싸우려면 기계로’라는 식으로 대응했다. 에니그마의 원리를 역이용해 일종의 암호 해독 보조기인 ‘봄바(Bomba)’를 만든 것이다. 이것의 원리까지 설명하라면 복잡하지만, 이것 한 대가 100명분의 계산을 해 낸다고 할 정도였으니, 암호 해독의 효율은 비약적으로 향상됐다.

폴란드가 만든 암호해독 보조기 봄바(Bomba)의 상상도. 실물은 폴란드가 패전 직전에 완전히 파괴했고 마리안 레예프스키가 남긴 스케치를 기초로 그린 상상도들만 존재한다.
폴란드가 만든 암호해독 보조기 봄바(Bomba)의 상상도. 실물은 폴란드가 패전 직전에 완전히 파괴했고 마리안 레예프스키가 남긴 스케치를 기초로 그린 상상도들만 존재한다.

 

1938년까지 6대의 봄바가 완성되었고, 독일이 발신한 에니그마 암호는 이제 75%까지 폴란드의 손에 함락(?)됐다. 특히 독일 공군의 보안태세가 워낙 허술해 공군 암호문들이 가장 손쉽게 해독되고 있었다. 하지만 1938년 12월에 재난이 찾아왔다. 독일은 자신들의 에니그마 암호가 뚫리고 있다고는 생각하지 않았지만, 그래도 만의 하나를 대비하는 차원에서 에니그마를 개량했다. 내부에 들어가는 핵심 부품인 회전자의 종류를 5개로 늘리고 그 중 3개를 골라 넣어서 사용하게 한 것인데, 이렇게 되자 폴란드의 암호 해독 성공확률은 다시 바닥으로 떨어졌다.

결국 1939년 7월 25일, 자신들의 힘 만으로는 한계에 봉착했다고 느낀 폴란드는 자신들이 에니그마 암호를 해독하고 있었다는 사실을 영국과 프랑스 정보당국에 털어놓고 모든 자료를 공유하기로 했다. 그리고 그로부터 두 달 뒤 폴란드는 지도 위에서 사라졌다.

하지만 폴란드는 사라졌어도 이들의 연구 결과는 고스란히 영국에 전해졌다. 그리고 이들의 연구 결과가 끼친 영향은 어마어마했다. 영국의 에니그마 암호 해독은 그야말로 폴란드가 닦은 터 위에 지은 집이나 마찬가지였기 때문이다. 영국에서 육군과 공군의 암호 해독을 담당했던 블레칠리 파크의 6번 연구소 담당자인 고든 웰치먼은 “만약 폴란드인들의 성과가 없었다면 우리는 시작조차 못 했을 것”이라고 털어놓을 정도였다. 앨런 튜링이 만들어 에니그마 암호 해독에 엄청난 역할을 맡은 영국의 암호해독기 ‘봄(Bombe)’ 역시 폴란드의 ‘봄바’가 없었다면 개발이 안 됐거나 설령 개발되더라도 훨씬 오랜 시간이 걸렸을 것이다(비록 봄바는 1939년 9월에 독일군의 손에 넘어가지 않게 완전히 파기됐지만, 앨런 튜링은 봄의 개발 과정에서 폴란드 암호해독팀을 몇 차례 만나 봄바에 대한 설명을 듣고 봄을 어떻게 만들지 논의한 바 있다).

영국에 복원된 봄(Bombe). 영국이 만든 암호해독 보조기다. 모양은 달라도 기본 원리는 봄바와 유사하다. 간단하게 말해 수많은 에니그마를 한 대 모은 것이라고 보면 된다.
영국에 복원된 봄(Bombe). 영국이 만든 암호해독 보조기다. 모양은 달라도 기본 원리는 봄바와 유사하다. 간단하게 말해 수많은 에니그마를 한 대 모은 것이라고 보면 된다.

복원된 봄(Bombe)의 가동 모습. 국내 매체들에서 '봄비'혹은 '봄브'라고 부르는 경우가 많지만 실제 발음은 '봄'에 가깝다.

 

에니그마 암호를 해독한 것은 “최소 2년, 어쩌면 4년 일찍 전쟁을 끝냈다”는 평가를 받는다. 즉 폴란드의 암호 해독은 2차 세계대전의 승전에 엄청난 기여를 했다는 이야기다. 하지만 이들의 성과는 한동안 거의 잊혀졌는데, 여기에는 이유가 있었다.

전쟁중에 프랑스로 피신한 폴란드 암호해독팀은 1942년까지 프랑스 비시 정부 지역에 머물러 있다가 1942년 11월에야 스페인으로 피신해 1943년이 되어서야 영국에 도착한다. 하지만 영국 정부는 2년이나 적지에 있다가 돌아온 이들이 보안상 어떤 문제가 있을지 장담할 수 없어 영국 블레칠리 파크의 암호해독반에 합류시키지 않았고, 또 보안상의 이유로 이들에 대한 언급도 최대한 자제했다. 

또 동서 냉전의 시작으로 영국은 1970년대까지 에니그마 암호 해독에 관한 이야기를 철저하게 비밀에 붙였고, 또 폴란드인들에 대한 이야기도 의도적으로 피했다. 상당수의 폴란드 암호해독 전문가들이 공산화된 폴란드로 귀국한 뒤였고, 이들이 어떤 취급을 받을지 예상할 수 없었기 때문이다. 실제로 마리안 레예프스키를 포함한 귀국 폴란드 암호 전문가들은 자신들이 전쟁중에 뭘 했는지를 철저하게 함구했다가 1960년대 후반이 되어서야 사실을 공개하기 시작했다. 이런 와중에 폴란드의 공헌은 점점 잊혀져 간 것이다.

그 결과 ‘이미테이션 게임’에서 이들의 노력은 겨우 한 줄 대사로 처리되지만, 폴란드인들의 노력이 없었다면 역사는 우리가 아는 것보다 훨씬 안 좋은 쪽으로 바뀌었을지도 모른다.

저작권자 © 월간 플래툰 무단전재 및 재배포 금지