양자물리학 알기(3): 실재(實在) 논쟁과 '숨은 변수'?

1. 제5차 솔베이 회의에서의 실재(實在) 논쟁(1927)

제5차 솔베이 회의(Solvay Conference)가 전자와 광자에 관한 주
제로 브뤼셀에서 열린 것은 코모 회의를 끝내고 불과 한 달 뒤의 일이
었다. 최고 과학자로 초청 받아야만 참석할 수 있는 이 회의에는 아인
슈타인과 슈뢰딩거도 참석했다. 어느덧 양자물리학계의 거목으로 성
장한 보어는 여기에서 하이젠베르크와 함께 그들의 양자이론을 설득
력 있게 해석하는 일에 주력했다. 아인슈타인은 보어가 불확정성원
리에 의한 해석을 강조하기 위해 도입한 상보성 원리(complementary
principle)를 받아들일 수 없다고 주장했다. 아인슈타인은 자연현상은
확률적인 방법에 의해서가 아니라 엄격한 인과법칙으로 설명되어야
한다고 주장했다. 아인슈타인에 의하면 불확정성이 발생하는 이유는
다만 ‘숨은 변수’를 찾지 못해서일 뿐이다. 아인슈타인은 제대로 관
측하지도 않고 실재를 불확정적으로 해석하는 것은 물리학이 아니라
고 생각했다. 아인슈타인은 고전물리학에서처럼 양자의 물리량과 위
치도 동시적 측정이 가능하다고 주장했다. 아인슈타인은 양자이론이
아직 불완전한 것은 인간이 알지 못하고 있는 물리적 ‘숨은 변수’를 고
려하지 않은 것 때문이라는 비판을 멈추지 않았다. 그렇다면 물리학
은 이 ‘숨은 변수’를 찾아내는 것이 과제가 되어야 한다. 보어와 아인
슈타인의 지지자들이 갈렸으나, 보어의 지지자들이 훨씬 많았다. 그
러나 코펜하겐 해석을 두고 논쟁은 계속되었다.

일찍이 프랑스의 과학자 라플라스(Laplace, Pierre Simon; 1749-1827)
는 “만약 우주에 있는 모든 물질의 현재 상태를 모두 알고 있는 생물
이 있다면, 그 생물은 우주의 미래에 대한 모든 것을 완벽하게 예측할
수 있을 것.”이라고 말했고, 고전물리학 시대의 기계적 우주론을 믿
는 사람들은 그것이 가능하다고 생각했다. 왜냐하면 그들은 고전물
리학적 법칙을 통해 원자로 구성된 우주의 모든 실재(reality)적 현상
을 분명하게 예측할 수 있다고 믿었기 때문이다. 그러나 20세기에 새
로 시작된 양자물리학에 의하여 이 믿음은 깨어지고 말았다. 원자 내
부에 있는 더 작은 입자들이 발견되면서 우주의 실재적 현상은 이것
들의 상호작용에 의한 생성과 소멸의 과정에서 나타나는 것이라는 사
실이 드러났다. 그리고 상호작용하는 입자들의 위치와 물리량은 결
정론적이 아니라, 확률적으로만 관측되었기 때문이다. 더욱이 인간
의 측정 도구는 입자들의 현상에 영향을 주지 않고는 측정하지 못하
는 한계를 가지고 있었다. 그러므로 고전물리학 이론이 필연의 결과
를 예측할 수 있다고 주장했다면, 양자물리학 이론은 불확실한 측정
치를 기반으로 확률적인 결과를 예측할 수밖에 없다고 주장한다.

 

양자물리학에 의하면 우주는 단지 확률적 실재로 구성되어 있을 뿐이
다. 확률은 우연과 필연의 조합이다. 확률적 실재는 가능성의 함수일
뿐이며, 결과적으로는 함수가 붕괴되는 순간에야 비로소 실재로 확
정될 수 있다. 라플라스가 주장하는 것처럼 미래를 완벽하게 예측하
는 생물이 우주에서 발견될 수는 없다. 양자물리학적 관점에서는 인
간은 다만 실재에 대해 현상을 근사치로 측정하고, 그 측정치를 확률
적으로 해석할 수 있을 뿐이다.

슈뢰딩거는 강연에서 막스 보른과 하이젠베르크의 확률적 파동 해
석을 반대했다. 그는 보어의 양자도약 개념에 대해서도 비판을 제기
했다. 보어는 이에 맞서 코펜하겐 해석이 ‘더 이상 수정이 필요 없는
완성된 이론이라고 생각’한다고 주장했다. 이제 쟁점은 드러났다.
보어에게는 관측된 것만 실재였으나, 아인슈타인과 슈뢰딩거에게 실
재는 관측과 상관없이 별개로 존재하는 것이었다. 보어에게는 관찰
이나 측정을 넘어서는 실재는 과학적으로 의미가 없었다. 이로부터
아인슈타인과 보어 사이에 실재론과 양자물리학 이론의 완전성에 대
한 논쟁이 공개적으로 시작되었다. 결국 두 명의 천재 물리학자 사이
의 논쟁은 ‘물리학의 영혼과 실재의 본질에 대한 것’으로 발전했다.
로렌츠가 일반토론회에서 이 문제를 주제로 사회를 진행했다.

아인슈타인은 여기서 전자 또는 광자 빔이 통과하는 슬릿과 뒤에
스크린이 있는 그림을 보여주며 반론을 시도했다. 빔에 의하여 발사
된 전자는 슬릿을 통과하여 스크린 어느 곳에서나 발견될 가능성이
있다. 그런데 코펜하겐 해석에 의하면 전자가 어느 지점(A)에서 발견
된 순간 다른 지점에서 발견될 확률은 0으로 확정된다. 말하자면 전
자는 파동으로 진행하다가 충돌 순간에 A지점에서 입자로 바뀐 흔적
을 남기고 파동함수는 붕괴되는 것이다. 그렇다면 A지점에서 발생한
파동함수의 붕괴 순간에 다른 모든 곳에서 파동함수가 0으로 바뀌도
록 미친 영향은 어떻게 전달되었는가? 파동함수 붕괴의 발생 원인과
결과 사이에 빛보다 빠르게 어떤 정보의 전달이 어떻게 이루어질 수
있단 말인가? 빛보다 빠른 정보의 전달이 가능하다고 암시하는 양자
이론은 특수상대성 이론을 위반하는 것이 되므로 아인슈타인으로서
는 인정할 수 없다. 그러나 보어는 처음에는 아인슈타인의 의도를 제
대로 이해하지 못하고, 위치와 운동량의 측정에 불확정성 제거는 무
한한 질량의 슬릿판과 스크린이 가정되어야 한다고 주장했다. 사고
실험에서 무한한 질량은 슬릿판과 스크린을 전혀 움직일 수 없게 만
들기 위해 필요한 것이지만, 현실적으로는 불가능한 조건이다.

그러자 아인슈타인은 단일 슬릿에다 이중 슬릿을 하나 더 추가한
사고실험을 제안하고 입자의 궤적을 추적하여 입자의 위치와 운동량
을 동시에 확정할 수 있다고 주장했다. 이로써 아인슈타인은 코펜하
겐 해석의 불확정성 원리와 상보성 원리를 모두 반론했다고 생각했
다. 그러나 보어는 아인슈타인의 반론을 물리칠 방법을 찾아냈다. 보
어는 입자의 위치와 운동량을 측정하기 위해 빛을 비추면 그 빛의 충
격 에너지만큼 스크린이 더 움직일 것이고, 빛을 비추지 않으면 측정
은 불가능하다는 주장으로 불확정성 원리를 방어했다. 그리고 물질
의 이중성을 설명하는 상보성 원리는, 간섭 패턴이 단일 슬릿 실험에
서는 나타나지 않지만, 이중 슬릿 실험에서는 나타나는 현상을 이용
해서 방어했다. 물질의 이중성은 대표적으로 보어의 상보성 원리를
필요로 하는 현상이다. 아인슈타인은 보어의 방어를 뚫지 못했다. 그
러나 그는 양보하기를 거부하고, ‘신은 주사위 놀이를 하지 않는다’는
말을 구호처럼 되풀이했다. 보어는 ‘그렇지만 신에게 세상을 어떻게
움직여야 한다고 말해주는 것이 우리일 수는 없다’라고 응수했다.
이후 아인슈타인은 재반론에 실패하고 ‘그런 이론이 진리라는 것을
참으로 깊이 믿는다’고 뒤로 물러섰다. 그러나 그는 다른 방법으로 새
로운 반격을 생각하고 있었다. 1928년 폴 디랙은 디랙 방정식을 발표하면서

전자(+)와 질량이 동일하면서도 전하는 반대인 양전자(-)의 존재를 예견했다.

그러나 당시에 디랙의 양전자 주장은 조롱을 받았다.

 

2. 제6차 솔베이 회의에서의 실재 논쟁(1930)

 

3년 뒤 제6회 솔베이회의에서 아인슈타인은 보어에게 빛 상자
(radiationbox) 사고실험을 제안하면서 다시 양자이론의 불완전성을 입
증하려고 반격했다. 빛으로 가득 찬 상자는 저울에 연결된 용수철에
매달려 있고, 정확한 시계와 연결된 조리개를 장치하고 있다. 아주
빠른 속도로 조리개를 열었다가 닫으면, 저울은 빠져나간 광자의 무
게만큼 눈금이 올라갈 것이다. 그렇다면 조리개의 여닫힌 순간의 시
계와 저울의 눈금을 보면 시간과 질량을 정확하게 측정할 수 있으므
로 불확정성은 제거될 것이 아닌가? 아인슈타인은 이 장치를 상보성
변수의 쌍에 해당하는 시간과 에너지의 양을 동시에 측정할 수 있게
만들어진 것으로 생각했다. 광자의 에너지는 질량-에너지 등가 공식
(E=mc²)을 이용하면 된다. 아인슈타인의 제안에 보어는 쉽게 대답을
하지 못하고 며칠을 두고 고심했다. 그러나 보어는 마침내 아인슈타
인이 제안한 빛 상자 사고실험이 그의 상대성 이론조차 고려하지 않
았다는 사실을 발견했다. 실험에서 방출된 광자의 무게만큼 빛 상자
의 위치는 위로 올라갈 것이고, 그렇게 되는 순간 상대성 이론에 따라
중력의 변화에 의해 아주 미세하게나마 시간이 휘어지는 현상이 발
생할 것이다. 그렇다면 빛 상자의 위치의 변화와 광자의 방출 시간은
정확하게 측정될 수 없다. 아인슈타인의 빛 상자 사고실험은 그의 상
대성 이론조차 고려하지 않았다는 보어의 반격에 밀려 좌절되고 말
았다. 아인슈타인은 이후 양자이론에 모순이 없다고 공개적으로 인
정했다. “그러나 내 견해로는 어떤 불합리성이 포함되어 있습니다”는
말을 빼놓지 않았다.

 

아인슈타인은 양자이론의 반론에 실패했지만, 양자이론이 ‘숨은
변수’를 간과하고 있다는 주장까지 철회한 것은 아니었다. 아인슈타
인은 이때부터 실재를 완전하게 입증할 ‘숨은 변수’를 찾는 여행을
떠났다. 승자 보어가 양자물리학계의 깃발을 차지하였다. 과학은
이와 같이 과학자들이 서로 논쟁하는 과정에서 자극을 주고받으면
서 더욱 심층적인 연구로 발전되는 것이다. 보어와 하이젠베르크는
아인슈타인의 ‘숨은 변수’ 주장에 대해 승리의 깃발을 코펜하겐 진
영에 꽂아놓았다.

 

1932년에는 양자물리학에 중요한 진전이 세 가지 있었다. 첫째는
저명한 수학자 존 폰 노이만(John von Neumann, 1903-1957)이 『양자역
학의 수학적 기초』를 출판하여 ‘숨은 변수’를 포함하면, 양자이론의
수학적 재현이 불가능하다고 증명했다. 노이만의 불가능성 증명은
수학자로서 뛰어난 그의 명성에 힘입어 20년 이상 ‘신성불가침한’ 권
위를 유지할 수 있었다. 노이만의 불가능성 주장은 아인슈타인의
숨은 변수이론에는 타격을 주었고, 이를 반대하는 보어에게는 커다
란 힘이 되었다. 둘째는 우주에서 지구로 쏟아져 들어오는 우주선(宇
宙線 cosmos ray)에서 폴 디랙이 예견했던 전자(-)의 반입자인 양전자
(+)의 존재가 칼 앤더슨(Carl David Anderson, 1905-1991)에 의하여 실제
로 발견되었다. 디랙은 한동안 조소를 받았지만, 양전자의 발견은 상
황을 180도로 급변시켰다. 양전자는 디랙에게 노벨상(1933)을 안겨주
었을 뿐만 아니라 앤더슨에게도 노벨상(1936)을 안겨주는 황금거위 알
이 되었다. 셋째는 채드윅(Sir James Chadwick, 1891-1974)이 스승인 러
더퍼드가 발견한 양성자에 전하를 갖지 않은 입자가 함께 묶여있음을
발견하고 이를 중성자(neutron)로 명명했다. 그는 러더퍼드가 발견하
여 양성자라고 명명한 원자핵이 실제로는 2개의 양성자와 2개의 중
성자로 구성되어 있는 헬륨의 원자핵이라는 것을 밝혀냈다.

 

그리하여 양성자와 중성자로 구성된 원자핵과 타원형의 전자 궤도를

가진 수정 원자모델이 등장하게 되었다. 다만 원소 주기율표 제1번에

위치하여 모든 원자들의 기초가 되는 수소의 원자핵은 1개의 양성자와

1개의 전자만을 갖고 있다. 그러므로 수소는 외부의
전자와 양성자를 끌어들여 다른 원자로 전환하거나 결합하기가 가장
쉽다. 제2번 원자는 헬륨이고 3번 원자는 리튬이다. 사실 우주물질은
거의 수소와 헬륨이 차지한다. 우주물질에서 수소는 약75%, 헬륨은
약 24%이고 다른 원소들은 약1%에 불과하다. 그러므로 우주를 이루
는 기본 물질의 대부분은 수소와 헬륨이다.

양자물리학은 코펜하겐 해석에서 보는 것처럼 결정론에 바탕을
둔 고전물리학적 개념이나 일반적 상식으로는 쉽게 동의할 수 없는
이론이 수두룩하다. 양자물리학의 아버지 막스 플랑크와 파동방정식
을 제안했던 슈뢰딩거도 아인슈타인과 함께 코펜하겐 해석에 반대했
다. 플랑크는 반론까지 내놓지는 않았지만, 슈뢰딩거는 달랐다. 슈뢰
딩거는 자신이 만든 파동방정식을 자신과 달리 해석하는 막스 보른의
파동해석을 코펜하겐 해석에 도입했기 때문에 아인슈타인의 반대 활
동에 적극적으로 가세했다.

 

1933년 나치 세력의 확장에 의한 바이마르 공화국의 붕괴와 히틀
러의 등장은 독일 과학계에도 검은 구름을 몰아오고 있었다. 그런 와
중에서도 최초의 입자가속기가 만들어지면서 양자물리학의 발전은
가속력을 얻고 있었다. 양자물리학이 물리학의 대부분과 화학의 전
부를 설명해준다는 폴 디랙의 평가 또한 폭넓게 받아들여지고 있었
다. 수학자 존 폰 노이만은 양자이론이 관측된 현상에서 추론한 몇 가
지 매우 타당성 있는 공리적 근거를 가지고 있다는 이유로, 아인슈타
인이 양자이론을 일종의 통계적 확률로 해석하는 것에 반대했다. 노
이만에 의하면 양자이론에는 어떤 ‘숨은 변수’가 있을 수 없다. 그러
나 노이만은 양자이론이 단지 잘 알려진 경험의 해석일 뿐이지 실험
에 의해 증명된 사실이라고 말할 수는 없다고 꼬리를 달았다. 그동안
에 독일에서는 아리안계 인종으로 독일 사회를 재구성하려는 히틀러
의 나치즘이 대세를 장악했다. 히틀러는 유대인을 비롯한 비독일계
과학자들을 추방하기 시작했다. 나치즘의 정치체제를 혐오하여 많은
과학자들이 독일을 떠나 망명했다. 1933년에 영국을 거쳐 미국에 온
아인슈타인은 1934년 망명을 신청하고 프린스턴 고등연구소에서 일
하기로 결정했다.