양자물리학 알기(4): EPR 논쟁과 고양이 상자

1935년에 아인슈타인은 그의 조수 네이선 로젠(Nathan Rosen), 보
리스 포돌스키(Boris podolsky)와 공동으로 ‘EPR 역설’(EPR paradox)로
불리는 유명한 논문을 발표했다. 이 논문의 원제목은 “Can Quantum-Mechanical Description of Physical Reality Be Considered Complete?

 - 물리적 실재에 대한 양자역학의 기술 은 완전하다고 볼 수 있는가?”이다.

아인슈타인에게 코펜하겐 해석은 물리이론이 아니라, ‘멀리 있는 도깨비가

조종’(spooky action at a distance)을 하고 있는 것처럼 허튼 소리로 들렸다.

EPR은 세 명의 공동저자 이름의 첫 글자를 딴 것이다. 이 논문의 목적은

하이젠 베르크의 불확정성 원리와 막스 보른의 파동해석을, 그리고 이를

그대로 수용하는 코펜하겐해석이 불완전하다는 것을 입증하기 위한 것이다.

코펜하겐 해석은 측정의 교란 때문에 ‘물질의 실체’를 정확하게
알 수 없고, 다만 확률적 분포를 기술할 수 있을 뿐이라고 주장한다.
EPR은 물리적 실체(‘입자의 상태’를 포함하여)는 인간의 관측과는 상관없
이 존재한다는 것을 증명하여 코펜하겐 해석의 불완전성을 비판하려
고 했다. EPR은 먼저 물리량이 확실하게 증명된다면, 그 물리량에 대
응하는 물리적 실체는 반드시(확률적으로는 100%) 존재하는 것으로 규
정한다. EPR은 확률적으로 실체를 규정하는 코펜하겐 해석의 불완전
성을 입증하기 위해 제안한 것이므로, 확률적 교란이 없는 측정이 필
요하다. EPR에는 교란이 없는 측정을 위해서 먼저 한 개의 전자가 감
마선과의 상호작용에 의하여 A,B 두 개의 입자(A:전자와 B:양전자)로
쪼개져서 서로 반대 방향으로 날아간 상태를 예시한다. 아인슈타인
에 의하면 측정에 상관없이 A와 B는 물리적 실체이다. 그러나 양자
이론에 의하면 A에 대한 위치와 운동량은 상보적인 관계에 있으므로
동시에 정확하게 측정하는 것이 불가능하다. B에 대해서도 마찬가지
다. 따라서 A와 B는 물리량이 불확정적이므로 실체도 불확정적이다.

불확정성 원리에 적용받지 않고 실체를 확정할 수 있기 위해서는 측
정의 교란을 받지 않고 A와 B의 물리량을 동시에 정확하게 측정해야
한다. EPR에 의하면 관측자가 A와 B의 물리량 Q와 P를 선택해서 동시에

측정하기 위해서, ‘위치의 차이’(QA-QB)와 ‘운동량의 합’(PA＋PB)이 맞바꿈 

관계에 있음을 이용할 수 있다. 즉 (QA－QB)(PA＋PB)=(PA＋PB)(QA-QB)를 

만족하는 관계를 말한다. 그렇다면 A의 위치 QA를 측정하면 B의 위치 QB를

동시에 정확하게 계산할 수 있다. 또한 A와 B의 운동량 PA와 PB도 같은 방식으로

알 수 있다. 따라서 측정의 교란을 일으키지 않고도 물리량의 정확한 계산이 가능하다.

그렇다면 A와 B의 실체를 파동함수로 기술하는 코펜하겐 해석은 불완전
하다. 그렇다면 “완전한 서술은 과연 존재하는가?”에 대해 “우리는 그
런 이론이 어딘가에 분명히 존재한다고 믿는다.”는 것이 EPR의 답변이다.

보어는 EPR의 질문에 대해 1개월 뒤에 자신의 반론을 “양자역학과
물리적 실재”라는 제목으로 요약하여 발표하고, 5개월 뒤에 EPR과 같
은 제목으로 반박하는 논문을 발표했다. 보어의 반박은 역시 측정의
교란을 내세워 코펜하겐 해석을 방어하는 것이었다. A와 B의 위치와
운동량을 동시에 측정하는 것은 불가능하다. 측정하기 전에는 A나 B
어느 것이든지 실재하는 상태로 존재하는 것이 아니다. 적어도 한 가
지 물리량을 정확하게 모르는 상태에서 그것의 실체를 논의하는 것
은 무의미하다. 또한 보어는 한 걸음 더 나아가 A와 B는 상호작용을
했으므로 “그들은 영원히 단일 시스템의 부분으로 서로 얽혀 있게 되
고, 두 개의 분리된 개별적인 입자로 취급할 수 없다”고 주장했다.
말하자면 A와 B는 아무리 멀리 떨어져 있어도 하나의 시스템(system)
을 구성하고 있으므로 측정의 순간에 동시에 교란되지 않을 수 없다.

보어의 주장은 A에 대한 측정의 교란이 어떤 식으로든지 순간적으
로 B에 영향을 미치지 않을 수 없다는 것이다. 이상하게도 보어는 원
격에서의 역학적 교란은 일어나지 않을 것이라는 점에 대해서는 인
정했지만, A에 대한 측정의 교란이 어떤 식으로든지 순간적으로 B에

영향을 미치지 않을 수 없다는 주장은 고집했다. 그 이유는 불확정
성 원리와 상보성 원리에 근거하는 코펜하겐 해석을 지키기 위해서였
다. 보어는 더 이상 자세한 설명을 하지 못하고, EPR 저자들의 논거
가 “양자역학적 설명이 근본적으로 불완전하다는 결론을 정당화시켜
주지 못한다.”는 말로 논문을 맺었다. 보어의 반론은 그렇게 성공적
인 것이 되지 못한 것으로 보였다. 아인슈타인은 보어의 반박에 대해
“전능하신 하나님의 카드를 들여다보기는 어려운 모양”이라고 비웃
었다. 아인슈타인은 또 막스 보른에게 “물리학은 시간과 공간에서 ‘유
령 같은 원격작용’에 의존하지 않고서도 실재를 표현해야만 하오”라
고 말했다.288 아인슈타인의 말은 보어의 반론이 물질의 특성인 분리
성(separability)과 국소성(局所性: locality), 그리고 상대성 이론(빛의
속도)을 위반하고 있다는 뜻이었다. 그러나 이 말이 아인슈타인에게
부메랑이 되어 돌아올 줄은 아무도 몰랐다. 국소성(locality) 정보는 

발생한 곳(국소)에서 다른 장소로 전달되는 것이 며, 발생한 정보는 

전달되지 않으면 다른 장소에서 영향을 미칠 수 없다. 말 하자면 

원인과 결과를 연결하는 인과성이 있어야 한다. 정보의 전달 속도는 

빛보다 빠를 수 없다(상대성 이론)는 것이다.

슈뢰딩거는 EPR에 대해서 지지의 뜻을 담아 아인슈타인에게 편지
를 보내면서, 상호작용을 했다가 분리된 A와 B 입자의 상태를 처음
으로 ‘얽힘’(verschräkung: 영어로는 entanglement)이라는 용어로 표현했
다. 그러나 슈뢰딩거는 ‘얽힘’ 상태에 있는 A와 B 가운데 어느 하나
에 대한 측정이 이루어지면, ‘얽힘’이 깨지면서 둘 다 모두 다시 독립
적인 상태가 되는 것으로 보았다. 이 점에서 슈뢰팅거는 원격에서도
288 Ibid., 354. 289 분리성: A와 B는 분리되었으므로 독립적이다. 
‘얽힘’이 깨지지 않는 것으로 보는 보어와 달랐다. 아인슈타인은 답장
에서 “실제 어려움은 물리학이 일종의 형이상학이라는 사실”에 있다.
그럼에도 “물리학은 실재를 서술”하고, 우리는 “실재에 대한 물리적
서술을 통해서 실재를 알게” 된다고 했다. 그러나 아인슈타인은 그
런 서술은 ‘완전’하거나 ‘불완전’할 수가 있다는 말을 덧붙였다.

 

그리고 아인슈타인은 두 개의 닫힌 상자 속에 한 개의 공만 들어있는

경우를 생각해보라고 했다. 상자를 열어보기 전에 각 상자에 공이 들어있
을 확률은 각각 1/2이다. 그러나 어느 한 상자를 열어보는 순간에 확
률은 1과 0으로 갈라진다. 이런 경우 상자를 열어보기 전에 공의 실재
를 1/2로 서술하는 것은 불완전하다. 공의 실재에 대해 상자를 열어
보는 순간, 하나의 상자에는 ‘공이 있다’가 되고 다른 하나의 상자에
는 ‘공이 없다’라고 서술할 수 있다. 이런 서술은 완전하다. 어느 상자
를 열어보는 순간에 공이 위치를 결정함으로써 다른 상자의 공의 위
치에 영향을 준 것은 아니다. 개체인 공은 이전에 이미 독립적으로 위
치를 결정하고 있었다. 이것이 개체의 ‘분리성의 법칙’이다. 그러나
아인슈타인은 보어가 이 법칙을 위배하고 ‘유령 같은 원격 작용’에 의
해 공이 위치를 결정하는 것처럼 설명하고 있다고 비판했다. 아인슈
타인은 다시 1년 이내의 어느 시간에 폭발하는 화약통을 기술하는 파
동함수에 대해서 생각해보라고 제안했다. 아인슈타인에 의하면 이
파동함수는 1년 동안 이미 폭발해버린 화약통과 아직 폭발하지 않은
화약통을 혼합적으로 기술하는 것이 된다. 그러므로 파동함수로 물
리적 상태를 기술하는 양자이론은 불완전하다.

나치를 피해 영국으로 망명한 슈뢰딩거는 아인슈타인과 교환한 편
지들을 요약하여 3편의 논문을 그 해 말에 발표했다. 그의 논문은 아
인슈타인의 EPR 역설을 지지하고 보어의 반박을 재반박한 것이었다.
슈뢰딩거 역시 실재의 상태를 확률적으로 추측하는 것은 실재를 설명
하는 완전한 이론이 되지 못하다고 주장했다. 여기에서 그는 양자이
론을 ‘고양이 상자 사고 실험’으로 설명했다. 이 상자 안에는 1시간 안
에 독가스가 발생할 수 있는 장치가 설치되어 있다. 이 상자를 열어보
기 전까지 고양이가 죽었거나 살아 있을 상태의 확률은 각각 50%다.
양자 이론에서는 이런 두 가지 상태의 공존이 가능하다고 말한다. 그
렇지만 이런 두 가지 상태의 확률적 공존이 과연 실재를 제대로 설명
하는 것일까? 우리가 알고 있는 현실 세계에서의 실재는 두 가지 상
태의 공존이 아니라, 그 가운데 어느 한 가지일 뿐이다. 슈뢰딩거의
주장은 지극히 합리적인 일반 상식을 바탕으로 한 것이었다.

이에 대해 아인슈타인은 ‘숨은 변수’를 고려하는 ‘앙상블 해석’을
제안했다. ‘앙상블 해석’은 이런 문제를 통계적 확률로 이해한다. ‘앙
상블 해석’에 의하면 이 경우에 확률은 한 상자 안의 고양이에 대해서
가 아니라, 여러 상자 안의 고양이들에 대한 통계로 해석해야 한다.
슈뢰딩거와 아인슈타인 모두 양자이론이 불완전한 것이라고 비판했
던 이유는 하나의 실재를 확률적 공존 상태로 설명하는 것은 물리학
이 아니라고 확신했기 때문이다. 슈뢰딩거는 A의 측정이 즉시 B의
상태에 영향을 미칠 수 있다는 보어의 주장에 대해서도 반론했다. 슈
뢰딩거는 ‘A와 B가 얽혀있다면, 혹성처럼 멀리 떨어져 있는 상태에서
도 A의 측정이 과연 B에게 즉시 영향을 미칠 수가 있을까?’라고 질문
했다. 보어는 멀리 떨어진 A와 B의 상태에 대해서는 설명하지 않았
다. 보어는 아인슈타인과 슈뢰딩거를 반박했다. 보어는 그런 확률적
공존 상태가 양자 세계의 실재라고 우겼다. 그러나 보어의 반론은 처
음에는 그렇게 성공적인 것이 되지 못했다. 그럼에도 불구하고 당시
에 다수의 양자물리학자들은 보어의 주장에 대해 이의를 제기하지 않
았다. 보어의 이론에 비판적인 과학자는 슈뢰딩거와 아인슈타인, 그
리고 몇 명의 제자들뿐이었다.

보어와 아인슈타인 사이에는 해결되지 않은 것이 너무 많았다.293
그럼에도 당시의 측정 장비의 수준 때문에 양자 이론에 대한 논쟁은
더 이상 진행될 수 없었다. 그렇지만 보어와 아인슈타인이 실재의 논
쟁에서 보여준 신념의 차이는 과학적 방법의 문제뿐만 아니라, 세계
관의 문제에로 연결된다. 아인슈타인은 어느 날 종교에 관련한 질
문에 대해 ‘우리가 이해할 수 없는 것을 넘어선 힘에 대한 숭배가 바
로 종교입니다. 그런 정도까지를 말한다면 나는 실제로 종교적입니
다’고 말했다. 그에게 ‘종교가 없는 과학은 다리를 절고, 과학이 없
는 종교는 눈이 먼 것.’이었다. 그의 과학적 탐구에는 보이지 않는
‘종교적’ 실재가 포함되어 있었다. 아인슈타인은 “물리학에서는 모든
인식의 행위와는 상관없이 독립적으로 존재하는 실재 세계를 가정하
는 것이 기본”이나, 문제는 “그것이 바로 우리가 알지 못하는 것”이라
고 믿었다. 반대로 보어는 “물리학의 역할이 자연이 어떤 것인지를 찾
아내는 것이라는 생각은 잘못된 것”이라고 말했다. 그는 과학에서
‘보이지 않는’ 실재, 곧 물리량이 측정되지 않은 실재를 결코 인정할
수 없었다. 이들을 비교해보면 아인슈타인은 최소한 과학적으로

유신론자였고보어는 과학적 무신론자였다고 말할 수 있다.

 

이런 논쟁의 과정을 지켜본 양자물리학의 아버지이며 독일 과학계
의 대부인 막스 플랑크는 과학은 자연의 궁극적인 신비를 풀지 못할
것이라고 말했다. 왜냐하면, 그가 보기에는, 자연을 탐구하다보면 자
연의 일부인 자기 자신을 탐구해야 할 때가 반드시 찾아오기 때문이
다. 플랑크의 이 말은 ‘유한(有限)이 무한(無限)을 품을 수 없다’는 서양
철학의 오랜 명제를 함의하고 있다. 그렇게 보면 플랑크의 말에는 보
어와 아인슈타인에게 자신들이 과학의 탐구 대상인 자연의 일부분임
에도 불구하고, 그들이 주제넘게 자연의 전체를 논의하고 있다는 비
판적 의미를 내포하고 있음을 알 수 있다. 어쨌든 과학은 이렇게 서로
다른 견해를 가진 과학자들이 서로 논쟁하는 과정에서 자극을 받고
더욱 심층적인 연구를 진행하면서 발전할 수 있었다. 학문의 발전은
모두 그렇게 이루어진다. 그러나 학문적 논쟁은 더 이상 연구가 진행
되지 못하면 묻혀버리고 만다. 아인슈타인과 보어의 실재논쟁은 그
렇게 되었다.