물리학의 철학 독서노트 10

 

코소(Kosso),『현상과 실재(Appearance and Reality)』, 110-126쪽.

  

   확률, 원인과 결과, 결정론: 양자역학에서는 확률과 미결정성의 문제가 중요하게 등장한다. 주사위 던지기를 통해서 확률에 대해서 알아보자. 주사위를 던져서 1이 나올 확률은 1/6이다. 즉, P(1)=1/6. 주사위를 던져서 1 또는 5가 나올 확률은 1/3이다. 즉, P(1 또는 5)=1/3. 주사위를 두 번 던져서 처음에는 2가 나오고 그 다음에 3이 나올 확률은 1/36이다. 즉, P(첫째 2, 둘째 3)=1/36. 주사위를 두 번 던져서 그 합이 2가 될 확률은 1/36이다. 즉, P(합=2)=1/36. 조건부확률에 대해서도 알아보자. 두 번 주사위를 던져서 처음에 1이 나왔을 때 합이 2가 될 확률은 1/6이다. 즉, P(합=2│첫째=1)=1/6.

  

   하지만 우리는 주사위를 던져서 1이 나올 확률이 1/6이라는 것을 어떻게 알 수 있는 것일까? 첫째, 확률에 대한 상대빈도해석에 의하면, 우리는 주사위를 던져 보았을 때 그 결과값이 무작위적으로 나온다는 사실을 확인한 다음, 충분한 시행을 실시한 후 총 시행에 대한 특정한 결과값의 상대빈도를 계산해서 확률을 부여한다. 둘째, 확률에 대한 성향 해석에 의하면 확률은 사건에 숨겨져 있는 일종의 특성이라고 볼 수 있다. 이상과 같은 두 가지 해석에 따르면 확률이란 세계의 객관적인 특징이다(확률에 대한 객관적 해석). 셋째로 확률의 주관주의적 해석이 있는데, 이 해석에 의하면 확률이란 사건에 대한 우리의 무지를 반영하며, 대상의 속성 혹은 성향이 아니라 판단 주체의 정보를 가리킨다. 확률의 주관주의적 해석에 따른다면, 만약 우리가 자연에 대한 모든 것을 알 경우 확률이라는 것은 존재하지 않을 것이다(확률에 대한 주관적 해석).

  

   양자역학에서는 원인과 효과의 문제도 중요하게 취급된다. 과연 양자역학에서 우리는 어떤 것을 원인으로 또는 어떤 것을 효과로 판단해야 하는 것일까? 또한 양자역학에서는 ‘유일성의 문제’도 중요한 비중을 차지한다. 특정하게 주어진 물리적 상태로부터 귀결될 수 있는 물리적 상태가 단일한가 아니면 그 물리적 상태로부터 복수의 물리적 상태들이 귀결될 수 있는가?

  

   아인슈타인은 결정론적 세계관을 고수했다. 아인슈타인에 의하면 객관적 확률이란 세계에 존재하지 않는다. 이에 반해 보어는 결정론적 세계관을 부정했다. 보어에 의하면 물리적 사건들 사이에 성립하는 인과 관계의 특성은 그 본성상 확률적이다.

  

   입자와 파동: 에너지와 정보가 한 장소에서 다른 장소로 전달되는 두 가지의 방법이 있는 것으로 보인다. 첫 번째 방법은 입자를 통한 것이고, 두 번째 방법은 파동을 통한 것이다. 입자와 파동은 서로 조화될 수 없는 특성들을 갖고 있는 것으로 보인다. 예를 들자면, 간섭현상은 파동에게서만 볼 수 있고 입장에게서는 볼 수 없는 현상이다. 간섭하는 두 파동의 위상이 서로 같을 때 보강간섭이 일어나고, 간섭하는 두 파동의 위상이 서로 다를 때(반파장 차이가 날 때) 상쇄간섭이 일어난다. 파동들이 서로 만났을 경우 파동들 사이의 상대적 위상에 따라서 보강 또는 상쇄간섭이 일어나며, 특히 상쇄간섭은 입자들에게서는 보기 힘든 현상이라 할 수 있다.

  

   빛은 입자일까 파동일까? 이중슬릿 실험을 통해 빛의 간섭현상을 확인할 수 있다. 빛이 파동이면 이중슬릿을 통과한 빛은 간섭현상을 일으킬 것이므로, 이 실험은 빛의 파동적인 성격을 잘 보여준다. 하지만 광전효과 실험에서는 빛이 입자적인 특성을 보여준다. 금속에 쪼여진 빛이 금속으로부터 전자의 방출을 야기시키는 현상이 광전효과다. 빛이 파동이라면 빛이 전달하는 에너지는 밀도 즉 빛의 밝기에 비례할 것이며, 따라서 금속에서 방출되는 전자의 수와 속도는 빛의 밀도에 비례할 것이다. 하지만 실험결과는 예상과 달랐다. 빛이 일정한 진동수를 넘지 않으면 금속에서 전자들이 방출되지 않았고, 방출되는 전자들의 수도 일정한 쪼여지는 빛이 문턱 진동수를 넘길 경우마다 크게 달라졌다. 이러한 실험결과는 빛을 띄엄띄엄한 입자들의 다발로 생각할 경우(빛의 진동수는 빛 입자의 에너지, 빛의 밝기는 빛 입자들의 밀도) 잘 설명된다.

  

   그렇다면 빛이란 과연 무엇인가? 입자인가 파동인가? 빛은 특정한 환경에서는 입자처럼, 다른 환경에서는 파동처럼 행동한다. 양자역학에 이르면 빛의 입자성과 파동성은 절대적인 개념이 아닌 상대적인 개념으로 바뀐다. 우리는 빛이 입자인가 파동인가를 묻지 말고, 빛은 어떠한 상황 혹은 측정 아래에서 입자적이거나 파동적인지를 물어야 한다. 우리가 빛의 본성을 완전하게 기술하기 위해서는 파동성과 입자성을 모두 고려해야 하며, 파동성과 입자성을 동시에 측정할 수는 없다.

  

   이와 같은 상보적 특성은 빛만이 가지고 있는 것일까? 아니다! 1928년에 프랑스의 물리학자 루이 드 브로이는 원자나 전자 등 입자로 알려진 것들도 파동성을 띨 것이라고 제안했다. 입자들의 파동적 성질이 실험적으로 감지되기 위해서는 이중슬릿의 간격이 매우 작아야 했는데, 자연적인 결정(소금 혹은 얼음 결정)이 이러한 슬릿을 제공해주었다. 결정을 일종의 격자로 사용하여 실험한 결과, 전자, 양성자, 헬륨 원자핵(α입자) 등과 같은 입자들의 파동적 성격이 입증되었다. 즉, 빛 뿐만이 아니라 모든 사물들이 파동/입자 이중성을 갖는 것으로 밝혀진 것이다.

 

스클라(Sklar),『물리학의 철학(Philosophy of Physics)』, 157-179쪽.

  

   양자이론의 실험적 기초: 17세기에는 빛의 입자설(뉴턴이 주장)과 파동설(호이겐스가 주장)이 서로 대립했다. 파동이 전달되기 위해서는 매질이 필요했으므로, 빛의 파동설을 주장하는 입장에서는 빛의 전달 매질인 에테르를 가정해야 했다. 또한 빛에 대한 실험결과(편광현상) 빛은 종파가 아닌 횡파임이 밝혀졌고, 횡파를 전달하는 매질은 탄성을 띠어야 했기 때문에, 에테르 또한 일종의 탄성체라고 생각되었다.

  

   18, 19세기에 이르면 빛의 파동설이 승리하는 것처럼 보였다. 빛이 밀도가 높은 매질을 통과할 때 속도가 줄어드는 것이 실험을 통해 확인되었고, 파동에게서만 보여지는 회절현상이 빛에게서도 관측되었기 때문이다. 특히 맥스웰은 빛이 전자기파의 일종임을 밝힐 수 있었다. 비록 맥스웰은 빛의 전달 매질인 에테르의 존재를 믿었지만, 맥스웰 이후 전자기장은 에테르 없이도 공간을 통해 전파될 수 있는 독립적인 실체로 여겨지게 된다.

  

   19세기 말에는 흑체복사 현상에 대한 연구가 활발하게 진행되었다. 금속에 열을 가하면 금속의 종류와는 상관없이 금속의 온도에 따라서 특정한 진동수와 파장을 가진 전자기파들이 방출되는데, 물리학자들은 이러한 흑체복사의 스펙트럼 분포를 정확하게 규명하려고 노력하고 있었다. 빈의 법칙은 높은 진동수에서는 잘 들어맞았지만 낮은 진동수에서는 잘 들어맞지 않았고, 레일리-진스의 법칙은 낮은 진동수에서는 잘 들어맞았지만 높은 진동수에서는 잘 들어맞지 않았다. 플랑크의 법칙은 흑체복사 스펙트럼과 전반적으로 잘 들어맞았지만, 이 법칙은 물질과 빛 사이의 에너지 교환이 띄엄띄엄한 다발들에 의해 이루어짐을 함축하고 있었다.

  

   빛의 양자적 성질은 광전효과에 의해서도 강하게 암시되었다. 빛 에너지는 띄엄띄엄한 다발들로 존재하고 빛의 진동수는 광자들의 에너지를, 빛의 밀도는 광자들의 수를 나타내는 것으로 생각할 때 광전효과가 잘 설명될 수 있었기 때문이다. 이에 반해 드 브로이는 우리에게 친숙한 입자적 현상들 또한 파동적인 측면을 갖고 있을 것이라고 추측했다. 자연에 존재하는 회절격자를 이용해서 시험한 결과 전형적인 입자로 알려져 있었던 전자 또한 파동적인 성격을 가지고 있음을 확인할 수 있었다. 뒤이어 슈뢰딩거는 잘 알려진 ‘슈뢰딩거 방정식’을 개발했는데, 이 방정식은 자유전자에 관련된 파동들 및 다양한 역장들에 묶여 있는 전자와 관련된 파동들을 그 해로 표상하고 있었다.

  

   플랑크-드 브로이-슈뢰딩거의 경로와는 다른 방식의 이론적 발전도 일어나고 있었다. 실험에 의하면 원자에서 방출되는 스펙트럼 선의 진동수 사이에는 정수배 만큼의 차이가 나는 것으로 밝혀졌는데, 이러한 결과는 에너지 분포 상태가 연속적이라는 고전물리학의 기본적 가정과는 어긋나는 것으로 보였다. 이 문제를 해결하기 위해 보어는 자신의 원자 이론에서 전자는 띄엄띄엄하고 확정된 에너지 상태에만 존재한다는 대담한 가정을 했다. 보어의 이론은 단순한 원자들에는 잘 적용되었지만, 복잡한 원자들의 에너지 상태 및 이러한 원자들로부터 방출되는 빛의 밀도 및 진동수를 정확하게 도출하지는 못하는 것으로 밝혀졌다.

  

   이에 하이젠베르크는 원자 속 전자에 대한 동역학적 그림을 완전히 포기하고, 관측된 측정치들 사이의 관계에 대한 수학적 이론을 수립하려는 시도를 했다. 그는 고전물리학적 법칙들의 형식적 구조를 유비로 삼아, 에너지, 진동수, 밀도 등과 같은 측정치들을 계산할 수 있는 형식이론을 구축했다. 이 이론을 토대로 하이젠베르크, 보른, 요르단 등은 행렬역학이라는 새로운 형태의 동역학 이론을 완성하게 되는데, 이 역학에서는 하나의 물리적 상태가 연산자와 결합하여 다른 물리적 상태를 도출하고 있었다. 하지만 문제는 이와 같은 수학적 구조에 대한 물리적 해석에 있었다.

  

   슈뢰딩거는 자신이 개발한 파동역학과 행렬역학 사이에 수학적 동형성이 있음을 밝힐 수 있었다. 다만 둘 사이에 다른 점이 있다면 파동역학에서는 계의 시간적 진화를 서술하고 있는 반면 행렬역학에서는 계의 상태가 시간 독립적이라는 것(대신 시간적 진화를 시간에 따른 연산자들의 변이에 포함시킴)이었다. 그렇다면 세계의 미시적 구조는 파동역학이 말하는 바처럼 파동적인 것일까? 하지만 이러한 해석에는 문제가 있는 것으로 여겨졌다. 왜냐하면 파동역학에서 보여지는 ‘파동함수의 확산’은, 물리적으로 국소적인 영역에서 일어나는 실험결과와는 일치하지 않는 것으로 보였기 때문이다. 파동역학에서는 전자를 표상하는 것으로 생각되는 밀집된 파동의 다발이 순식간에 퍼져나가고 있었다.

  

   이론을 해석하려는 초기의 시도- 불확정성 원리: 이에 보른은 확률함수의 밀도가 해당 입자가 관측될 확률을 제공한다는 해석을 제시했다. 다시 말해, 확률함수의 밀도는 적절한 측정이 행해졌을 경우 물리적으로 관찰가능한 양이 측정될 가능성을 나타낸다는 것이다. 이러한 보른의 통찰은 측정량의 국소적 본성과 파동함수의 확산을 조화시킬 수 있는 최초의 단서로 여겨졌다. 하지만 이와 같은 해석에는 문제가 있었다. 만약 파동함수의 밀도를 실체가 아닌 확률로 계산한다면, 빛 혹은 입자가 보여주는 회절현상을 어떻게 설명할 수 있단 말인가?

  

   이중슬릿 실험에서 빛은, 슬릿을 통과할 때는 파동처럼 통과했다가 스크린에 부딪칠 때는 입자처럼 행동하는 것으로 보인다. 하지만 우리가 빛의 슬릿 통과 여부를 검출할 수 있는 장치를 슬릿 근처에 설치할 경우, 빛은 파동이 아닌 입자적인 특성만을 보인다. 이른바 ‘슈테른-게를라흐’ 실험으로 불리는 실험결과는 더 흥미로운 사실을 보여준다. 이 실험의 개요를 설명하면 다음과 같다. 전자는 서로 구분되는 두 개의 값 중 하나 만을 가질 수 있는 ‘스핀 자기운동량’을 갖는다. ‘위-아래’ 기계(다수의 전자들을 스핀 자기운동량에 따라 ‘위’ 또는 ‘아래’의 두 부류로 나누는 기계)를 통해 ‘위’인 전자들만을 분류한 후, ‘좌-우’ 기계(‘위-아래’ 기계와 유사하게 전자들을 ‘좌’ 또는 ‘우’로 나누는 기계)에 통과시키면 ‘좌’가 나올 확률과 ‘우’가 나올 확률이 동일하다.

  

   그런데 재미있는 것은, 이렇게 ‘좌’로 분류된 전자들을 다시 ‘위-아래’ 기계에 통과시키면 ‘위’와 ‘아래’가 나올 확률이 각각 50%인 반면, ‘좌’ 전자들과 ‘우’ 전자들을 합해서 ‘위-아래’ 기계에 통과시키면 모두 ‘위’인 전자들이 나온다는 사실이 밝혀졌다. 이러한 결과는 전자의 간섭효과가 단순히 입자들의 ‘공간적 분포’에만 관련된 것이 아니라, 전자에 관한 ‘어떠한 종류의 관찰가능한 측면’과도 관련됨을 보여준다. 이렇듯 전자를 비롯한 입자의 간섭현상은 파동함수를 확률의 측도로 해석하는 보른의 고전적인 해석을 문제 있는 것으로 만드는 것으로 보인다.

  

   폰 노이만과 디랙은 슈뢰딩거, 하이젠베르크의 이론으로부터 양자 이론의 핵심을 포착하는 형식적 이론을 개발했다. 이 이론에 의하면, 만약 우리가 계의 초기 상태를 알고 이후에 계에 가해지는 인과적 영향들을 알고 있을 경우, 우리는 계의 진화에 따르는 계의 상태를 결정할 수 있게 된다. 이 이론에서 입자에 적절한 상태를 부여하는 것은 ‘투영 공준’에 의존하는데, 이 공준에 따르면 계를 측정해서 특정한 산출값을 얻었을 경우, 그 측정 직후에 이루어진 측정 또한 이전의 측정과 동일한 산출값을 가지게 된다. 이 형식이론에는 시간에 따른 계의 변화를 결정하는 서로 다른 종류의 두 가지 규칙들이 있는 것으로 보였다. 첫째는 계의 상태변화에 대한 동역학적 규칙이었고, 둘째는 계의 측정에 관한 투영 규칙이었다.

  

   양자역학의 코펜하겐 해석: 보어는 양자역학에 대한 코펜하겐 해석으로 널리 알려져 있다. 보어는 세계의 관측가능한 양들 사이의 상호관계를 결정하는 것이 과학의 목적이라고 생각했다. 또한 보어에 의하면, 우리는 양자역학 이전의 물리학에 의해 개발된 전형적이고 고전적인 수단만을 가지고 ‘측정’을 할 수 있다. 보어에 따르면 양자 상태의 목적은 측정과정의 결과들에 대한 확률적 예측을 할 수 있도록 허용하는데 있지만, 우리는 계가 측정되지 않았을 경우에도 가능한 산출값들 중 하나를 갖고 있을 것이라고 생각해서는 안 된다.

보어의 코펜하겐 해석에 있어서 ‘상보성’의 개념은 매우 중요하다. ‘상보성’이 의미하는 바는, 물리적 계는 고전적인 관점에서 둘 이상의 방식으로 기술될 수 있으며, 이러한 상보적인 측면들을 동시에 사용해서 계를 기술하는 것은 불가능하다는 것이다. 또한 계의 상보적인 두 측면을 동시에 결정하는 실험을 설계하는 것은 불가능하다. 우리는 측정이 이루어지는 사이에 양자적 계에 절대적이고 비상대적인 특성을 부여할 수 없으며, 물리적 사물의 특성은 측정도구의 선택에 대해 상대적이라 할 수 있다. 어떤 종류의 실험적 상황에서도 측정되는 계와 측정하는 도구가 분리되지만, 이러한 구분은 가능한 모든 수준에서 이루어질 수 있다는 것이 코펜하겐 해석의 주장이다.

  

   불확정성 원리: 하이젠베르크가 개발한 형식이론에 의하면 입자의 위치와 운동량 사이에는 일종의 불확정성 관계가 성립한다. 하이젠베르크는 이와 같은 ‘제거불가능한 불확정성’이 물리적으로 무엇을 의미하는지를 묻고 이에 대해 답하려 시도했다. 그리고 그는, 실험기술이 아무리 정확함에도 불구하고 계의 모든 특성들을 고정화시킬 수 없는 인간 능력의 궁극적 한계에 대한 사고실험을 제안했다. 이 사고실험에 의하면 우리는 알고자 하는 입자의 위치를 정확하게 파악하기 위해서 빛 입자를 사용해야 하지만, 입자의 위치를 정확하게 파악하기 위해서 높은 진동수의 빛을 사용하게 될 경우 해당 입자의 운동량 값이 교란된다. 그런데 이러한 교란은 그 어떤 물리적 수단으로도 줄어들 수 없는 교란이다.

  

   하이젠베르크 사고실험에서의 불확정성은 인간 능력의 한계로 인해 발생하는 불확실성이었고, 보어는 이러한 종류의 불확실성을 못마땅해했다. 왜냐하면 보어는 양자역학이 양자적 계에 대한 완전한 기술을 제공한다고 생각했으며, 양자역학에서 보여지는 불확정성은 인간 능력의 한계로 인해 발생하는 것이 아닌 ‘존재론적인 것’이라고 생각했기 때문이다. 그리고 하이젠베르크는 이와 같은 보어의 입장을 받아들이게 된다. 이후 아인슈타인과 보어 사이에 불확정성 원리에 대한 논쟁이 벌어졌다. 아인슈타인은 불확정성 원리가 위배되는 경우가 있음을 보이기 위해서 다양하고 독창적인 사고실험들을 제안했지만, 이러한 실험들은 모두 실패한 것으로 밝혀졌다. 그럼에도 불구하고 양자적 현상에서 보여지는 이러한 불확정성을 어떻게 해석할 것인지에 대한 논란이 끝난 것은 아니었다.

  

   논평: 뉴턴이 보편중력의 개념을 도입해서 천체현상을 성공적으로 설명했을 때, 개념적인 차원에서는 먼거리 작용을 받아들이기 힘들었지만(특히 대륙의 데까르뜨주의자들은 더욱 그러했다), 만약 거리의 제곱에 반비례하는 힘이 태양과 행성 사이에 존재할 경우 이로부터 케플러의 제2법칙이 수학적으로 도출될 것이라는 것은 다수의 수학자들 및 물리학자들이 알고 있었다. 새롭게 등장한 하나의 이론이 수학적인 측면에서 이전의 이론들과 어떻게 관계맺는지, 이 새로운 이론이 어떤 종류의 실험적 예측값들을 산출하며 이 값들이 실제 실험결과들과 부합하는지의 여부는 비교적 정확하게 판단될 수 있는 것으로 보인다.

  

   하지만 늘 문제가 되는 것은 성공적인 새로운 이론에 대한 ‘해석’이다. 과연 우리는 먼거리 작용인 중력을 어떻게 해석해야 하는가? 이에 대해, 공간이란 신의 감각기관이기 때문에 전지전능한 신은 자신의 감각기관인 공간을 통해 물체 사이의 힘을 전달한다고 해석할 수도 있다(뉴턴처럼). 양자역학의 경우에 있어서도 수학적 이론을 만드는 과정과 이 이론에 대한 해석을 제시하고 합의하는 과정이 어느 정도 분리되는 듯하다. 내가 생각할 때 양자역학에 관련한 문제의 핵심은 다음과 같은 물음에 있는 것 같다. “과연 우리는 한 물리 이론이 어떠한 조건들을 만족시켜야만 이 이론이 세계에 대한 만족할만한 기술을 제공한다고 말할 수 있을까?” 이 때 물리 이론이 상식적 직관과 합치하는가의 여부는 중요하지 않다. 왜냐하면 새로운 물리 이론들은 지금껏 아주 빈번하게 상식적 직관과 부합하지 않는 개념들을 제시해왔기 때문이다. 문제의 핵심은 ‘세계를 기술하는 적합한 물리 이론을 판단하는 기준들’이다.