양자역학의 철학 독서노트 04

 

Hughes, R. I. G.(1989), The Structure and Interpretation of Quantum Mechanics(Cambridge: Harvard University Press), Chapter 8(pp. 218-258).

 

05주: 확률의 문제(확률, 인과성, 그리고 설명)

 

    “양자역학적 현상은 왜 힐버트 공간에 대한 수학적 형식이론을 통해 표상되는가?”라는 질문에 대해 휴즈는 다소 사후적인(혹은 변호하는vindicating) 설명을 3장에서 제공했다. 그러나 이와 같은 휴즈의 설명을 ‘임시방편적’인 것이라고 보기는 어려운데, 왜냐하면 그는 힐버트 공간에 대한 수학적 형식이론이 갖는 여러 구조적인 특징들을 조목조목 따져가며 이 이론이 양자역학적 현상을 서술하는 데 왜 적합한지를 조리 있게 서술하고 있기 때문이다. 이와 유사한 ‘구조적인 설명’이 휴즈의 책 8장에서도 등장한다. 이 장에서 휴즈는 콜모고로프 공리들을 따르는 고전적 확률의 개념을 힐버트 공간에도 적용될 수 있도록 일반화시키고(일반화된 확률 함수의 개념을 도입), 이렇게 일반화된 확률의 개념을 통해 일견 역설적으로 보이는 양자역학적 현상들(대표적으로 두 슬릿 실험과 EPR-유형 실험)을 ‘직접적인 방식’으로 설명할 수 있음을 보이고자 한다.

  

   휴즈는 개인의 주관적 판단과 관련된 ‘주관적’ 확률이 아닌, 외부 세계의 객관적 성질인 ‘객관적’ 확률을 다룬다. 그는 일반화된 확률 개념을 제시하기 전에 이에 대한 예비적인 논의로 콜모고로프의 확률이론을 제시한다. 콜모고로프에 따르면, 특정한 ‘원사건(elementary event)’들이 있고, 이 원사건들의 집합이 ‘전체 집합(

)’이며, 이 전체 집합의 부분집합들이 ‘사건’이다. 확률 함수란 이와 같은 사건들에 0과 1 사이의 실수값을 부여하는 함수이다.

이고,

이며,

일 때

를 만족시킬 경우, 삼중체

를 고전적 확률공간이라고 한다. 고전적 확률공간은 무한 합집합과 무한 교집합에 대해서 닫혀 있으며, 전체 집합에 대한 여집합이 정의된다. 고전적 확률측도는 가산적이고 실수값을 갖는 집합 함수이다.

  

   반면에 양자역학적 상태에 의해서 정의되는 확률은 집합이 아니라 양자적 사건

(실험적 물음)에 정의된다. 문제는 콜모고로프의 고전적 확률공간은 부울(Boole)적인 대수 구조를 갖는 반면, 양자 사건들의 집합 구조는 부울적이지 않다는 데 있다. 따라서 양자역학에 확률 개념을 적용하기 위해서는 더 넓은 범위의 대수 구조 집합에 적용될 수 있도록 확률 개념을 일반화할 필요가 있게 된다. 이를 위해 휴즈는 ‘직교 대수(orthoalgebra)’에 정의된, 유한하게 가산적인 확률 함수들을 일반화시킨다. 이렇게 ‘직교 대수’의 구조 위에서 확률 함수를 일반화시킬 경우, 어떤 직교 대수

도 부울 대수를 그 하부구조로 포함함을 보일 수 있다.

  

   우리가 관심을 갖는 것은 힐버트 공간 ℋ의 닫힌 부분공간들의 집합

에 0과 1 사이의 실수값을 부여하는 함수이다. 글리슨(Gleason)의 정리에 따르면, 3차원 또는 그보다 높은 차원의 힐버트 공간

에서의 일반적인 확률 함수들의 집합은,

에서의 밀도 연산자들의 집합과 일대 일로 대응한다. 글리슨의 정리가 갖는 주요 귀결들 중의 하나는,

에서의 밀도 연산자들에 의해 제공되는 측정들이, 비-부울적 구조를 갖고 있는 양자역학적 명제들의 집합에 적용되는 고전적 확률 함수들의 자연적 확장에 지나지 않는다는 것이다.

  

가 비-부울적 구조를 갖고 있는 까닭에, 이에 적용되는 조건부 확률의 개념도 수정되어야 한다. 만약 ℋ의 부분공간

와

가

인 경우, 일반화된 확률 함수

이다. 더 일반적인 경우에 있어서도, 이른바 뢰더(Lueder)의 법칙에 의해, 유사한 식이 성립한다. 즉,

이다. 더 나아가

이 성립함을 보일 수 있다.

  

   이와 같은 일반화된 함수 개념을 사용하면, 양자역학에서의 대표적인 두 실험인 이중 슬릿 실험과 EPR 유형의 실험을 직접적으로 해석할 수 있다는 것이 휴즈의 생각이다. 고전적인 파동 모형과 입자 모형은 이 두 실험을 설명하는데 있어서 ‘인과적 비정상성’을 유발시키는데, 보어나 핸슨과 같은 학자들은 이를 근거로 양자역학이 자연에 대한 통합된 기술을 불가능하게 만들었다고 주장했다. 하지만 이같은 주장은 ‘실험이 오직 고전적인 용어들만으로 애매함 없이 기술될 수 있다’는 전제에 기초한 것이며, 이 전제를 받아들여야 할 필요는 없다. 휴즈에 따르면 우리는 일반화된 함수 개념을 사용해서 이중 슬릿 실험을 훌륭하게 설명할 수 있다.

  

  ,

,

를 각각 슬릿

를 통과했을 경우의 상태, 슬릿

를 통과했을 경우의 상태, 슬릿

또는

를 통과했을 경우의 상태라고 한다면 우리는 각각의 상태에 대한 일반화된 확률 함수를 도출할 수 있으며, 이 확률 함수는 실험의 결과와 정확하게 맞아떨어진다. 뿐만 아니라 이는 ‘탐지기’를 슬릿

또는

에 설치한 실험 상황에 대해서도 정확한 설명을 제공해준다. 하지만 이 때 우리가 주목해야 하는 것은, 우리가 힐버트 공간에서 정의된 일반화된 확률 함수를 사용할 경우, 실험에 대한 인과적인 설명을 제공할 수 없게 된다는 것이다.

  

   양자적 현상에 대해서는 새먼(Salmon)의 생각과는 달리 충분한 인과적 설명이 제시될 수 없다는 것이 휴즈의 입장이다. 이에 대해 휴즈는 이른바 ‘구조적 설명’의 개념을 제안한다. 왜 특수 상대성이론에서는 빛의 속도가 모든 속도의 상한인가? 이와 같은 물음에 대해서, “

의 값은 모든 가능한 좌표계들에서 불변하기 때문이다”라고 답한다면 이는 이 이론의 구조적인 측면을 분석한 답변(설명)이라고 할 수 있다. 휴즈가 취하는 과학이론에 대한 ‘의미론적 관점’에 의하면, 과학이론에 대한 ‘근본적인 수준의 설명’은 해당 과학이론이 가진 수학적 구조들의 유관한 측면들을 명시하는(exhibiting) 것으로 이루어진다. 민코프스키 시공간의 구조에 호소해서 빛의 속도가 상한임을 설명하는 것처럼, 우리는 힐버트 공간이 어떤 방식으로 확률적 이론(양자역학)에 대한 모형을 제공하는지, 그리고 이 모형을 받아들였을 경우 이에 뒤따르는 귀결들이 얼마나 양자역학적 효과들을 잘 설명하는지를 보일 수 있다. 휴즈는 이와 같이 ‘모형의 구조적 측면을 드러내는 방식의 설명’이 과학이론에 대한 ‘합당한 설명’일 수 있다고 주장한다.

  

   뒤이어 간략하게 이번 주의 독서에 대한 나의 논평을 덧붙인다. 상대성이론과 관련된 현상들에는 ‘구조적 설명’ 뿐만 아니라 ‘인과적 설명’ 또한 제시할 수 있다. 그리고 양자역학을 제외한 대부분의 과학이론들 및 이 이론들과 관련된 과학적 설명에서 ‘인과적 설명’은 핵심적인 역할을 담당하고 있다. ‘인과적 설명’이 갖는 강점은, 이 설명을 통해 ‘우리는 무엇이 원인이고 이 원인을 통해 어떤 결과들이 초래되었는지를 분명히 알 수 있다’는 데 있다. 뿐만 아니라, 이러한 인과적 설명에서의 원인과 결과는 단지 추측되는 것에 지나지 않는 것이 아니라 물리적 표지를 통해 실질적으로 식별 가능한 물리적 사건들이다. 다시 말해, ‘인과적 설명’은 그 설명의 타당성을 실제 세계로부터의 경험과 실험으로부터 얻는다는 의미에서 ‘시험 가능하다’.

  

   이에 반해 휴즈가 말하는 ‘구조적 설명’은 ‘인과적 설명’처럼 시험 가능하지 않은 것으로 보인다. 양자역학의 수학적 형식화가 정교하게 이루어지고 난 후, 이렇게 정교화된 수학이론이 얼마나 양자역학적 현상을 다루기에 적합한지를 사후적으로 설명하고 납득시키는 것은 분명 가치 있는 철학적 작업이다. 그러나 휴즈가 제시하는 ‘구조적 설명’이 세계에 대한 합당한 설명인지, 이 설명이 ‘인과적 설명’과 동일한 수준의 설명으로 취급될 수 있는지에 대해서는 의문이 든다. 나는 기본적으로 세계에 대한 합당한 과학적 설명은 궁극적으로 이론적 근거가 아닌 경험적 근거에 의해서 지지되어야 한다고 생각하며, 이는 ‘경험주의’라는 입장에 그 바탕을 두고 있다. 따라서, 힐버트 공간에 대한 수학적 형식이론과 이 이론에 걸맞는 일반화된 확률 함수의 개념이 양자역학적 현상에 잘 적용된다는 것을 이론적인 측면에서만 보여주는 것은, 양자역학적 현상에 대한 적합한 과학적 설명이라고 생각하지 않는다.

  

   왜 양자역학적 현상에는 인과적 설명이 적용되지 않는가? 그렇다면 양자역학적 현상에서는 구체적으로 어떤 물리적 과정이 존재하는가? 우리는 그 과정을 완전히 알 수 있는가 아니면 부분적이고 제한적으로만 알 수 있는가? 만약 완전히 알 수 없다면 어째서 그러한가? 비록 이런 ‘물리적인 물음들’이 해결하기 어렵다고 하더라도, 이 물음들에 대해 ‘수학적인 구조’와 관련된 ‘이론적인 설명’을 통해서만 답변하려는 것은 적절하지 못하다고 생각한다.