한스 라이헨바흐, [원자와 우주] 07: 빛의 파동적 특성

 

7. 빛의 파동적 특성

 

   광선의 형태로 전파되고 다양한 색깔들로 분리된다는 것은 빛의 기초적인 속성들이며, 이는 빛에 대해서 최초로 탐구되고 정립된 사실들이었다. 이후 빛에 대한 좀 더 심오한 물음들이 제기되었는데, 이 물음들은 인류로 하여금 앞서 언급된 빛에 관한 사실들 너머로까지 나아가게 해 주었다. 그것은 바로 빛의 내재적 본성에 관한 물음이었다. 빛이란 무엇인가? 우리는 이미 이 물음을 “빛”에 대한 우리의 경험에 적용해서는 안 되며, 물리적 행위자로서의 “빛”에 적용해야 함을 살펴보았다. 이 물음은 외부 세계와 관련되며, 감각으로서의 “빛”이 우리의 망막에 발생하기 위해서 필요한 것이다. 또한 우리는 이 물음에 답변하기 위한 최선의 방법은 빛의 속성들을 연구하는 것임을 안다. 왜냐하면 그러한 연구만이 물리적 행위자로서의 빛에 대해 특정한 결론을 내리는 것을 허용할 것이기 때문이다. 물리학은 정확히 이와 같은 이유 때문에 들끓는 호기심으로 빛의 속성들에 대한 연구를 추구해왔다. 빛의 본질에 대한 물음은 빛에 관한 모든 실험들 뒤에서 과학자들을 추동한 동기로서의 역할을 했다.

 

   이 물음에 대한 탐구 초기부터 두 가지 가능한 해석들이 문제가 되었다. 첫 번째 해석에 따르면 빛은 다른 물리적 물체들과 같이 일종의 “사물”이다. 아마도 빛은 아주 미세한 기체와도 같은 물질이거나, 혹은 미세한 고체 입자들로 구성되어 공기 속을 날아다니고(hurl) 있을 것이다. 다른 한편, 두 번째 해석에 따르면 빛이란 물질적인 사물들 위에서 작용하는 하나의 과정이다. 따라서 공간은 우리가 지각할 수 없는 물질인 에테르(ether)에 의해 채워져 있는 것으로 생각할 수 있고, 에테르의 운동 상태는 우리가 물리적인 의미에서 빛이라고 부르는 것을 나타낸다. 이 해석에 따르면 빛은 에테르 속에서 일어나는 파동 과정이기 때문에, 그 자체가 사물이 아니라 일종의 과정이 된다.

 

   과학적 광학은 그 발전 과정 속에서 위와 같은 두 개의 개념 사이에서 요동해왔다. 처음에 광학은 “사물 이론”에서 시작하였지만, 이후에는 “과정 이론”으로 바뀌었다. 얼마 전까지만 해도 “사물 이론”에서 “과정 이론”으로 변화하는 한 번의 진동으로 빛 이론의 역사는 완결되었다고 말하는 것이 일반적이었다. 그리고 과정 이론은, 비록 사물 이론과 다른 형태의 이론이긴 하였으나, 빛에 대한 최종적인 이론을 대표했다. 그러나 오늘날 우리는 더 이상 과정 이론이 최종 이론이라고 주장하지 않는다. 왜냐하면 가장 최근에 양자 이론과 연계하여 빛의 본성 문제가 새로운 전환을 맞이했기 때문이며, 우리는 이러한 전환을 사물 이론의 귀환이라고 이해할 수 있다. 이와 더불어 우리는 파동에 대해 완전히 새로운 해석을 하게 되었다. 이러한 전환에 대해서는 좀 더 뒤에서 설명하겠다. 우선 우리는 “사물이나 과정이냐”라는 두 가지 대안에 대해서 친숙해질 필요가 있다. 좀 더 구체적으로 말하자면, 과학적 광학을 시작하게끔 한 주제인 “입자냐 파동이냐”에 대해서 좀 더 들여다보도록 하자.

 

   사물 이론의 첫 번째 대변자는 뉴턴이었다. 뉴턴은 빛이 작고 단단한 입자들로 구성되어 있고, 공간을 통해 빛 입자들이 직선 경로로 날아다닌다는 관점(방출 이론)을 발전시켰다. 광선의 형태로 빛이 전파해간다는 것은 자연스럽게 이러한 개념의 출발점이 되었는데, 이는 빛을 쬐었을 때 빛이 선명한 그림자를 만드는 것에서 분명하게 드러난다. 이와 같은 작은 입자들의 무리(swarm)가 통과할 수 없는 물체와 맞닥뜨리면 입자들은 그곳에서 멈춘다. 그 결과 물체의 가장자리를 통과하는 광선은 선명한 그림자를 만들게 된다. 이러한 개념은 동시에 뉴턴 역학의 틀과도 맞아떨어졌다. 뉴턴 역학의 근본적인 첫째 원리는 이미 갈릴레오가 선언한 바 있었던 관성의 법칙이었는데, 이는 힘으로부터 자유로운 물체가 직선 경로를 유지함을 주장했기 때문이다. 또한 뉴턴은 빛의 분산 이론을 발전시켰다. 이는 굴절 유리에서 빛의 색깔이 분리되는 것에 대한 이론으로서 그의 역학 이론으로부터 발전된 이론이었다. 분산 이론에 따르면 유리에서 빛 입자들은 공간에서와는 다른 속도를 갖게 되며 이에 따라 원래 경로로부터의 굴절이 일어난다. 이 속도가 색깔에 따라서 다르기 때문에 각각의 색깔은 서로 다른 굴절각을 갖게 되며, 우리가 프리즘에서 관측할 수 있는 것처럼 빛 광선은 넓은 색깔 스펙트럼으로 분산된다.

 

   이미 뉴턴 시대에 네덜란드의 수학자 하위헌스(Huygens)는 과정 이론을 발전시켰다. 하위헌스는 빛의 파동 이론을 최초로 만든 사람으로 알려져 있다. 초기에는 파동 이론이 받아들여지지 않았다. 뉴턴의 권위가 아주 오랜 시간 동안 입자 이론에 유리하게 작용했기 때문이다. 그런데 두 개의 실험적인 사실들이 파동 이론이 승리하는 데 기여했다.

 

   첫 번째 실험적 사실이자 두 사실들 중 더 중요한 사실은 빛의 간섭 현상이다. 소박한 관점에서 생각해보면, 두 빛 광선이 하나의 점에서 합쳐질 때 빛의 밝기가 더 밝아져야 할 것 같다. 뉴턴 이론에서도 이와 같은 결론이 도출된다. 두 개의 서로 다른 광선에 속한 빛 입자들이 하나의 점에서 만나면, 해당 점의 밝기는 그 곳에 도착하는 모든 빛 입자들의 수에 의해서 결정될 것이고, 결과적으로는 밝기가 증가할 것이기 때문이다. 그리고 이러한 결론은 일반적인 관측과도 합치한다. 그러나 빛 광선을 중첩시켰을 때 빛이 더 어두워지게 하는 실험도 할 수 있고, 이러한 실험을 하기 위해서 특별히 고안된 도구가 필요하다. 그러나 이 경우, 빛에 빛을 더했을 때 어두워진다는 것은 아주 이상함에도 불구하고 의심할 여지가 없는 사실이었다. 빛의 입자 이론으로는 이러한 현상을 이해할 수가 없었다. 오직 빛의 파동 이론만이 이러한 상황에 대한 설명을 제공할 수 있었다.

 

   만약 빛 광선을 파동으로 간주한다면, 빛 광선은 파동의 마루(crest)와 골(trough)에 대응하는 양과 음의 명도(brilliance)를 갖게 된다. 만약 하나의 파동만 존재한다면 빛 광선의 밝기가 마루에 의한 것인지 골에 의한 것인지는 중요하지 않다. 우리의 눈에는 두 경우 모두 밝기로 인지된다. 그런데 두 개의 광선이 만날 때는 사정이 달라진다. 특정한 실험 조건 아래에서 한 광선의 마루가 다른 광선의 골과 일치하는 경우가 있고, 이와 같이 서로 반대되는 위상끼리 만나는 것은 파동이 서로를 지나치는 동안 지속된다. 그림 7은 이와 같은 상황을 도식적으로 나타내고 있는데, 점선으로 된 파동과 실선으로 된 파동이 만나는 모습을 그리고 있다. 이런 방식으로 두 파동이 만나면 마루와 골이 서로를 상쇄하기 때문에 광선의 밝기는 완전히 사라진다. 이것이 바로 간섭 현상이며, 이러한 현상이 일어난다는 것은 분명 파동 이론의 편을 들어주는 것이다. 간섭 현상을 좀 더 구체적으로 보이기 위해, 수면 파동이 간섭을 일으키는 사진을 그림 6에 수록했다. 이 사진은 우측으로부터 오는 파동들과 좌측으로부터 오는 파동들이 서로를 지나치며 체스 판과 같은 무늬를 형성하는 모습을 보여준다. 특정한 점들에서 한쪽 파동의 마루가 다른 파동의 골을 중화시키고 있음을 알 수 있다.

   우리가 간략하게 언급할 두 번째 현상 역시 빛의 입자 이론에 반하는 것이다. 뉴턴 이론에 따르면 빛 입자들은 “광학적으로 더 큰 밀도를 가지는” 매질인 유리에서 더 빠른 속도를 가져야 한다(여기서는 이 주장에 대한 논증을 하지는 않겠다). 반면 파동 이론에서는 광학적으로 더 큰 밀도를 가지는 매질에서 파동의 속도가 더 느리다. 실험 결과 파동의 속도가 더 느려진다는 것이 입증되었으며, 이를 통해 다시 한 번 파동 이론이 용인(corroborated)된 셈이다.

 

   비록 파동 이론이 이와 같은 세밀한 실험적 사실들에 대한 충분한 설명을 제공한다고 하더라도, 파동 이론은 아주 단순한 실험적 사실인 빛의 직선(rectilinear) 전파를 설명하는 것에 관련해서는 특별한 상황에 놓인다. 물론 이 상황에서도 파동 이론을 정당화할 수 있는 방법이 있으나, 이러한 정당화는 매우 우회적인 방식으로만 이루어진다. 파동 이론에 따르면 빛은 여러 파동들이 특별한 방식으로 중첩하며, 이에 따라 일부는 소멸하고 일부는 강화되어 결과적으로는 거의 직선 형태로 전파하며 또렷한 가장자리를 갖게 된다. 만약 빛이 틈새에 도달하게 되면, 하위헌스의 원리에 따라 틈새 안에 있는 각각의 점들이 빛 파동의 근원이 되어 모든 방향으로 구형으로 퍼져나간다(그림 8). 그러나 그림에서 볼 수 있는 것처럼 기본 파동(elementary wave)들은 틈새와 직선 방향에 있는 영역에서 서로를 강화하는 반면 다른 영역에서는 서로를 상쇄하므로, 빛은 광선의 형태를 갖게 된다. 이와 같은 사례에서 알 수 있듯, 모든 단순한 현상을 복잡한 방식으로 설명해야 하는 것이 파동 이론의 운명이었다. 바로 이러한 이유 때문에 물리학자들은 단순한 사실들을 단순하게 설명하지 못하는 파동 이론을 받아들이는 데 아주 오랫동안 저항했다. 그러나 물리학자가 이론의 단순성을 아무리 원한다고 해도, 만약 단순한 이론이 모든 현상들을 전체적으로 이해하게 만들 수 없다면 이러한 단순성의 요구를 계속 유지할 수는 없는 법이다. 왜냐하면 자연의 단순성이란 맹목적인 명령으로 얻을 수 있는 것이 아니기 때문이다. 인간의 조야한 감각 기관에 비치는 사실들이 자연의 기본적인 사실들을 나타낸다고 믿을 만한 근거는 없다. 이와 반대로, 광학은 우리의 눈에 의해 관측된 빛의 상이 그 겉보기 상의 단순성에도 불구하고 좀 더 복잡한 종류의 사실들이 모인 집합임을 알려준다. 따라서 우리는 단순성의 원리를 희생하더라도 통합적 설명의 원리를 유지해야 한다. 틈새를 통과하는 빛에 대한 설명은 이에 대한 좋은 사례이다. 틈새가 넓을 경우에는 우리가 익히 알고 있는 것처럼 빛이 직선으로 전파되지만, 틈새가 좁을 경우에는 이와는 완전히 다른 모습을 보여주기 때문이다. 왜냐하면 이 경우 하위헌스의 기본 파동은 모든 방향으로 방사되므로 이른바 회절 파동들이 명확하게 감지될 수 있기 때문이다. 만약 등불을 좁은 틈새 앞으로 갖다 대면 빛은 직선 경로에서 뿐만 아니라 특정하게 기울어진 방향에서도 나타날 것이다. 왜냐하면 기본 파동들이 소멸되지 않기 때문이다. 과학은 이러한 사실을 이른바 회절 분광계를 만드는 데 사용하여 빛 광선들을 분해하고자 했다. 대부분의 경우 단일 틈새는 평행한 다수의 틈새들로 구성된 회절격자로 대체되어 회절상을 더 밝게 만든다. 이제 빛의 파동 이론은 넓은 틈새와 좁은 틈새에 관한 현상을 동일한 방식으로 설명할 수 있는 반면, 입자 이론은 넓은 틈새의 경우에만 설명을 할 수 있게 된다. 이것이 바로 파동 이론에 승리를 가져다 준 결정적인 논증이었다.

 

   오늘날의 우리에게는 이러한 설명이 분명하고 단순해보일지라도, 이 설명에 이르기 위한 길은 실제로는 길고도 어두웠다. 미래의 증명 가능성을 예견하는 데에는 개념적인 관계들에 대한 명료한 통찰이 본능적인 느낌에 비해 큰 역할을 하지 못했던 것으로 보인다. 수학자였던 하위헌스는 그의 광학 서문에서 그가 사용한 증명들에 대해 사과하는 것으로 자신의 논의를 시작한다. 이 증명들은 “기하학에서 볼 수 있는 확실성을 제공하지 못하며, 실제로 기하학의 증명들과는 사뭇 다르다. 나의 논의에서 원리들은 이 원리들로부터 이끌어내어진 결론들에 의해 정당화되는 반면, 기하학자들은 안전하고 이의제기가 불가능한 기본 진술들로부터 그들의 정리들을 증명한다. 나의 논의에서 다루어진 대상들의 본성은 이와 같은 논증을 요구한다.” 물리학적 탐구의 방법이 갖는 특수성은 빛의 파동 이론을 발견한 하위헌스의 이와 같은 말에 가장 잘 표현되어 있다. 순수하게 개념적인 관계들을 다루는 학문인 수학은 일반적인 제1원리들로부터 결론들을 연역한다. 그러나 수학은 인간 사고의 법칙들만을 배타적인 방식으로 드러내기 때문에 이것이 가능한 것이다. 수학 그 자체는 자연의 대상들에 관련해서는 아무 것도 말해주지 않는다. 다른 한편 자연과학은 귀납적으로 작동한다. 자연과학은 논리적으로 정확한 사고의 과정이라기보다는 연속적인 추측의 과정이며, 자연의 비밀스런 법칙들에 대한 본능적인 예상들로 이루어진다. 자연과학의 가설은 이 가설의 귀결에 대해 실험적으로 시험함으로써만 입증된다. 만약 시험과 가설이 일치하지 않으면 원리의 추측은 변경되거나 개선되며 다시금 시험된다. 따라서 빛의 파동 이론의 발전은 사고와 실험 사이의 연속적인 경주와도 같아 보인다. 사고가 관측된 현상을 설명하는 데 성공하자마자 실험은 이미 발견된 개념들의 체계에 들어맞지 않는 새로운 사실들을 생산해내고 새로운 가설들을 필요로 하게 된다.

 

   하위헌스 자신은 우리가 갖고 있는 것과 같은 방식의 빛의 파동적 본성 개념을 갖고 있지 않았다. 그는 파동 계열의 엄격한 규칙성 개념을 전혀 갖고 있지 않았고, 따라서 파동 이론에서 가장 중요한 간섭 현상 개념도 갖고 있지 않았다. 그림 8에서 볼 수 있는 것처럼, 빛의 직선 전파에 대한 그의 설명은 광선 방향으로 이어지는 파동 계열들의 강화(intensification)만을 다루었으며 측면에서 이루어지는 파동들의 소멸에 대해서는 언급하지 않았다. 그렇다면 이는, 하위헌스가 넓은 틈새에서 이루어지는 광선의 직선 전파뿐만 아니라 좁은 틈새에서 이루어지는 회절 전파 역시 설명할 수 있는 파동 이론적 설명의 결정적인 우월성에 대해서 알지 못했음을 뜻한다. 사실 그는 그가 제시한 기본 파동 원리에서 볼 수 있듯 이러한 우월성에 대한 열쇠를 갖고 있었으나 실제로 자물쇠를 열지는 못했다. 그러한 사실이 하위헌스의 발견이 갖는 중요성을 훼손하지는 않는다. 한 사람이 남긴 업적은 다음 세대에로 이어지고, 선생들의 발견을 당연하게 생각하는 젊은이들은 새로운 발견으로 향하는 길을 찾아낸다. 간섭의 개념은 영국의 의사이자 물리학자였던 토머스 영으로부터 비롯되었는데, 영은 특히 그의 실험적 업적을 통해 널리 알려진 인물이었다. 하지만 파동 이론의 수학적 토대는 프랑스의 도로공학자였던 프레넬에 의해서 구축되었다. 그는 빛의 본성에 대한 탐구에 있어 가장 중요한 발견을 했다.

 

   프레넬은 가장 단순한 도구들을 가지고 그의 탐구를 시작했다. 프레넬이 사용한 최초의 도구는 그가 사는 마을의 기술자가 만든 것이었다. 그러나 프레넬은 아라고의 도움을 받아 프랑스 아카데미의 회원으로 선출되었다. 39세로 마감한 프레넬의 짧은 생애는 풍성한 결실을 맺은 발견들뿐만 아니라 독창적인 이론들로 가득 차 있다. 프레넬은 최초로 호이겐스의 기본 파동 원리를 수학적으로 공식화했고, 실제로 회절 현상을 계산해낼 수 있었다. 이는 토머스 영 조차도 하지 못했던 일이었다. 비록 이러한 계산이 이후에 키르히호프에 의해서 다소 교정되어야 하긴 했지만, 프레넬의 이론은 파동 광학의 진정한 이론으로 평가되어야 한다. 프레넬의 두 번째 위대한 업적은 이른바 편광(polarization) 현상과 관련된다.

 

   파동은 근본적으로 두 종류가 있는데, 하나는 횡파이며(그림 9) 다른 하나는 종파이다(그림 10). 횡파의 가장 잘 알려진 예는 물 표면에서 관측되는 수면파다. 수면파에서 물 입자들은 위 아래로 흔들린다. 즉, 파동이 진행해나가는 평행 방향과 수직으로 움직인다. 이와 달리 종파에서는 입자들이 전파의 방향에 따라서 흔들리기 때문에 결과적으로 응축(condensation)과 희박함(rarefaction)이 교차한다. 프레넬은 빛이 횡파로 구성되어 있음을 보이는 데 성공했다. 이를 보여주기 위해 프레넬은 빛을 특별한 방식으로 다루었다. 전문적인 용어로 말해 그는 빛의 편광을 만들어냈던 것이다. 이를 이해하기 위해서 수면파의 예를 떠올려보자. 수면파는 이미 편광된 파동이다. 왜냐하면 수면파는 항상 하나의 방향인 위아래 방향으로 움직이기 때문이다. 빛의 파동에서 진동하는 입자들 역시 자신의 횡단 방향을 유지할 것이다. 그러나 일반적인 광선에는 서로 다른 측면 방향을 갖고 있는 파동들이 합성되어 있다. 프레넬은 빛이 방해석(spar)과 같은 결정을 통과할 경우, 마치 수면파를 구성하는 입자들처럼 하나의 진동 방향만을 갖게 된다는 것을 알아챘다. 그는 진동 방향이 서로 다른 두 줄기의 빛 광선들을 생성해냈고, 이 광선들이 더 이상 서로에 대해 간섭하지 않는다는 것을 보여주었다. 이 광선들은 오직 동일한 방향으로 편광 되었을 경우에만 서로 간섭했다.

 

   하위헌스의 심오한 발견은 방해석을 통과한 빛이 이중으로 회절하는 현상을 전파 속도의 차이로 설명할 수 있었다. 그러나 그는 항상 종파만을 고려했고 횡파를 고려하지는 못했던 까닭에, 이 문제에 대한 최종적인 해결책을 발견하지는 못했다. 프랑스의 관료이자 물리학자였던 말뤼(Malus)는 이에 관한 중요한 실험적 탐구를 진행했다. 그러나 빛의 횡파적인 특징을 분명히 밝힌 최초의 인물은 프레넬이었다. 결정에서 일어나는 이와 같은 특별한 현상은 오직 횡파의 가정을 통해서만 규명될 수 있었다. 그러나 물리학자들이 이러한 가정을 믿기란 너무나 힘든 일이었다. 우리는 왜 이들이 빛이 횡파임을 믿기 어려웠는지를 이해하기 위해 에테르의 문제에 주목해 볼 필요가 있다.

 

   빛의 파동 이론이 발전하던 초기부터 이 이론은 에테르의 이론과 동반해서 발전했다. 당시 모든 물리학자들은, 빛의 파동 과정 근저에 있는 극도로 미세한 물질이 공간을 가득 채우고 있어야지만 빛이 파동이라고 이야기할 수 있음을 당연하게 생각했다. 실제로 파동에 대한 일상적인 개념에서는 항상 파동의 물질적인 매개체가 존재하는 것을 필수적인 것으로 가정한다. 그림 9와 10에서 우리는 실에 매달려 있는 구들의 움직임이 어떻게 파동을 생성하는지를 보였다. 이 모형에서 실제로 움직이는 것은 이러한 구들이며, 파동의 운동은 오직 “겉보기” 운동에 지나지 않는다. 이 겉보기 운동은 구들이 동시에 진동하지 않고 순차적으로 진동하기 때문에 일어나는 것이다. 수면파 역시 이러한 종류의 파동이다. 물의 입자들이 “진정한” 움직임을 구성하는 반면, 앞으로 움직이는 파동은 앞서 살펴본 모형이 만들어낸 것과 같은 겉보기 운동이다. 이는 물 위에서 떠다니는 나무 조각이 파동의 속도에 따라 움직이지 않고 같은 장소에 남아 있으면서 위아래로만 움직이는 것을 보면 알 수 있다. 물은 파동을 전달하는 매개체다. 동일한 방식으로 빛 파동을 전달하는 매개체를 물리학자들은 “에테르”라고 불렀다.

 

   물론 에테르에 대해서는 그다지 많은 것이 알려지지 않은 상황이었다. 에테르는 오직 개념적으로만 상정된 것이었으며, 에테르가 있다는 다른 종류의 증거는 없었다. 물리학자들은 에테르가 기체보다 훨씬 더 세밀한 물질이어야만 한다고 생각했다. 왜냐하면 에테르는 유리와 같은 고체 물질의 구멍들 사이를 통과하기 때문이었다. 또한 에테르는 최상의 펌프를 가지고도 뽑아낼 수 없는 것이어야 했다. 모든 공기가 제거된 전구 안에도 에테르가 들어가 있어야 했다. 왜냐하면 그렇지 않을 경우, 빛은 필라멘트에서 유리벽으로 이동하지 못하기 때문에 유리벽 밖으로도 뻗어나가지 못할 것이기 때문이었다. 이처럼 물리학자들은 빛의 운동이 갖는 속성들을 이용해서 에테르의 본성을 명료하게 밝히고자 했다.

 

   물리학자들은 기초적인 물질인 에테르의 이론이 역학 법칙들에 따라 결정되어야 한다는 것에 대해 의문을 제기하지 않았다. 고체, 액체, 기체에 적용되는 탄성 이론에서의 법칙들이 에테르에도 적용되어야 했다. 역학 법칙들에 따라서 빛의 파동 운동이 이해될 수 있었던 것처럼, 에테르에 대한 개념을 발전시키는 것 역시 역학 법칙들을 따라야 했다. 그러나 정확하게 이와 같은 관점에서 볼 때, 빛의 횡파임을 밝힌 프레넬의 발견은 아주 어려운 난관을 불러일으켰다. 왜냐하면 이론적인 고찰을 했을 경우 기체와 같은 물질에서는 오직 종파만 가능했기 때문이다. 바로 이것이 하위헌스가 빛에 대한 탐구 초기에 빛을 종파로 가정한 이유이며, 토마스 영 역시 그가 횡파의 개념에 도달했을 때 그의 계산을 “가상적인” 것이며 실질적인 중요성을 갖지 않는다고 생각했던 이유이다. 따라서 프레넬은 빛의 횡파라는 그의 발견이 필연적인 것임을 보이기 위한 특수한 정당화를 갖고 있었다. 사실 프레넬은 자신의 입장을 뒷받침해주는 에테르에 대한 역학적 이론을 필요로 했고, 이 이론으로부터 빛이 횡파임을 보여줄 수 있었을 때야 비로소 빛이 횡파라는 자신의 입장을 주장할 수 있었다. 어쨌거나 그는 에테르 역학이 가져올 결과들에 대해서 과도하게 두려워하지 않을 만큼의 용기를 갖고 있었다. 푸아송(Poisson)이 탄성 유체에서는 오직 종파만이 가능함을 증명했을 때, 프레넬은 에테르에 대한 개념을 더 발전시킬 필요가 있다고 푸아송을 반박하면서, 예전에는 찾아볼 수 없었던 다른 속성들을 에테르에 부여했다. 프레넬이 에테르에 부여했던 속성들은 사실 그의 동시대인들에게는 받아들이기 어려운 것이었다. 왜냐하면 프레넬의 의견에 따를 경우 에테르는 일종의 고체로 생각되어야 했기 때문이다. 프레넬과 줄곧 함께 일했던 아라고가 프레넬의 결정적인 출판물에 서명을 하지 않았던 것은 의미심장한 사실이라 할 수 있다.

 

   19세기에 사람들은 에테르의 존재를 증명하기 위한 열망을 갖고 있었고, 이에 따라 흥미로운 일련의 실험들이 실시되었다. 이 중에서 우리는 두 가지의 실험에 대해서만 살펴보겠다. 첫 번째 실험은 피조(Fizeau)에 의해 이루어진 실험이다. 프레넬은 이미 에테르를 통과하여 움직이는 물체에게 어떤 일이 벌어지는지에 대한 의문을 제기한 바 있었다. 한편으로는 움직이는 물체가 물체의 구멍 속에 에테르를 단단히 봉한 채 움직일 것이라고 생각할 수 있었다. 반대로 에테르는 너무나 희박해서(tenuous) 움직이는 물체에 의해서 끌리지 않으며, 이에 따라 에테르를 통과하는 물체에는 아무런 마찰력도 작용하지 않는다고도 생각할 수 있었다. 뿐만 아니라 이 두 입장 사이에 있는 중도적인 가능성을 생각할 수도 있었다. 에테르가 아주 미약하게 끌리기 때문에 물체의 운동을 부분적으로만 공유한다는 것이다. 프레넬은 이론적인 근거에 의해서 제일 마지막에 제시된 가정을 옹호했으며, 실제로 에테르가 어느 정도나 끌려가는지에 대해서 계산했다. 피조는 실험에 의해서 프레넬의 계산을 시험해보았다. 그는 물이 흐르는 관에 빛 광선을 통과시켰고, 동일한 관을 사용하지만 반대 방향으로 놓인 관에 다른 빛 광선을 통과시켰다. 즉, 한 광선은 물의 흐름과 같은 방향으로 움직이고 다른 광선은 물의 흐름과 반대 방향으로 움직이도록 한 것이다. 이제 빛을 포함하고 있는 물질이 물이 아니라 에테르라고 해보자. 프레넬의 이론에 따르면 에테르는 아주 조금이나마 끌리기 때문에, 흐름의 반대 방향으로 이동한 광선은 흐름과 같은 방향으로 이동한 광선에 비해 더 많은 시간을 필요로 할 것이다. 피조는 간섭상을 이용해서 이러한 시간을 측정할 수 있었다. 즉, 그는 파동의 마루와 골 사이의 이동을 사용해서 광선들 사이의 시간 차이를 감지했던 것이다.

 

   측정 결과는 수치적으로도 프레넬의 이론과 합치했다. 이 이론에서 에테르가 끌리는 정도는 물질의 굴절률에 의존했다. 유리와 같이 높은 굴절률을 갖는 광학적으로 고밀도의 물질은 상대적으로 높은 끌림 계수를 갖고 있고, 공기와 같이 낮은 굴절률을 갖는 광학적으로 저밀도의 물질은 아주 낮은 끌림 계수를 갖고 있다.

 

   비록 이상과 같은 실험이 에테르에 대한 좋은 입증이 되었을지라도, 그 이후 진행된 다른 종류의 실험은 물리학자들에게 아주 커다란 어려움을 불러일으켰다. 이 실험은 물리학자 마이컬슨(Michelson)에 의해 수행되었으며 에테르 이론과 관련해서 결정적인 역할을 했다. 마이컬슨은 동일한 길이를 갖고 있으며 서로 수직하는 두 개의 팔 AB와 AC가 달린 실험 도구를 만들었다(그림 11). 이 도구의 양팔 끝에는 거울이 붙어 있었다. A에서 빛 광선이 B로 전달되고, B에 도착한 광선은 반사되어 A로 돌아온다. 두 번째 광선은 동일한 방식으로 A에서 C로 보내지고, C에서 반사되어 다시 A로 돌아온다. 만약 도구 전체가 에테르 속에서 정지하고 있다면 두 개의 광선이 이동하는 데에는 동일한 시간이 걸릴 것이다. 그러나 이 도구가 에테르를 통과하여 움직이고 있다고, 예를 들어 AB 방향으로 움직이고 있다고 가정해보면 상황은 본질적으로 달라진다. 물론 에테르 전체가 도구와 함께 움직이고 있다면 광선의 움직임은 도구가 정지하고 있을 때와 동일할 것이다. 그러나 우리는 이미 피조의 실험을 통해, 빛이 공기를 통과할 때 에테르가 실험 도구와 함께 움직이지는 않는다는 것을 알고 있다. 따라서 빛 광선들 사이의 속도 차이가 발생한다. B가 광선으로부터 멀어지기 때문에 광선 AB는 좀 더 천천히 움직여야 하며, B에서 A로 돌아올 경우에는 A가 광선으로 다가오기 때문에 더 빨리 움직여야 한다. AC에 관해서는 좀 더 복잡한 상황이 발생한다. 왜냐하면 여기서 광선은 다른 광선에 수직으로 움직이기 때문이다. 계산을 해 보면 광선 ABA는 광선 ACA보다 더 많은 시간을 필요로 한다. 이와 같은 실험이 지각 가능한 효과를 불러  일으키기 위해서는 실험에 사용되는 이동 물체가 아주 빠른 속도를 가지고 있어야만 한다. 이를 실현하기 위한 가장 손쉬운 방법은 우리 눈앞에 있다. 왜냐하면 우리가 살고 있는 지구는 태양 주위를 대략 초속 32킬로미터 정도의 속도로 돌고 있기 때문이다. 즉, 지구는 보편적인 에테르 속을 빠른 속도로 이동하고 있다. 따라서 이 실험을 하기 위해서는 도구의 팔인 AB와 AC의 길이를 같게 만들고, 두 경로 사이를 이동하는 빛의 시간 차이를 빛의 간섭 현상을 통해서 탐지할 수 있기만 하면 된다. 마이컬슨은 1883년에 이 실험을 수행했다. 놀랍게도 그는 이 실험에서 시간 차이를 탐지할 수가 없었다. 그의 실험도구가 계산된 결과의 100분의 1을 탐지할 수 있을 정도로 정확했음에도 불구하고 말이다.

 

   이 결과는 에테르 이론을 지지하는 사람들에게는 심각한 타격을 입혔다. 왜냐하면 이 실험의 결과는 다른 실험들을 통해서 얻어진 에테르의 개념에 부합하지 않았기 때문이다. 빛의 파동적인 본성은 안정적으로 유지되었다. 그러나 빛 파동의 매개체가 갖는 본성은 더욱 신비로운 것으로 여겨지게 되었고, 실험적인 발견을 통해 확인된 에테르의 속성들은 하나의 일관된 상으로 합쳐지지 못했다. 우리가 에테르 이론들이 역학의 법칙들로부터 형성되었음을 감안한다면, 광학 실험들로부터 에테르를 확인하고자 하는 노력은 광학이 역학의 귀결, 즉 에테르 역학의 귀결임을 보이고자 하는 시도에 지나지 않음을 의미함을 알 수 있다. 이러한 시도는 성공하지 못했다. 실험적인 발견들은 에테르 역학으로 설명되지 못했다. 우선 이러한 결과는 광학의 실패로 여겨졌다. 이것이 광학의 실패가 아니라 역학의 실패라는 것을 알아차리기 위해서는 완전히 다른 노선의 발전이 필요했다. 그리고 광학에 대한 궁극적인 이해에 도달하기 위해서는 그 이전에 물질에 관한 완전히 새로운 개념이 발전되어야 했다.