빛보다 빠른 입자? 과학자들의 어이없는 실수

운전면허를 따고 얼마 지나지 않아 처음 고속도로를 달렸을 때, 익숙해지기 어려웠던 것이 하나 있다. 바로 구간단속 구간이다. 처음에는 다른 과속 카메라와 다르지 않게 생각해서 카메라가 설치된 지점을 지날 때만 살짝 브레이크를 밟고 속도를 줄인 후 다시 속도를 올렸다. 하지만 내비게이션은 속도를 줄이라는 경고음을 계속 울려댔다. 당황한 나는 내비게이션의 안내에 따라 서서히 속도를 줄였다.

긴장한 채 운전대를 꽉 쥐고 숨을 고르며 주변을 둘러보았다. 방금 전까지만 해도 내 초보운전 스티커를 비웃기라도 하듯이 옆으로 쌩쌩 지나가던 차들이 모두 느릿느릿하게 달리고 있었다. 길이 막히는 것도 아닌데, 단속 구간이 끝나기 전까지 속도를 올릴 수 없다는 것이 답답하게 느껴지기도 했다.

나중에 구간단속 구간에 들어설 때와 벗어날 때, 두 지점에 설치된 카메라에서 지나가는 시간을 기록해 두 지점 사이 평균 속도를 기준으로 단속을 한다는 것을 알고 굉장히 신기하게 생각했다. 빠르게 달리는 여러 대의 자동차를 구분해낼 수 있다는 것도 신기했고, 얌체 같은 운전자들의 운전 습관을 더 철저하게 감시하기 위한 경찰의 고민도 느껴졌다. 정상적인 운전자라면 카메라를 무시하고 더 속도를 올려 달리지 않는다. 도로 위를 달리는 동안 제한속도를 넘어서는 안 된다.

놀라운 것은 바로 이 우주에도 우리가 무슨 수를 써도 절대 더 앞지를 수 없는 전 우주의 제한 속도가 정해져 있다는 것이다. 우주의 제한속도는 바로 빛의 속도로, 초속 30만 km쯤 된다.

우주에서 빛은 가장 빠른 스피드광이다. 그리고 다른 그 무엇도 빛보다 더 빠른 속도로 움직일 수 없다. 모두들 이 우주에는 암묵적인 제한속도 규정이 있다고 생각했다.

# 우주에 빛보다 빠른 입자가 있다?!

하지만 아무리 단속 카메라를 설치하고 경고 표지판을 세워놓아도 달릴 놈은 달린다. 이처럼 우주에서도 제한속도를 어기고 빛을 앞지르는 무법자가 나타날 수 있지 않을까?

2011년 9월 22일 유럽의 물리학자들이 드디어 ‘우주의 무법자’를 체포했다는 놀라운 실험 결과를 발표했다. 그 범인은 스위스에서 이탈리아까지 빛보다 더 빠르게 과속을 했다는 혐의를 받은 뮤온 뉴트리노(muon neutrino)였다.

유럽 남부 스위스와 이탈리아의 국경이 마주한 곳에는 약 731km의 기다란 지하 단속 구간이 설치되어 있다. 이 구간단속 구간은 스위스 제네바에 있는 유럽 핵물리연구소(CERN: Conseil Européenne pour la Recherche Nucléaire)에서 출발해 이탈리아의 그랑사소 국립 연구소(LNGS: Laboratori Nazionali del Gran Sasso)의 검출기까지 이어진다.

이곳의 물리학자들은 우선 스위스 제네바 지하에 설치된 둘레 6.9km의 거대한 원형 강입자 가속기(SPS: Super Proton Synchrotron)에 작은 입자 뉴트리노를 빠른 속도로 빙글빙글 내달리도록 했다. 그렇게 속도를 최대한 높인 뉴트리노가 제네바를 떠나 이탈리아 그랑사소에 설치된 검출기를 지나갈 때까지 걸리는 시간을 측정해 뉴트리노가 이 구간을 얼마나 빠른 속도로 지나갔는지를 측정할 수 있다.

그런데 놀랍게도 당시 연구진은 아주 충격적인 결과를 발표했다. 2011년 3월 이들이 처음 확보했던 실험 결과에 따르면, 당시 측정된 뉴트리노는 같은 거리를 빛의 속도로 달릴 때보다 아주 살짝 더 빠르게 도착한 것처럼 보였다. 그 차이는 불과 60나노초, 즉 1억 분의 6초로 아주 미세한 차이였다. 뉴트리노가 빛을 추월한 것이다! 어떻게 이런 일이 가능했을까? 뉴트리노가 음주를 했거나, 갑자기 화장실이라도 급했던 것일까?[1]

아주 작은 차이지만, 엄격한 우주의 속도 규정 아래에서 이 정도는 분명 큰 범죄였다. 절대 넘을 수 없을 것만 같았던 빛을 앞지른 것이 사실이라면, 그동안 믿어온 현대 물리학의 근간이 뒤집어질 수도 있는 아주 놀라운 결과였다. 2011년 9월 이 당혹스러운 실험 결과가 담긴 논문이 발표되었을 때, 전 세계 물리학자들은 쉽게 믿지 못했다. 여기저기서 많은 토론과 논쟁이 이어졌고, 이후 이 뉴트리노의 혐의에 관한 여러 번의 추가 재판이 시작되었다.

# 예전부터 유명했던 속도광 뉴트리노

사실 뉴트리노(또는 중성미자)라는 아주 미세한 아원자 입자는 오래전부터 굉장한 사고뭉치로 유명했다. 물리학자들 사이에서 뉴트리노라는 입자의 존재 가능성이 처음 거론되었을 때부터, 과연 인류가 이 유령 같은 녀석을 검출할 수 있을지에도 굉장히 회의적이었다.

뉴트리노는 보통 원자의 핵을 이루고 있는 중성자(neutron)가 붕괴하면서 양성자(proton)와 전자(electron)를 방출하는 베타 붕괴(Beta decay) 반응에서 발생한다. 중성자는 이름에서 알 수 있듯이 전기적으로 +도 –도 아닌 중성을 띠고 있는 입자다. 이런 중성자가 전기적으로 +를 띠는 양성자와 –를 띠는 전자로 쪼개지는 과정이 바로 베타 붕괴다.

그런데 물리학자들은 이 베타 붕괴 반응이 일어나기 전의 중성자와 반응이 일어난 후의 양성자와 전자를 비교한 결과 아주 미세하게 에너지가 줄어드는 것을 확인했다. 이는 반응이 일어나기 전의 총 에너지의 합과 반응이 일어난 후의 에너지 합이 유지되어야 한다는 물리학의 가장 기본이 되는 ‘에너지 보존 법칙’을 벗어나는 결과였다.

이러한 미세한 모순을 설명하기 위해 오스트리아 출신의 물리학자 볼프강 파울리(Wolfgang Ernst Pauli, 1900~1958)는 미심쩍은 추측을 내놓았다. 전기적으로 중성인 중성자가 전기적으로 각각 +와 –를 띠는 양성자와 전자로 쪼개지는 것은 설명할 수 있다. 하지만 베타 붕괴 반응이 일어난 후 미세하게 줄어든 전체 질량을 설명하기 위해서는 전기적으로는 중성을 띠고 있지만 아주 미세하게 질량을 갖고 있는 미지의 입자를 가정해야 했다. 이런 아주 미세하고 작은 중성의 유령 입자에 중성미자, 뉴트리노라는 별명을 붙여주었다. 뉴트리노는 발견되기 전부터 이름을 갖고 있던 셈이다.

이런 대담한 가정을 내놓은 파울리는 1930년 동료와 주고받은 편지에서 자신의 가정에 대해 이런 자평을 남기기도 했다.

“검출할 수 없는 미지의 입자를 추정하다니. 나는 끔찍한 일을 하고 말았어(I have done a terrible thing. I have postulated a particle that cannot be detected).”

말 그대로 전기적으로도 중성을 띠고 있고 질량도 너무 미세해서 보통은 다른 입자와 부딪히거나 반응하면서 흔적을 잘 남기지 않는 그런 입자로 여겨졌다. 말 그대로 우주의 대부분을 그대로 관통하는 유령과 같은 입자였다. 하지만 이런 유령도 끈질긴 물리학자들의 심문 끝에는 결국 꼬리가 잡히기 마련이다.

물리학자들은 최대한 다른 광원에서 쏟아지는 방해 전파를 피하기 위해 깊은 산 속 지하 1000m에 거대한 물탱크를 만들었다. 그리고 그 안에 세상에서 가장 예민한 검출기들을 가득 설치하고 뉴트리노가 흔적을 남기기를 기다렸다. 말 그대로 땅 속의 거대한 그물 안에 뉴트리노라는 작은 유령 송사리가 걸리기를 바라며 시간과의 싸움을 시작했다.

결국 물리학자들은 뉴트리노가 흔드는 미세한 낚싯대의 떨림을 감지했다. 운이 좋아야 하루에 뉴트리노를 최대 세 마리 정도 잡는 속도였다. 그렇게 우리는 우주에서 가장 투명한 입자 뉴트리노를 마주하게 되었다.

처음에는 뉴트리노를 질량이 완전히 0인, 즉 질량이 없는 입자로 생각했다. 하지만 뉴트리노가 실제 우주에 존재한다는 것이 밝혀진 이후 지금까지 다양한 추가 조사를 한 끝에 아주 작기는 하지만 질량이 아예 0은 아니라는 사실을 확인했다.

질량이 아주 작고 가볍기 때문에 우주에서 발견되는 뉴트리노들은 모두 거의 빛의 속도에 가까운 속도로 날아다닌다. 지금 이 시간에도 우리는 우주 사방에서 날아오는 광속의 뉴트리노 소나기를 가득 맞고 있다. 그 중에는 빛의 속도로 8분 걸리는 거리인 태양 중심에서 날아온 뉴트리노도 있고, 100억년 넘게 걸리는 거리의 초거대 블랙홀에서 날아온 녀석도 섞여 있다.

뉴트리노와 같은 작은 기본 입자들에는 각 입자의 특징을 결정하는 다양한 요소가 있다. 사람도 단순히 키나 몸무게 같은 겉모습뿐 아니라 목소리, 성격, 분위기 등 다양한 기준으로 구분할 수 있듯이, 이런 작은 입자들도 그 입자의 에너지와 자기장, 회전 성분 등을 나타내는 요소들로 구분할 수 있다.

그런데 흥미롭게도 뉴트리노는 빠른 속도로 여행을 하는 동안 다른 종류의 뉴트리노로 변신을 하기도 한다. 서울역에서 출발할 때는 소심했던 사람이 부산역에 도착하자 갑자기 굉장히 저돌적인 성격으로 바뀌는 것과 같다. 이렇게 뉴트리노가 여행 중에 보여주는 당황스러운 태세 변환을 뉴트리노 진동(Neutrino oscillation)이라고 한다. 유럽의 물리학자들은 이러한 뉴트리노의 변신, 정확히 말하자면 타우 뉴트리노가 뮤온 뉴트리노로 변신하는 과정을 검증하기 위해 스위스에서 이탈리아로 뉴트리노를 여행시켰다.

스위스 제네바역에서 출발할 때는 타우였던 녀석이 이탈리아 그랑사소역에 도착할 때는 뮤온으로 변신한 모습을 검출하는 실험을 시작했다. 이 실험이 바로 빛을 추월했다는 속도위반 혐의를 받는 뉴트리노를 체포해 물리학자들의 재판에 회부한 그 ‘오페라 실험(OPERA: Oscillation Project with Emulsion-tRacking Apparatus experiment)’이다.

# ‘유의미한 신호’ 입증했다더니…

내가 도로에서 경험하는 속도위반과 뉴트리노가 일으킨 속도위반에는 큰 차이가 하나 있다. 경찰은 나를 붙잡고 속도위반을 했다고 의심하고, 나는 그런 적 없다고 발뺌을 한다. 하지만 반대로 오페라 실험을 통해 체포된 뉴트리노는 자신이 나서서 빛을 추월했다고 자신의 범행을 적극 시인했다. 그리고 오페라 실험의 물리학자들은 이러한 뉴트리노의 범죄를 입증하는 변호사를 자처했다. 바깥의 다른 물리학자들은 ‘우리 뉴트리노가 절대 그럴 리가 없다’며 그의 자백을 쉽게 믿지 않았다.

보통 이렇게 작은 입자들의 초고속 여행을 분석하는 입자물리학은 굉장히 작은 크기의 에너지들을 다루기 때문에 아주 미세한 잡음도 실험 결과에 큰 방해 요소가 된다. 들쭉날쭉 지저분한 잡음 신호 속에서 애매하게 튀어오른 신호의 흔적이 정말 물리학자들이 찾아 헤매던 입자의 흔적인지 아니면 그냥 우리를 속이는 노이즈의 장난인지 수학적으로 엄밀하게 구분하는 노하우가 필요하다.

낚시꾼들이 걷어올린 물고기가 조그만 아기 물고기인지, 아니면 흔치 않은 대어인지를 구분하기 위해 사용하는 일정한 길이의 자가 있다. 그 막대기보다 물고기가 더 크면 꽤 어려운 대어를 낚은 것으로 인정을 받고 주변 낚시꾼들의 부러움이 섞인 박수를 받을 수 있다.

이처럼 물리학자들은 노이즈 속에서 발견되는 미심쩍은 신호들이 진짜인지 가짜인지 구분하기 위해 ‘파이브 시그마(Five sigma)’라는 기준을 이용한다. 시그마는 어떤 신호나 수치가 중심의 평균값에서 얼마나 벗어나 있는지 그 분포를 나타내는 편차(standard deviation)다. 그리고 전체 신호의 평균이나 중간값을 기준으로 편차의 몇 배 범위 안에 신호가 들어오는지를 가지고 신호의 유의성을 판단한다.

만약 어떤 신호가 파이브 시그마를 벗어나는 결과를 보여준다면, 이는 다른 99.9999%의 신호 바깥에 있는 아주 유력한 용의자라는 것을 의미한다. 확률로 따지면 거의 100만 분의 1로 충분히 범죄 혐의를 의심할 만한 날카로운 잣대로 활용할 수 있다.

실제로 2012년 CERN에서 수십 년 동안 전설로만 전해지던 또 다른 유명한 유령 입자 힉스(Higgs)를 검거했다고 발표했을 때에도, 당시 발표장의 화면 슬라이드 쇼에는 크게 단 두 글자가 나타났다. 숫자 5와 그리스 기호 시그마(σ). 파이브 시그마라는 물리학의 엄격한 잣대를 통과했다는 뜻이다. 화면에 나타난 ‘5σ’를 본 물리학자들은 환호성을 지르며 축하했다.

이후 같은 해 11월 오페라 연구진들은 내부적으로 여러 번의 데이터 분석을 통해 분명 자신들의 결과가 파이브 시그마를 벗어나는 유의미한 신호라고 발표했다. 스위스에서 이탈리아까지 거리를 빛보다 60나노초 정도 더 빠르게 도착했다고 자신의 범죄 사실을 강하게 주장하는 이 뉴트리노가 정말 ‘유죄’로 밝혀진다면, 우리는 더 이상 우주에 절대 넘을 수 없는 빛의 속도라는 제한속도가 있다고 이야기할 수 없게 된다.

# 앗, 실수였네

당시 오페라 실험의 결과는 과학자들의 이목을 끌기에 충분한 논란 거리였다. 오페라 실험을 포함해 비슷한 실험을 할 수 있는 전 세계 곳곳의 입자물리 연구소에서는 다양한 추가 재판이 진행되었다. 그리고 결국 얼마 지나지 않아 2012년 2월 오페라 실험의 연구진들은 당시 자신들이 체포했던 뮤온 뉴트리노에게 ‘혐의 없음’이라는 결론을 내리고 논란을 마무리 지었다.

오페라 연구진의 번복을 바라보면서 나 역시 굉장히 오묘한 기분이 들었다. 한편으로는 내가 믿고 공부해온 지금까지의 과학이 살아남았다는 것에서 안도감을 느꼈다. 또 한편으로는 새로운 패러다임의 물리학이 시작될지도 모를 기회가 결국 한때의 스캔들로 끝나버렸다는 데에서 아쉬움을 느꼈다.

그렇다면 오페라 실험은 대체 왜 착한 뉴트리노에게 빛보다 더 빨리 과속했다는 엄청난 누명을 씌웠을까?

당시 오페라 연구진의 관심은 오로지 그 결과를 설명하기 위한 ‘고차원적인 질문’에만 집중되어 있었다. 빛의 속도에 가깝게 날아가는 뉴트리노가 어떤 알지 못하는 상대론적인 효과를 겪은 것은 아닐까? 어쩌면 초고속으로 날아가던 중에 시간을 역행하는 작은 웜홀(worm hole)을 관통하면서 진짜 시간 여행을 한 것은 아닐까? 정말 우리를 가슴 설레게 만드는 그런 질문에만 관심을 쏟고 있었다.

하지만 정작 문제의 진짜 답은 누구도 관심을 두지 않았던 가장 시시한 곳에 숨어 있었다. ‘실험 장비들은 잘 연결되어 작동했는가?’

연구진은 2011년 12월 6일에서 8일까지 오페라에 설치된 장비를 이용해 인공위성의 GPS와 시간이 아주 정밀하게 동기화되고 있는지를 확인했다. 그런데 나중에 확인해보니 오페라 실험실에서 사용하는 마스터 시계와 이탈리아 그랑사소 지하에서 뉴트리노를 기다리는 검출기에 맞춰진 시계 사이에 아주 미세한 차이가 확인되었다. 검출기는 오페라 실험실 마스터 시계의 실제 시간보다 약 70나노초 느렸다. 앞서 체포되었던 뮤온 뉴트리노가 빛을 추월했다고 의심받는 딱 그 정도의 시간 차이였다.

더 당황스러운 것은 이러한 딜레이가 2011년 12월 8일까지는 확인되었지만, 이후 12월 13일 다시 확인했을 때에는 귀신처럼 사라졌다는 것이다. 불과 며칠 만에 마스터 시계와 검출기 시계 사이의 미세한 시차가 있었다가 사라진 것이다. 대체 무슨 일이 벌어진 것일까?

이런 시간 차이는 정말 사소한 실수로 인해 발생했다. 연구진은 지하 검출기와 오페라 실험실의 마스터 시계 사이의 신호를 주고받는 장비에 연결된 구리 케이블 하나가 살짝 풀려 있는 것을 확인했다. 나사가 다 조여지지 않고 아주 조금 풀려 있었다. 그래서 가끔씩 광케이블을 따라 전달되는 두 시계 사이의 신호가 살짝 끊겼다가 다시 연결되었다가를 반복한 것이다. 그리고 하필이면 뉴트리노 실험을 진행하던 때에 광케이블 신호가 살짝 느슨해지면서 딜레이가 생겼고, 연구진은 그것이 뉴트리노가 ‘과속’을 했기 때문이라고 착각했다.[2]

또 뉴트리노의 스위스-이탈리아 여행 시간을 측정하는 시계 장치 중 일부가 약간 더 빠르게 시간을 재고 있다는 문제도 확인했다. 째깍째깍 시곗바늘이 돌아가는 속도가 아주 미세하게 조금 더 빨랐던 탓에, 똑같은 거리를 날아가는 동안 걸리는 시간을 더 짧게 측정했고 그 결과 뉴트리노가 더 빨리 날아간 것으로 착각한 것이다.

이렇게 아주 시시하고 힘 빠지는 ‘기계적 결함’이 스캔들의 원인으로 확인되면서, 뉴트리노는 ‘혐의 없음’이라는 무죄 판결을 받아낼 수 있었다. 물론 제발 자신들이 체포한 뉴트리노가 유죄이기를 바랐을 이탈리아의 변호사들은 아주 아쉽고 민망했겠지만 말이다.

이 오페라 실험의 과속 스캔들은 과학자들이 새로운 결과를 발표하고 검증하는 데 얼마나 신중하고 조심해야 하는지, 놀라운 결과를 그냥 서둘러서 발표하고 싶은 설레발이 얼마나 위험한지를 몸소 보여주는 교훈을 남겨주었다.

물리학자들은 지금도 완전히 포기하지 않았다. 계속 잠복근무를 하다보면 언젠가 정말 빛의 속도를 앞지르는 속도위반 뉴트리노를 잡아낼 수 있을지 모른다는 생각을 버린 것은 아니다. 오페라의 뜨거웠던 스캔들이 한바탕 지난 후에도 이탈리아 그랑사소의 연구진은 우주 사방에서 날아오는 우주선 입자들의 흔적을 추적하는 다른 검출기 이카루스(ICARUS: Imaging Cosmic And Rare Underground Signals)를 동원해 오페라 실험과 비슷한 실험을 시도했다. 아직까지는 또 다른 용의자 뉴트리노를 체포하지는 못했다.[3][4][5]

빛의 속도는 우주에서 넘어설 수 없는 ‘마의 장벽’으로 자신의 위엄을 여전히 보여주고 있다. 지금껏 절대 넘어설 수 없는 빛과 우리 사이의 넘사벽, 과연 이 넘사벽은 앞으로도 지켜질 영원한 우주의 법칙일까, 아니면 언젠가는 넘어설 수 있는 하나의 관문일 뿐일까? 그 답은 지금 내 옆을 쏜살같이 지나가는 빛만이 알고 있을 것이다.