이론물리학 연구에서 수학적 아름다움을 강조한 폴 디랙(오른쪽)과 그 아름다움은 진리의 애매한 가이드일 뿐이라고 통찰한 로저 펜로즈. 출처: 위키피디아
'자연을 이해하려면 먼저 수학을 이해해야 한다'
이제 플라톤과 그의 선배 피타고라스가 매료되었던 수학과 자연법칙 사이의 오묘한 관계에 대해 알아보겠습니다. 자연의 법칙을 올바르게 이해하려면, 제일 먼저 ‘추정’과 ‘사실’을 엄격하게 분리해야 합니다. 인류는 언젠가부터 ‘자연을 이해하려면 가장 먼저 수학을 이해해야 한다’는 사실을 깨닫게 되었습니다. 이것은 사실 과학 분야에서 인류가 이루어낸 최초의 업적이라고 평가받는 깨달음이기도 합니다.
그런데 자연에서 일어나는 현상들이 수학법칙을 철저하게 따르는 이유는 무엇일까요? 옳은 것으로 판명된 물리학 이론들은 그 자체로 ‘아름다운’ 수학체계를 이루고 있음을 볼 수 있습니다. 펜로즈의 통찰에 따르면 플라톤의 이상적 원형(ideal form) 중 일부만이 수학세계에 투영됩니다. 그리고 수학은 플라톤의 이상향 중에서 특히 ‘진리 truth’와 밀접하게 연관되어 있습니다.
플라톤은 진리를 ‘아름다움’과 ‘착함’이라는 두 가지 항목으로 분류했습니다. 플라톤 수학세계 역시 아름다움과 착함이 포함되어 있는 것으로 간주했던 것입니다.
새로운 물리학 이론을 발견하고 수용하는 데는 ‘진리와 아름다움 사이의 놀라운 상호관계’가 결정적인 역할을 했다는 것은 잘 알려진 사실입니다. 물리적 세계의 저변에 깔려 있는 수학의 아름다움을 굳이 논하지 않더라도, 새로운 수학적 아이디어로부터 진리를 찾는 여정에서 ‘수학의 미적 기준’은 중요한 길잡이 역할을 합니다.
진리와 아름다움 사이의 놀라운 상호관계
일부 수학자들은 플라톤의 이상적 수학세계가 존재한다는 가장 결정적인 증거로 ‘수학의 아름다움’을 꼽습니다. 물리이론에서 예기치 않은 수학적 아름다움이 발견되면 틀릴 가능성이 거의 없다는 것입니다. 바꿔 말하면 대칭성과 같은 수학적 아름다움은 물리 법칙을 발견하는 안내자 역할을 하는 것이지요.
플라톤의 이 같은 ‘수학적 이상향’은 결국 만물은 수로 구성돼 있으며, 우주의 운행은 수학적 법칙에 따른다는 피타고라스 주장과 같은 맥락입니다. 우주가 수학으로 기술돼 있는 마당에 아름다움을 느끼게 하는 수학 문장은 우주의 진리, 곧 올바른 우주법칙일 가능성이 높지 않겠습니까? 근대 들어 갈릴레이가 “자연은 수학적 언어로 쓰여 있다”고 한 것도 같은 의미에서였습니다. 근대과학의 아버지인 갈릴레이가 이런 말을 했으니 그 후배들은 곧이 듣지 않을 수 없겠지요.
물리학자 유진 위그너는 자신의 저서 『자연과학에서 발휘되는 수학의 뛰어난 효율성』에서 다음과 같이 언급했습니다. “물리학과 수학법칙의 기적 같은 조화는 하늘에서 뚝 떨어진 선물과 같다.”
물리학자들은 이론의 우아함이나 아름다움을 논할 때 “가장 강력한 물리학 이론도 수학으로 간단하게 서술된다”는 점을 강조합니다.
양자전기학을 정립한 공로로 노벨물리학상을 수상한 폴 디랙은 다음과 같은 유명한 말을 남겼습니다. “물리학자가 아름다움의 관점에서 방정식을 찾아 헤매면서 뚜렷한 영감과 마주친다면 올바른 길에 들어선 셈이다.” 심지어 그는 이런 말까지 했습니다. “물리방정식은 실험과의 일치보다 구조의 아름다움이 더 중요하다.”
뉴턴역학과 맥스웰의 전자기이론, 그리고 아인슈타인의 일반상대성이론을 필두로 한 20세기의 표준모형들이 좋은 사례들입니다. 이들은 모두 물리적 현상을 완벽하게 기술하는 매우 아름다운 방정식으로 구성돼 있기 때문입니다.
그러나 수학적 아름다움이 모두 진리를 담보하는 것은 아닙니다. 수학적 일관성과 대칭성 즉 수학적 우아함은 물리이론에 매우 중요하지만 결코 충분조건이 될 수는 없기 때문입니다. 과학에서 수식의 아름다움은 실험결과를 결코 이기지 못한다는 사실을 명심할 필요가 있습니다. 디랙의 방정식이 아름다움의 극치란 평가를 받는 것은 사실이지만 ‘실험과의 일치보다 방정식의 수학적 아름다움이 더 중요하다’는 디랙의 말은 결코 옳지 않습니다.
수학적 아름다움이 진리를 담보해주지는 않는다는 사실의 극명한 예가 바로 행성의 ‘원운동’입니다. 천상계는 고귀하고 완전하므로 행성과 천체는 기하학적으로 완전한 원운동을 한다는 관념을 두고 하는 말입니다.
이것은 피타고라스가 창안한 이후 플라톤과 아리스토텔레스에서 코페르니쿠스와 갈릴레이까지 절대 진리로 신봉돼 왔습니다. 유일한 이유는 원이 수학적으로 가장 아름답고 완벽한 도형이라는 것이었지요. 하지만 행성은 실제로 (불완전한) 타원 운동을 한다는 것이 케플러에 의해 발견되면서 원운동 관념은 폐기됐습니다.
“수학적 아름다움은 진리를 향한 애매한 가이드일 뿐"
수학적 아름다움의 안내를 받아 중력장방정식을 완성한 아인슈타인은 아이러니하게도 같은 방법으로 통일장이론 연구에서는 완전히 실패했습니다. 아인슈타인의 실패는 물리적 원리 없이 수학적 아름다움만을 추구한 결과라는 분석이 많습니다. 미국의 천체물리학자 존 휠러는 “자연의 힘을 기하학적으로 통일하려는 아인슈타인의 꿈은 폐기되었다”고 단언하기도 했습니다.
지난 20여 년 동안 이론물리학의 주류로 군림해온 초끈이론(superstring theoty)도 통일장이론과 같은 슬픈 운명이 될지 모른다는 조심스러운 전망이 나오고 있습니다. 초끈이론은 수학적으로 우아하지만 이를 뒷받침할 실험적 증거가 아직 발견되지 않았기 때문입니다. 초끈이론 연구자들은 “이론이 너무나 아름답고 우아하기 때문에 틀릴 가능성이 별로 없다”는 말을 신념처럼 되뇌였습니다.
그러나 수학자이자 천체물리학자인 펜로즈는 수학과 진리의 관계에 관해 다음과 같이 정곡을 찔렀습니다. “수학적 아름다움은 진리를 향한 애매한 가이드일 뿐이다.”
저작권자 ⓒ 인저리타임, 무단 전재 및 재배포 금지