본문 바로가기
입시 뉴스&교육 철학

무한에 대한 도전 게오르그 칸토어(1845-1918)

by 부산센텀 허선생 2026. 1. 24.

 

 

"수학의 본질은 그 자유로움에 있다"

오랜 시간동안 수학에서 무한은 금기의 대상이었다. 무한에 대한 도전에 신에 대한 도전으로 받아들이는 사람도 있었고, 무한은 수학에서 가치가 없다고 얘기하는 사람도 많았다. 그의 이론은 그의 생전에는 많은 비판과 비난을 받음과 동시에 온갖 시련도 받았지만 결국은 집합론의 창시자로 이름을 남기게 된다. 그에 대해 알아보도록 하자.

1. 출생과 어린시절

칸토어는 1845년 러시아 상트페테르부르크에서 태어났다.

아버지는 덴마크에서 러시아로 이주한 부유한 상인이자 주식 중개인이었고, 어머니는 바이올리니스트이자 음악교사였다. 칸토어의 부모는 모두 유대인 혈통이나, 그의 아버지 게오르크 볼데마르 칸토어는 유대교가 아니라 매우 독실한 루터교 신자였고 그 또한 기독교 신자로 길러졌다. 칸토어의 부계와 모계 모두 음악적 재능이 뛰어난 가문이었다. 칸토어의 외할아버지도 유명한 바이올린 연주자였고 그 동생 요제프 뵘은 빈(Wien) 음악 학교의 설립자이자 지휘자였다. 칸토어 자신도 음악적 재능이 뛰어나서 음악과 수학 사이에서 직업을 고민하기도 했었다. 그의 아버지의 건강이 악화하자 가족들은 그의 나이 11살인 1856년에 독일의 프랑크푸르트에 정착한다. (이후 칸토어의 아버지는 10년도 지 나지 않아 사망한다. 그렇지만 그의 남겨진 유산으로 인해 어린시절엔 유복하게 자란 것으로 기록되어 있다.)

2. 청년시절

칸토어는 수학자가 되고싶었지만, 그의 아버지는 그가 엔지니어가 되길 바랬다. 아버지의 말에 따라 다름슈타트의 기술 단과대학에서 엔지니어 프로그램을 2년 동안 이수하기도 하였지만, 아버지가 1863년 결핵으로 죽었을 때, 그는 베를린 대학으로 갔다. 당시 베를린 대학은 유럽 수학의 중심지 중 하나였다. 칸토어는 크로네커, 바이어슈트라스, 쿠머 등 당대 최고의 수학자들에게 배울 수 있었다. 그는 정수론과 관련하로 1867년 박사 학위를 취득한다. 그는 1869년에는 할레 대학의 조교수가 되었고, 1872년에는 부교수가 되었다. 1874년에는 여동생의 친구와 결혼했고, 슬하에 두 아들과 네 딸을 두었다. 그리고 1879년에는 정교수가 되었다. 그리고 이후 생애 전부를 할레 대학에서 보냈다.


할레시와 할레대학교

할레: 헨델의 고향이자 마틴루터로 시작되는 종교개혁의 최전선지 중 하나.

칸토어가 이 대학으로 온 것은 그의 아버지의 영향에 따른 종교관 때문인지 우연인지는 모르겠다.

 

할레대학교 대학본부와 도서관

 

할레에 있는 칸토어 기념비

칸토어 묘


3. 무한에 대한 탐구

이 글이 칸토어의 무한집합론에 대해 서술하는 글은 아니니 무한집합론에 대해 맛만 보도록 하자.

칸토어의 무한집합론과 관련하여 유명한 얘기가 있다. 바로 '힐베르트 호텔'에 대한 얘기이다.

힐베르트는 ‘무한 호텔’의 관리인이다. 이 호텔은 1호실, 2호실, 3호실 … 등 무한개의 방을 갖춘 어마어마한 호텔이다. 얼마나 멋진 호텔인지 손님이 가득 차 있어 빈 방이 없다. 이 때 손님 한 명이 찾아온다.

손님 : 빈 방 있나요?

힐베르트 : 없습니다.

손님 : 소문 듣고 왔는데, 빈 방이 없다니 유감이군요.

힐베르트 : 잠깐만요. 손님들에게 양해를 구하고, 빈 방을 구해드릴 수 있습니다.

대체 힐베르트는 무슨 배짱으로, 없는 빈 방을 만들려는 걸까?

힐베르트 : 저희 호텔을 찾아주신 손님 여러분께 양해 말씀 드립니다. 손님이 한 분 찾아오셔서 방을 내드리고자 하니, 1호실 손님은 2호실로, 2호실 손님은 3호실로, 3호실 손님은 4호실로 … n호실 손님은 (n+1)호실로 옮겨 주시면 감사하겠습니다.

(이하 생략...)

출처: [네이버 지식백과] 자연수 vs. 정수 - 무한이야기 (수학산책, 정경훈)

이 얘기는 수학자 힐베르트가 칸토어의 무한집합론에 대해 옹호하며, 무한의 성질을 설명하기 위한 예시이다.

앞의 힐베르트 호텔 얘기처럼 무한이라는 게 참 오묘한 성질을 가지고 있다. 예를 들어보자.

짝수의 집합 vs 자연수의 집합

먼저 원시시대로 돌아가보자.

원시시대에는 수를 어떻게 세었을까? 무리가 몇명인지 어떻게 세었을까? 의문의 여지는 많겠지만 내 생각에는 아마도 최초는 손가락으로 세지 않았을까?

손가락으로 하나하나씩 센다는 것 자체가 이미 추상적 사고이다. 한명한명을 손가락 하나하나를 대응시킨 것이다. 그러다 무리 또는 가축수가 많아지면서 동굴에 새기지 않았을까? 동굴에 하나하나씩 새기는 것도 일대일대응이다.

칸토어의 작업은 이러한 일대일 대응을 무한집합에 적용하려 한 것이다. 최선을 다해서 일대일대응이 성립한다면 두 집합의 크기는 같다라고 본 것이다. 칸토어의 논리에 따르면 짝수와 자연수는 최선을 다하면 일대일대응이 가능하기 때문에 짝수의 갯수랑 자연수의 갯수는 같은 것이다.

 

그런데 사실 고등학교 집합시간에 분명히 짝수집합은 자연수집합의 부분집합이라고 배웠었다. 그런데 부분집합이면서 동시에 갯수는 같다라니....?

당시 수학자들은 이러한 무한집합의 성질을 다루는 것을 껄끄럽게 생각한 반면에 칸토어는 그 자체가 무한집합의 한 성질로 보았던 것이다.

이 논리를 확장하면 홀수와 자연수 갯수는 같은가? 자연수와 정수의 갯수는 같은가? 라는 의문이 생긴다.

이 때, 칸토어의 대답은 "그렇다"이다.

짝수의 갯수=홀수의 갯수=자연수의 갯수=정수의 갯수

칸토어는 이렇게 대답했다. 심지어 유리수 갯수까지도 자연수랑 같다라고 하였다. 칸토어는 이를 "기수(cardinality)가 같다"표현하고 이 자연수집합과 같은 기수를 표기하는 방법으로 "알레프 영"이라는 기호를 썼다.

이쯤되면 모든 무한집합의 크기가 다 같은 것이 아닌가란 의문이 들 정도이다. 그런데 칸토어의 말에 의하면 또 그건 아니란다.

실수의 갯수는 자연수 집합의 갯수보다 훨씬 더 많다고 하였다.

 

정말 듣는 입장에서 짜증날 만한 얘기만 한다. 당시 수학자들도 칸토어의 이 무한집합론에 화가 단단히 난 모양이었나 보다. 당시 대표적인 수학자 중 한 명인 크로네커는 칸토어를 매우 비난했다. 심지어 푸앵카레같은 수학자 조차 칸토어를 비판했다고 전해진다. 크로네커는 얼마나 화가 났는지 칸토르의 논문이 발표되는 것을 방해하려 했고, 많은 독일 수학자들로 하여금 칸토르의 아이디어를 거부하도록 설득했다. 한마디로 칸토어를 왕따로 만들려 한 것이다. 1884년에 칸토어는 베를린 대학의 교수 자리에 지원하였으나, 크로네커의 반대로 교수직을 얻는데에도 실패했다. 이 크로네커와의 악연으로 칸토어는 신경쇠약으로 고통받고 정신병원에 입원한 것으로 전해진다. 그는 정신적 혼란과 조울증으로 6번 정도 치료를 받았었다.

크로네커

 

그럼에도 그가 좌절에만 머문 것은 아니다. 칸토어는 1890년에 '독일수학자협회'를 설립하는 것을 도왔고, 1893년까지 초대회장으로 일했다. 1897년에 스위스에서 열렸던 수학자들의 최초의 국제적 학술 대회에서도 중요한 역할을 했다. 그리고 무한에 대한 탐구도 계속해서 이루어냈다.

4. 말년과 죽음

칸토어는 마지막 20년 동안 논쟁이 되는 집합론에 대해 다른 수학자들에게 그의 증명 방법이 타당하다는 것을 증명하는데 몰두하였다. 점차 그의 연구는 인정받기 시작하였지만 그의 건강은 반대로 악화되었다. 말년에는 그가 음악이 아닌 수학을 선택한 것에 대해 매우 후회했다고도 한다. 1913년 할레대학에서 은퇴한 뒤 결국은 1918년 1월6일 그는 할레 대학의 정신병원 진료소에서 삶을 마감한다.

참고자료

마이클 j. 브래들리 지음 『달콤한 수학사』 / 안수진 옮김 일출봉 2007.

정경훈 「자연수 vs 정수」 네이버 수학산책 자연수 vs. 정수 (naver.com)

 

 

 

 

이상 부산+김해 (정시+수리논술) 씨앤씨였습니다.