디리클레 함수

이 알쓸신수 시리즈는 【중고등학생이 알아두면 쓸데가 있을까말까한 신박한 수학사전】을 말한다. 그러니 심심하면 읽어보고 안 심심하면 안 읽어도 좋은 글 모음이다.

​

​

​

다음과 같은 함수를 어디선가 봤을 수 있다. 디리클레 함수라고 불리는 함수이다.

​

 

유리수에서는 1, 무리수에서는 0인 함수이며, 모든 구간에서 불연속이고 미분 불가능한 함수이다.

오늘 할 얘기는 이 함수의 미분불가능성을 증명하는 그런 머리 아픈 얘기는 아니고 이 디리클레라는 사람이 이 함수를 왜 생각해내었는지를 생각해보는 것이다. 사실, 이 함수는 수학적인 측면보다는 함수 발달의 역사적인 측면에서 바라 볼 필요가 있다.

 

 

 

이 함수를 처음 봤을 때 필자의 반응은 '그래서~ 뭐 어쩌라고' 이다. 딱히, 감흥이 없었다는 얘기이다. 이는 지금 생각하면 오늘날의 함수의 정의에 의하면 자연스러운 반응이였기 때문이다. 함수의 정의를 생각해 보자.

​

일반적으로 교과서에서는 다음과 같이 정의된다.

​

"정의역의 원소마다 공역의 원소가 하나씩 대응되는 관계"

​

​

​

디리클레 함수가 조금 특이하게 느껴지긴 해도 정의역 한 점마다 공역의 한 점이 대응하게 되니 함수의 정의를 벗어나지 않는다. 그렇지만 초기에 함수가 정확히 정의되지 않았을 때에는 함수인가 아닌가에 대한 고민이 담겨있었던 함수였다.

​

​

​

먼저 간략히 함수의 역사를 보도록 하자.

함수에 대한 관념은 매우 오래된 것이긴 하다. 그렇지만 그렇게 거슬러 올라가면 끝이 없으니 현대적 의미에서 함수의 시작은 데카르트에 의해 시작된 좌표평면의 발명이라 할 수 있다.

 

 

이후 라이프니츠는 1694년에서 1698년 사이에 베르누이와 서신을 교환할 때 ‘대수적인 식으로 표현되면서 한 변수에 의존적인 변수’를 의미하는 데 함수라는 용어를 최초로 사용하였다고 전해진다.

​

멱급수의 발전과 더불어 오일러는 함수를 변수와 상수, 그리고 연산 기호 등으로 구성된 대수적인 식으로 정의하면서 f(x)라는 표현을 사용했다. 그는 함수를 어떤 변하는 양과 일정한 양으로 구성된 하나의 ‘해석적인 표현’ 즉, 식으로 정의하였다. 이때부터 ‘함수’ 라는 말이 널리 사용되었으며, 독립변수와 종속변수를 구분 하기 시작하였다. 그리고 음함수는 함수에서 제외하게 되었다. 그러나 함수가 식에서 얻어진다는 한계를 벗어나지는 못하였다.

​

근대 수학자들이 새로운 곡선에 관해 연구하면서 함수의 개념은 더욱 확장되었다. 이전까지 연구되지 않던 새로운 형태의 식(푸리에 급수)이 등장하였는데 자연히 일반적인 대수식 형태를 지니지 않는 식을 과연 함수라고 할 수 있는지의 문제가 제기되었다.

푸리에는 어떠한 함수도 푸리에 급수로 표현할 수 있다고 얘기하려 했는데, 디리클레는 푸리에 급수를 연구하면서

 

앞서 푸리에의 주장을 뒤집는 함수를 제시하였다. 그리고 그는 1837년의 논문에서 함수를 대수식과 같은 수식이 아니라, 하나의 변수에 단 하나의 변수가 대응되는 ‘관계’라고 보았다. 디르클레는 다음과 같이 적었다.

​

“a<x<b 인 모든 x값에 대하여 각각 유일한 y의 값이 대응하면, 이 구간에서 정의된 y는 변수 x의 함수이다. 그리고 대응이 만들어지는 방법은 중요하지 않다.”

​

디리클레가 제시한 함수 개념은 오늘날과 크게 다르지 않으며, 동적이고 역학적인 개념에서 정적이고 추상적인 개념으로 함수를 바라보게 되었다. 그리고 일반적으로 모든 실수를 독립변수로 간주하던 분위기에서 정의역을 명확히 구분해냈다.

또한 디리클레 이전에는 규칙성을 찾는 것이 목적이었다면 디리클레 이후에는 불규칙적이고 예외적인 것에 주목하였다. 이러한 도전적인 함수의 출현은 이전의 상식을 허물게 하고 엄밀한 기반 위에 미적분을 바라보게 하였는데, 이후 "실수란 무엇인가? 무엇을 연속이라 할 수 있는가? 극한이란 무엇인가? 미분가능성이란 무엇인가? 적분가능성이란 무엇인가"란 더 근본적인 질문으로 옮겨가게 된다.

​