들어가며

수를 배울 때 우리는 자연수(1, 2, 3, …)에서 시작해 어느새 음수, 분수, 무리수, 허수까지 만나게 됩니다. 그런데 이런 의문이 들 수 있습니다.

"수는 왜 자꾸 새로 생겨나지? 자연수만으로는 부족했던 건가? 누가 '이제 분수도 수로 치자'고 정한 걸까?"

결론부터 말하면 — 수가 넓어진 건 취향이 아니라 필요였습니다. 어떤 연산이 "기존 수만으로는 답이 안 나오는" 문제를 던질 때마다, 그 빈자리를 메우려고 수의 집을 한 칸씩 증축해 온 것이 수 체계의 역사입니다. 그리고 그 증축을 가장 극적으로 강요한 사건이 바로 \(\sqrt{2}\)는 분수로 절대 적을 수 없다는 발견입니다.

자연수만으로 막히는 첫 순간 — 뺄셈

자연수는 '개수를 세는 수'입니다. 더하기·곱하기는 자연수 안에서 항상 답이 나옵니다. \(2 + 3 = 5\), \(2 \times 3 = 6\) — 결과가 다시 자연수죠.

그런데 빼기는 다릅니다.

$$3 - 5 = \,?$$

'사과 3개에서 5개를 뺀다'는 건 자연수의 세계에선 말이 안 됩니다. 답이 자연수 칸 밖으로 나가버리거든요. 이 빈자리를 메우려고 음수를 들이고, 자연수에 0과 음수를 더한 것을 정수(integer) 라고 부릅니다.

  • 자연수 \(\mathbb{N}\): \(1, 2, 3, \dots\)
  • 정수 \(\mathbb{Z}\): \(\dots, -2, -1, 0, 1, 2, \dots\)

여기서 \(\mathbb{Z}\)는 정수를 뜻하는 기호(독일어 Zahlen에서 옴)일 뿐, 어렵게 볼 것 없습니다. 핵심은 **"빼기를 자유롭게 하려면 음수가 필요했다"**는 것뿐입니다.

두 번째 막힘 — 나눗셈

정수가 생기니 빼기는 해결됐습니다. 그런데 이번엔 나눗셈이 칸 밖으로 나갑니다.

$$1 \div 3 = \,?$$

\(1\)을 \(3\)으로 나누면 정수로는 떨어지지 않습니다. 이 빈자리를 메우는 것이 분수이고, 정수의 비(比)로 적을 수 있는 모든 수를 유리수(rational number) \(\mathbb{Q}\)라고 합니다.

$$\mathbb{Q} = \left\{ \frac{a}{b} \;\middle|\; a, b \text{ 는 정수}, \; b \neq 0 \right\}$$

여기서 '유리(有理)'는 '이치가 있다'는 뜻이 아니라 ratio(비율) 의 번역입니다. 즉 유리수 = "정수의 비로 적을 수 있는 수"예요. \(0.5 = \tfrac{1}{2}\), \(0.333\dots = \tfrac{1}{3}\)처럼 끝나거나 반복되는 소수는 모두 유리수입니다.

이쯤 되면 "이제 모든 수는 분수로 적을 수 있겠지" 싶습니다. 바로 여기서 수학사의 충격적인 사건이 터집니다.

√2는 분수로 적을 수 없다

한 변의 길이가 \(1\)인 정사각형의 대각선 길이는 피타고라스 정리로 \(\sqrt{2}\)입니다. 분명히 '존재하는 길이'인데, 이 수는 어떤 분수로도 적을 수 없습니다. 왜 그런지 따라가 봅시다.

직관: 만약 \(\sqrt{2}\)가 분수라면, 더 이상 약분할 수 없는 기약분수 \(\dfrac{a}{b}\)로 적을 수 있어야 합니다. 그런데 그렇게 두면 \(a\)와 \(b\)가 둘 다 짝수라는 결론이 나와, "더 약분할 수 없다"는 전제와 정면으로 부딪힙니다.

식으로 확인해 보겠습니다. \(\sqrt{2} = \dfrac{a}{b}\)라 하고 양변을 제곱하면:

$$2 = \frac{a^2}{b^2} \quad\Longrightarrow\quad a^2 = 2b^2$$
  • 오른쪽이 \(2 \times (\text{정수})\)이므로 \(a^2\)은 짝수입니다. 그런데 홀수를 제곱하면 홀수이므로, \(a^2\)이 짝수이려면 \(a\)도 짝수여야 합니다. 그래서 \(a = 2k\)로 둘 수 있습니다.
  • 이걸 대입하면 \((2k)^2 = 2b^2\), 즉 \(4k^2 = 2b^2 \Rightarrow b^2 = 2k^2\). 같은 논리로 \(b\)도 짝수입니다.

결국 \(a\)와 \(b\)가 둘 다 짝수 — 즉 \(2\)로 한 번 더 약분할 수 있다는 뜻이라, "기약분수"라는 출발 가정이 무너집니다. 모순이죠. 따라서 \(\sqrt{2}\)를 분수로 적는 일은 불가능합니다.

여기서 자주 듣는 "소수점이 끝없이 이어져서 무리수"라는 설명은 결과이지 이유가 아닙니다. 진짜 이유는 "정수의 비로 못 적는다"는 것이고, 그래서 소수로 풀면 끝없이 불규칙하게 이어질 수밖에 없는 것입니다.

이렇게 분수로 못 적는 수를 무리수라 하고, 유리수와 무리수를 모두 합한 것을 실수(real number) \(\mathbb{R}\)라고 합니다. 수직선 위의 빈틈을 무리수가 채워 넣어, 비로소 '끊김 없는 직선'이 완성됩니다.

마지막 칸 — √(−1)

실수까지 오면 수직선 위 모든 점에 수가 대응됩니다. 그런데 또 하나의 연산이 칸 밖으로 나갑니다.

$$x^2 = -1 \quad\Longrightarrow\quad x = \sqrt{-1} = \,?$$

실수는 어떤 수든 제곱하면 \(0\) 이상입니다(음수를 제곱해도 양수가 되죠). 그래서 '제곱해서 \(-1\)이 되는 실수'는 수직선 위에 없습니다. 이 마지막 빈자리를 메우려고 제곱하면 \(-1\)이 되는 새 수 \(i\)를 약속으로 들입니다.

$$i^2 = -1$$

이 \(i\)를 실수에 더해 만든 \(a + bi\) 꼴의 수가 복소수(complex number) \(\mathbb{C}\)입니다. \(i\)는 '없는 수'를 억지로 만든 게 아니라, 앞의 음수·분수·무리수와 똑같이 "기존 수로는 답이 없던 자리"를 메운 한 칸의 증축일 뿐입니다.

\(i\)가 왜 '90° 회전'이라는 기하학적 의미까지 갖는지는 i를 곱하면 왜 90° 회전인가에서 이어집니다.

한 줄로 꿰는 패턴

지금까지의 흐름을 한 문장으로 줄이면 이렇습니다.

어떤 연산의 답이 지금 가진 수로는 안 나올 때, 그 답을 담을 새 칸을 만들어 수를 넓힌다.

막힌 연산안 되는 예메운 새 수넓어진 집
빼기\(3 - 5\)음수정수 \(\mathbb{Z}\)
나누기\(1 \div 3\)분수유리수 \(\mathbb{Q}\)
제곱근\(\sqrt{2}\)무리수실수 \(\mathbb{R}\)
음수의 제곱근\(\sqrt{-1}\)허수 \(i\)복소수 \(\mathbb{C}\)

그래서 수의 집은 포함 관계로 차곡차곡 쌓입니다.

$$\mathbb{N} \subset \mathbb{Z} \subset \mathbb{Q} \subset \mathbb{R} \subset \mathbb{C}$$

안쪽 수는 바깥 칸에도 그대로 들어 있습니다(자연수 \(3\)은 정수이기도, 유리수이기도, 실수이기도, 복소수이기도 합니다). 넓어졌다고 옛 수가 사라지는 게 아니라, 담을 수 있는 답의 종류가 늘어난 것뿐입니다.

직접 체험하기

아래 도식에서 동심원은 안쪽부터 \(\mathbb{N} \subset \mathbb{Z} \subset \mathbb{Q} \subset \mathbb{R} \subset \mathbb{C}\)입니다. 연산 버튼을 누르면 그 답이 처음으로 살 수 있는 칸까지 점이 바깥으로 튀어 나갑니다. 그리고 아래쪽 \(\sqrt{2}\) 추격전에서는, 분모 \(b\)를 아무리 키워도 \(a^2\)과 \(2b^2\)이 영원히 어긋나는 것 — 즉 \(\sqrt{2}\)를 정수의 비로는 못 맞춘다는 것을 직접 확인할 수 있습니다.

수 체계 지도 — 연산이 새 수를 부른다
연산 버튼을 누르면 그 답이 처음 사는 칸까지 점이 튀어 나갑니다. 아래 √2 추격전은 분모 b를 키워도 a²=2b²가 안 되는 것을 보여줍니다.

마치며

수가 자연수에서 복소수까지 넓어진 것은 누군가의 취향이 아니라, 연산이 던진 문제를 풀기 위한 필연적인 증축이었습니다. 빼기가 음수를, 나누기가 분수를, 제곱근이 무리수를, 음수의 제곱근이 허수를 불러냈습니다. 그 한가운데에 "\(\sqrt{2}\)는 분수가 아니다"라는 발견이 있었고, 이 한 사건이 유리수의 세계를 깨고 실수로 가는 문을 열었습니다.

다음에 새로운 수나 기호를 만나면 한 번 물어보세요 — "이 수는 어떤 막힌 연산을 풀려고 만들어졌을까?" 그 답을 따라가면, 추상적으로 보이던 수 체계가 사실은 아주 자연스러운 '문제 해결의 기록'이었음을 알게 됩니다.

함께 보면 좋은 글 — 이어서 읽으면 좋은 글: i를 곱하면 왜 90° 회전인가 (이 글의 마지막 칸 \(\mathbb{C}\)가 어떤 구조인지) · 로그는 왜 곱셈을 덧셈으로 바꿀까